A estas alturas, todos hemos visto ya alguna que otra imagen generada con inteligencia artificial. Caso aparte es que te hayas dado cuenta. Las primeras imágenes creadas con IA eran algo toscas, y era muy fácil ver errores, en especial si aparecían personas o animales. Pero la cosa está cambiando muy rápido, y cada vez cuesta más diferenciar una fotografía real de una imagen hecha con IA. De ahí la necesidad de introducir y estandarizar tecnologías como SynthID, la propuesta de Google para saber si un contenido fue creado por una IA o por un humano mediante marcas de agua.
Este debate no es nuevo. Todo empezó con Photoshop, el editor de fotos de Adobe. Tiempo atrás, los retoques excesivos de fotografías llegaron a ser identificados como “hechos con Photoshop”. Y en determinadas publicaciones en papel o digitales, se han visto verdaderas barbaridades para embellecer o realzar a personalidades de todo el mundo. Con todo, identificar una imagen “natural” de una “retocada con Photoshop” no siempre era fácil. Y con la inteligencia artificial generativa viene a suceder lo mismo.
El mal uso de la IA generativa ya puede verse en redes sociales. Imágenes, en ocasiones burdas, pero en otras muy realistas, que acompañan soflamas, bulos y mensajes de odio contra determinadas personas, colectivos o movimientos sociales. Y en distintos ámbitos profesionales, también empiezan a verse ejemplos de contenidos generados con IA no identificados como tal. Pero Google quiere solucionar este problema con un sistema de marcas de agua para contenidos creados con INteligencia artificial. Te contamos todo lo que sabemos sobre SynthID.
Qué es SynthID y para qué sirve
Google define SynthID en su página oficial como su “herramienta de marca de agua, diseñada específicamente para contenido generado por IA. Permite a los usuarios identificar el contenido generado (o alterado) por IA, ayudando a fomentar la transparencia y la confianza en la IA generativa”.
Para Google, la IA generativa “puede ayudarnos a todos a ser más creativos, productivos e innovadores”. Pero esto no es incompatible con separar el grano de la paja. O, mejor dicho, saber qué contenido fue creado por un humano o por una IA. Un tema espinoso que ha dado pie a un debate en el que ambas partes tienen su parte de razón.
SynthID se presentó por primera vez a finales de agosto de 2023. Como herramienta para identificar con marcas de agua imágenes generadas con IA. Esta primera versión se publicó en versión beta cerrada, para probarla y ver qué tal funcionaba. Y solo podían usarla quienes tenían acceso a la herramienta de Google Vertex AI que utilizaran Imagen, el modelo de IA generativa especializado en imágenes.
El tiempo ha pasado, Google ha visto que SynthID funciona bien. Y, para promover su utilización generalizada, ha decidido recientemente licenciarla con código abierto. Para que cualquiera pueda integrar esta tecnología en sus aplicaciones, herramientas o modelos de IA. Y así convertir SynthID en un estándar.
Cómo funcionan estas marcas de agua para IA
En la actualidad, SynthID permite insertar marcas de agua digitales en contenido generado con IA de cualquier tipo. Imágenes, audios, textos o videos. Según Google, estas marcas de agua son imperceptibles para los humanos, y no afecta a la calidad del contenido en sí mismo. Pero sí las detectará su tecnología, de la que luego hablaremos.
Así, la propia Google utiliza SynthID para identificar los textos generados con Gemini. Y en los audios, ocurre lo mismo cuando los generan el modelo Lyria o la función de crear un podcast con el texto almacenado en Notebook LM. Según Google, la marcas de agua de los audios “es inaudible por el oído humano y no puede ser alterado por modificaciones habituales como añadir ruido, la compresión MP3 o cambiar la velocidad de la pista de audio”.
Y con los videos, sucede igual. Los videos creados con el modelo Veo de Google, incluyen la marca de agua de SynthID. “No altera la calidad de la imagen o el video. Se añade cuando el contenido está siendo creado y está diseñada para no verse afectada por modificaciones tales como cortar, añadir filtros, cambiar ratios de refresco o comprimir el video”.
Qué es SynthID Detector
Si SynthID es “imperceptible al ojo humano”, ¿cómo sabremos si un contenido generado con IA tiene la marca de agua? La respuesta es SynthID Detector. Esta herramienta, presentada no hace mucho, es la encargada de decirnos si esa imagen, texto, audio o video contienen la marca de agua SynthID. Que acredita que ese contenido fue creado por una IA.
De momento, SynthID Detector está disponible solamente a un grupo selecto de probadores. Pero, con el tiempo, se extenderá a todo el mundo. Incluyendo periodistas, profesionales de los medios e investigadores. Colectivos que trabajan cada vez más con este tipo de contenidos. Por lo demás, el funcionamiento de SynthID Detector es simple. Subimos el contenido, la herramienta lo analiza y nos dice si hay una marca de agua.
La gran pregunta es, ¿logrará Google que SynthID se convierta en un estándar en la industria de la inteligencia artificial generativa? Es complicado. De momento, Google lo usará en sus modelos de IA. Y también lo hará NVIDIA, a partir de un acuerdo entre ambas compañías. Sin embargo, teniendo en cuenta que cada modelo de IA va por libre y la competencia es feroz, cuesta imaginar que todas las empresas del sector se pongan de acuerdo salvo que se vean obligadas. El tiempo dirá hasta dónde llega el éxito de SynthID.
