El avance tecnológico se ha manifestado con una sorprendente rapidez en la era digital. Uno de los dominios que ha capturado la imaginación colectiva es el de las imágenes generadas por IA. Gigantes tecnológicos como Adobe y Microsoft han introducido características generativas en herramientas populares como Adobe Express y Microsoft Paint. Sin duda, la revolución de la inteligencia artificial generativa parece estar al alcance de la mano.
Este auge de las imágenes con IA no está exento de preocupaciones. Las imágenes que resultan de estos procesos son tan perfectas que el ojo humano no puede distinguirlas de las auténticas. Todo esto lleva consigo el potencial riesgo de propagar desinformación a escala masiva. Un escenario en el que una imagen falsa podría considerarse verdadera es una amenaza real.
SynthID para identificar imágenes generadas por IA
En este contexto, Google ha dado un paso audaz. A través de su división DeepMind, ha introducido SynthID. Se trata de una herramienta que marca y distingue imágenes generadas por inteligencia artificial de aquellas creadas por seres humanos.
El enfoque es bastante ingenioso, aunque todavía se encuentra en sus primeras etapas. En primer lugar, incrusta una marca de agua digital imperceptible en las imágenes generadas por IA. Esta marca puede resistir modificaciones como cambios de color, tamaño y compresión. Asimismo, es robusta en diversos escenarios.
Si bien el avance es prometedor, no está exento de limitaciones. Por ahora, SynthID solo puede detectar imágenes generadas a través de la herramienta de texto-a-imagen de Google ya que son las únicas fotografías a las que puede aplicar la marca de agua durante su creación. A pesar de esta restricción, es un paso significativo hacia la autenticidad y verificación de contenido generado por IA.
Posibles aportes de esta herramienta
Actualmente, las «deep fakes» y un generador de imágenes online pueden ser utilizados por actores malintencionados. En consecuencia, esta herramienta es una respuesta necesaria al desafío. Kris Bondi de Mimoto, una empresa de ciberseguridad, subraya la evolución constante de las tácticas y tecnologías de los actores maliciosos. Especialmente, con la disponibilidad creciente y el costo decreciente de tecnologías avanzadas como las deep fakes.
Dattaraj Rao, señala la tradicional utilización de marcas de agua para proteger los derechos de autor de las imágenes. Sin embargo, en el contexto de las imágenes generadas por IA, cree que el desafío radica en la evolución rápida de la tecnología de IA. Lo que puede llevar a la vulnerabilidad y anulación de estas marcas de agua. Además, Rao sugiere que las técnicas tradicionales de protección de contenido, como la criptografía, podrían ser la respuesta en el futuro.
En conclusión, las imágenes generadas por IA representan un fascinante avance tecnológico. Sin embargo, con su proliferación viene la responsabilidad de autenticar y verificar. Las herramientas como SynthID de Google son pasos en la dirección correcta. Aunque aún quedan muchos desafíos por superar. Es imperativo que las empresas líderes en tecnología y la comunidad global trabajen conjuntamente para garantizar que la revolución de la IA se desarrolle de una manera que beneficie a la humanidad y prevenga el uso indebido.
Imagen de cabecera de Envato
