Medidas Etiquetar imágenes generadas por IA

Etiquetar imágenes generadas por IA: conoce la iniciativa de Meta

Los adelantos de la Inteligencia Artificial (IA) han llegado para resolver diversos problemas, aunque simultáneamente trae desafíos. Uno de ellos es la proliferación de imágenes, audios y videos falsos que recorren internet. Ante este problema, Meta ha propuesto etiquetar imágenes generadas por IA. Veamos con más detalle de qué se trata.

¿Por qué etiquetar imágenes generadas por IA?

Las imágenes creadas por IA abundan en un mundo donde la generación de contenidos, la atención y la velocidad es la regla. Este aumento de imágenes falsas tiene consecuencias significativas en varios campos. Por ejemplo, la política, el periodismo y la privacidad y seguridad personal.

Así, la inteligencia artificial ha sido utilizada para:

  • Propagar desinformación.
  • Influir en opiniones.
  • Minar la confianza en los medios de comunicación y la información en línea.

Si hablamos de política, el uso de esta tecnología ha provocado numerosos escándalos. Por ejemplo, Joe Biden, Vladimir Putin o Kim Jong han sido blanco de ataques gracias a su uso indebido. O más recientemente, el primer ministro del Reino Unido, Rishi Sunak.

Este fenómeno, conocido como deepfakes, ha transformado la manera en que se manipulan y crean imágenes en internet. En este contexto surge la pregunta de cómo frenar este problema.

Medidas control IA etiquetar
Fuente: Unsplash

Etiquetar imágenes generadas por IA para contener el peligro

Como ya lo mencionamos, un problema que subyace del uso de estas herramientas es lo fácil de provocar desinformación a gran escala. El reto de Meta –propietaria de Facebook, Instagram, WhatsApp– es tratar de evitar que las falsificaciones generen más estragos.

El pasado 5 de febrero de 2024, el Conjunto de Supervisión de la empresa ha criticado las limitaciones de las medidas que se han tomado hasta ahora para detectar imágenes falsas o deepfakes.

Legisladores, expertos y analistas de todo el mundo han venido presionando desde hace años a Meta para que controle el uso de la IA en sus aplicaciones. Todo ello debido a su uso malicioso que utiliza, incluso, la publicidad para construir campañas sucias. 

Desinformación con Deepfakes
Fuente: Unsplash

Ante esta situación, Nick Clegg, presidente de Asuntos Globales de Meta, ha dejado claro que ya está en funcionamiento un sistema de reconocimiento de imágenes para distinguir si son “reales” o “falsas”. Así, además de identificar imágenes generadas por IA, las etiqueta para demostrar transparencia. ¿Cómo funciona ese mecanismo y de qué forma nos alertaría?

¿Cómo es posible etiquetar imágenes generadas por IA?

 La aplicación Imagine IA, perteneciente a Meta, ya aplica a su contenido “fotorrealista” la marca de agua “Imaginando con IA”. Etiquetar imágenes generadas por IA brinda seguridad a la hora de su uso.

Clegg aseguró que la empresa pronto podrá colocar marcas de agua a las imágenes fotorrealista generadas por otras plataformas como:

  • Google.
  • OpenAI.
  • Microsoft.
  • Adobe.
  • Midjourney.
  • Shutterstock. 
Meta apps Identificar imágenes generadas por IA
Fuente: Unsplash

Pese a la presión internacional, esta industria aún no cuenta con estándares para reconocer videos y audios generados por IA. En este sentido, la tecnología debe demostrar que no se queda corta ante las necesidades de seguridad urgentes que necesitan los internautas.

Ante la prensa, Clegg declaró que Meta está impulsando a que las demás compañías contribuyan a etiquetar imágenes generadas por IA: “Esto solo funcionará si grandes actores establecidos como nosotros tomamos la iniciativa”.

Otro aspecto de estas medidas de Meta recaerá en sus usuarios. Estos podrán etiquetar imágenes generadas por IA de manera proactiva. Incluso, quienes no lo hagan podrían ser sancionados. 

En unión está la fuerza

Todo esto nos lleva a reflexionar sobre el uso ético de la IA.  Etiquetar las imágeneses el inicio, pero como usuarios podemos hacer más.

La IA y su aprendizaje automático son más que los “motores del futuro”, como apuntó el presidente chino Xi Jinping. Ese futuro ya es una realidad ahora: somos parte de ella.

Nuevas medidas IA Meta
Fuente: Unsplash

Nick Clegg sugirió que las aplicaciones podrían requerir que los usuarios identifiquen los recursos que crean, bajo la amenaza de sanciones o la eliminación de sus perfiles.

En última instancia, el camino hacia un uso más responsable de la IA implica:

  • La implementación de regulaciones adecuadas.
  • El fomento de una cultura de responsabilidad y conciencia entre los usuarios. 

En la unión encontramos la forma de abordar los desafíos éticos y sociales planteados por el avance de la IA. ¿Estás dispuesto a ser parte activa contra la desinformación y el uso irresponsable de la IA en la sociedad actual?

Imagen de cabecera: Unsplash

Sobre el autor

RELACIONADOS

futuro sostenibilidad recommerce

Wayra Sessions: El futuro del Recommerce

La situación es preocupante: solo el 9% de los recursos naturales se reutilizan después de su primer uso. Seguimos dependiendo de esquemas económicos lineales...