YouTube-prohibe-Deepfakes

YouTube dice adiós a los deepfakes

En la era digital en constante evolución en la que estamos inmersos, la inteligencia artificial se ha convertido en una parte integral de nuestras vidas cotidianas. Entre las numerosas innovaciones, los chatbots han emergido como herramientas poderosas que facilitan la interacción entre humanos y máquinas. El más destacado en este campo es ChatGPT, que ha revolucionado la forma en la que percibimos la comunicación con las IAs. Aparte de esta capacidad de la IA, también hemos sido testigos de la increíble y realista edición de imágenes, vídeos, y lo que es más sorprendente y a la vez aterrador, de voces, que son los llamados deepfakes

Todos estos avances han generado muchas ventajas, pero no debemos olvidar las amenazas que esta nueva tecnología puede suponer para nuestras vidas personales y para nuestros trabajos

¿Cómo afecta la IA a YouTube? 

A pesar de que YouTube está implementando el uso de la IA en su sistema, no ha sido capaz de descartar el comienzo hacia una autorregulación. Contenidos alterados o creados al completo con inteligencia están comenzando a hacerse virales, comprometiendo la seguridad de personas y alimentando el mundo de la desinformación a gran escala. 

Este uso excesivo de la IA ya ha generado controversias en innumerables ocasiones, controversias que han llevado a los creadores de contenidos a exigir un control para que el uso de su material en la plataforma de contenidos sea correcto

La nueva política de YouTube obliga a llevar a cabo una serie de acciones en relación con el uso de la inteligencia artificial: 

  • Se deben indicar los vídeos que han sido creados o editados con la IA, sobre todo cuando tratan temas sensibles como pueden ser unas elecciones, la salud pública, crisis humanitarias, etc. 
  • También se debe señalar el uso de las herramientas de IA del propio YouTube.
Contenido-generado-IA-prohibido-YouTube
Fuente: Envato

Pero ¿cómo es posible detectar esto? 

La plataforma ha creado un caché de búsqueda del material elaborado con inteligencia artificial. Se denomina Dream Screen y ha sido diseñado para la plataforma de Shorts. 

Proceso de denuncias de estos montajes falsos 

Esta nueva implementación por la seguridad de los contenidos permite que los propios usuarios soliciten la eliminación de un vídeo generado por IA. De hecho, esto es muy beneficioso para los artistas y para sus discográficas, que a partir de ahora tendrán la capacidad de solicitar la eliminación de deepfakes. 

Hace unas semanas hemos podido ver como una canción del supuesto trapero Bad Bunny se ha hecho viral, sobre todo en TikTok. Lo sorprendente de esto es que el single no ha sido compuesto por el puertorriqueño, sino por la IA. Al descubrir esto, Bad Bunny lanzó un mensaje en sus redes sociales expresando indignación por el hecho que una máquina sea capaz de copiar su voz -que es muy diferenciable en comparación con la de otros artistas-. Este es un claro ejemplo que refleja los peligros de la inteligencia artificial en plataformas como YouTube

Montaje IA YouTube
Fuente: Envato

Desde ahora en adelante, todos los artistas que hayan sido víctimas de este tipo de ‘robo de identidad’ podrán solicitar la eliminación completa de aquellos contenidos que imiten su voz e imagen. Por supuesto, de esos que no cuenten con un permiso específico por parte de los sellos discográficos o de los artistas. 

Este nuevo proceso de quejas no excluye a los usuarios cotidianos de la plataforma, sino que también les permite participar en la detección de contenidos generados por IA. 

¿Cómo evitar que se elimine algún contenido generado con IA? 

Evidentemente no todos los contenidos se hacen para reemplazar la identidad de las personas más conocidas, pero hay una gran parte de ellos que sí. Para diferenciarse de los contenidos maliciosos, los creadores deben poner en práctica una serie de medidas:

  • A la hora de crear contenido realista, indicar con una etiqueta que está hecho con IA. Hace un tiempo, Google hizo que los anuncios políticos de YouTube y de otras plataformas de Google que usasen IA tuviesen una etiqueta de advertencia para los espectadores.
  • Además, los creadores tienen varias opciones para indicar que han usado IA, por ejemplo, distinguiendo entre un evento que nunca ha pasado o alguien haciendo o diciendo algo que nunca ha hecho o dicho. 

Teniendo en cuenta esta nueva forma de separar el contenido, los espectadores recibirán alertas sobre videos modificados con etiquetas. 

Edición con IA Youtube
Fuente: Envato

¿Qué sucede si los creadores no ejecutan estas medidas? 

  • La eliminación del contenido.
  • Una suspensión de los pagos monetarios que se consigan a través de la plataforma.

El futuro de la regulación de la IA

En un mundo donde la línea entre lo real y lo manipulado digitalmente se vuelve cada vez más difusa, este tipo de medidas adoptadas por plataformas como YouTube para abordar los contenidos deepfake representan un paso crucial hacia la protección de la integridad y la autenticidad en línea

Sin embargo, a medida que la tecnología avanza, la lucha contra los contenidos generados por la IA se convierte en un desafío continuo que requiere un enfoque multifacético que combine la innovación tecnológica con políticas sólidas y una mayor conciencia pública.

Imagen de cabecera: Envato

Sobre el autor

RELACIONADOS