¿Conoces el uso que se le está dando a la IA y cómo esta no solo aporta al avance tecnológico, sino que influye en la privacidad? Pues en el metro de Londres se están usando cámaras con IA (Inteligencia Artificial). Estos dispositivos no solo observan, sino que analizan al instante las emociones. ¿Con qué propósito se hace uso de esta sofisticada tecnología de reconocimiento facial?
Cámaras con IA: ¿debería preocupar su uso?
En el metro de Londres se ha iniciado el uso de cámaras con IA. Estas pueden detectar y analizar las emociones de los usuarios. Es resultado de la tecnología avanzada de reconocimiento facial. Dichos dispositivos utilizan algoritmos sofisticados para interpretar lo que ven; por ejemplo:
- Expresiones faciales.
- Micro gestos.
- Otros indicadores físicos que reflejen emociones, como felicidad, tristeza, enojo o ansiedad.
Al procesar imágenes en tiempo real, estas cámaras con IA pueden identificar patrones de comportamiento en los rostros. Adicionalmente, ofrecen información relevante sobre el estado emocional general en áreas públicas. Es por esta razón, que se ha vuelto tema de controversia, pues se realiza sin consentimiento de los usuarios.
¿Quién empezó el uso de estas cámaras con IA?
Cámaras 360, estratégicamente ubicadas en las barreras de entrada, capturaron los rostros de los pasajeros. Fueron analizados con el servicio Rekognition de Amazon. Esta herramienta de inteligencia artificial determinó, además de las emociones, la edad y el sexo de los pasajeros.
Según diversas fuentes, Network Rail tomó fotografías de personas en las barreras como parte de una prueba iniciada en 2022. Esta información se obtuvo de documentos hallados por Big Brother Watch, una organización de libertades civiles.
De acuerdo con la información obtenida, Network Rail ha usado este análisis con los siguientes propósitos:
- Medir la satisfacción.
- Maximizar la publicidad y los ingresos minoristas.
Las cámaras con wifi formaban parte de una prueba para usar la IA en la solución de problemas; por ejemplo:
- Intrusión ilegal.
- Detección de delitos.
- Hacinamiento.
- Suelos resbaladizos.
¿Cuáles son las implicaciones éticas?
El uso de cámaras con IA, que tienen capacidades de reconocimiento emocional, plantea serias implicaciones éticas. Entre ellas se encuentra la falta de transparencia, además de la normalización de la vigilancia digital en lugares públicos.
La instalación de este tipo de cámaras sin el consentimiento explícito y consciente de los usuarios genera preocupaciones sobre la invasión de la privacidad y la pérdida de confianza pública. Por otro lado, hay falta de claridad en cuanto a cómo es la recopilación, el almacenamiento y utilización de estos “datos emocionales”.
Por consiguiente, se piensa que se usa de forma indebida, que tiene fines comerciales o de control social.
La ONG Big Brother Watch ha sido una de las principales en lanzar críticas y condenar estas acciones. Algunas de sus principales refutaciones radican en los siguientes aspectos:
- Indican que la recopilación de información emocional sin el consentimiento de los individuos constituye una infracción a los derechos de privacidad.
- Sostienen que esta tecnología podría ser empleada para supervisar e influir en conductas. Fomentarían una cultura de vigilancia constante que mina las libertades civiles.
- También, que la instalación de dichas cámaras con IA sin un marco normativo apropiado y medidas de protección sólidas pone en peligro la privacidad de los habitantes. Además de que abre la puerta a potenciales abusos de autoridad.
La profesora Lilian Edwards de la Universidad de Newcastle criticó el uso del reconocimiento de emociones. Lo calificó como «poco ético y probablemente ilegal«.
Por su parte, la profesora Sandra Wachter, de la Universidad de Oxford, alertó sobre el riesgo de sesgos de género y origen étnico. Advirtió que este tipo de vigilancia y tecnología no solo infringe la privacidad, sino que también promueve la falsa idea de que todos los individuos son posibles delincuentes.
El futuro de la vigilancia digital
Si se piensa en un futuro respecto a este tipo de usos, es probable que la tecnología de cámaras con IA y capacidades de reconocimiento emocional se expanda y evolucione. Ello llevará a la mejora en su precisión y alcance. Para que se le dé un uso debido, su desarrollo debe ir acompañado de:
- Un debate público robusto.
- La implementación de regulaciones estrictas para garantizar que se respeten los derechos de privacidad. Es esencial mantener un equilibrio entre la seguridad y las libertades individuales.
La transparencia en el uso de esta tecnología, junto con la adopción de medidas de protección de datos y el establecimiento de límites claros sobre su utilización, serán cruciales para evitar la normalización de una sociedad de vigilancia y preservar la confianza pública en las instituciones que implementan estas tecnologías. En definitiva, la presencia de cámaras con IA en el sistema de transporte subterráneo de Londres supone un progreso tecnológico; pero al mismo tiempo nos plantea interrogantes fundamentales acerca de la ética y la privacidad. La manera en que afrontemos estos dilemas determinará el rumbo de la vigilancia digital en el futuro. ¿Estamos listos para afrontar este nuevo desafío? Conoce más al respecto en nuestro blog.
