Las autoridades en Estados Unidos han tenido que frenar el uso del reconocimiento facial, mientras las empresas esperan una normativa al respecto.
No es una novedad. La tecnología avanza muchas veces más rápido que los marcos normativos. Cuando esto ocurre toca levantar el pie del acelerador y reflexionar. De esta reflexión surgirán las nuevas herramientas legales con las que los gobiernos y la sociedad aprovecharán las ventajas de la tecnología sin lesionar derechos. Este es el punto de encuentro deseado y es lo que se pretende con el uso del reconocimiento facial.
La tecnología para reconocer las identidades de las personas escaneando sus caras ha tenido que detener su avance. Al menos entre las autoridades públicas, en Estados Unidos. Ha sido un movimiento industrial, de varias empresas. Primero IBM anunció que no ofrecería a partir de ese momento su tecnología de reconocimiento facial. Lo hizo citando n abuso potencial de la privacidad y de los derechos humanos.
IBM señaló que pese a los avances de la inteligencia artificial, el uso del reconocimiento facial contiene sesgos en edad, género, raza y etnia. La compañía tomó una decisión radical. Y es que también dijo que no desarrollaría ni investigaría en este campo.
Después le tocó el turno a Amazon. El empleo de su tecnología por las autoridades estadounidenses (al menos varios departamentos de policía la usaban) se vio cuestionada. La firma de Jeff Bezos anunció una moratoria de un año, en el que no ofrecerá su software a estas instituciones. El objetivo de la compañía es que en este tiempo, los reguladores estadounidenses establezcan un marco normativo para la tecnología.
Un alto en el camino para corregir los sesgos
Amazon no ofreció ninguna explicación más sobre su decisión. Dejaba de prestar servicio con su herramienta Rekognition a la policía con el fin de esperar una legislación. Aunque la compañía sigue prestando su software a organizaciones de derechos civiles, por ejemplo para búsqueda de personas desaparecidas.
Pero detrás de la decisión de Amazon hay un contexto académico desfavorable al uso del reconocimiento facial. Un paper procedente del MIT Media Lab y de Microsoft Research señalaba errores en los sistemas para escanear rostros de IBM e incluso de la propia Microsoft. El estudio detectó que las personas de piel blanca eran identificadas con mucha mayor precisión, mientras que con las de piel negra el software fallaba con más frecuencia.
Un nuevo estudio, de 2019, que analizó el software de Amazon, comprobó lo mismo con la tecnología de esta compañía. Había más tasa de error con las personas de piel más oscura, mientras que las de piel más clara eran identificadas prácticamente sin errores. Con las personas negras, el sistema a veces equivocaba los géneros.
Hay una causa común en todo ello. Las bases de datos de imágenes de personas, con las que se entrenan los algoritmos, tienden a ser mayoritariamente de gente blanca y de género masculino. Es un problema técnico, en realidad, pero que solo desde la regulación se puede controlar. Al menos a esa conclusión parecen haber llegado las empresas implicadas.
