La compañía de Redmond está trabajando para desarrollar una herramienta que sirva para identificar sesgos en los algoritmos.
A medida que la inteligencia artificial avanza surgen dudas asociadas a su adopción y a posibles malas praxis. El problema de esta tecnología es que su esencia es la automatización. De la misma manera que la cadena de producción fue una expansión de la capacidad de fabricación, la IA permite delegar en la tecnología tareas que antes necesitaban la supervisión de una persona.
Esto significa que si ahora no necesitan esta supervisión humana, las tareas se pueden replicar de forma masiva. El personal tiene costes –hay que pagar a un trabajador que por ejemplo esté monitorizando las noticias de un periódico para obtener aquellas que tienen valor para su empresa–, pero un sistema de IA apenas los tiene una vez desarrollado , con lo que ese mismo software puede monitorizar cientos de periódicos con algunos pequeños ajustes.
El problema aquí está en que si cada periódico lo monitoriza una persona, esta tendrá su propio criterio. Cada uno tenderá a cometer un tipo de fallo porque nadie es perfecto. Pero un software de IA lo que hará será replicar el mismo fallo en todas esas cientos de tareas. Su error será siempre el mismo o, mejor dicho, será consecuencia del mismo sesgo.
Este tipo de desviaciones son las que quiere evitar Microsoft. Si, por ejemplo, el software que monitoriza noticias da menos importancia a aquellas con protagonistas negros existe un problema. Para atajarlo es necesario poder identificar sesgos en los algoritmos. La compañía con sede en Redmond cree que este es el primer paso, aunque después hay que poder eliminar estos sesgos.
Una cruzada para hacer la tecnología más neutral
Recientemente, Facebook también anunció una herramienta para identificar sesgos en algoritmos. Y es que, este problema se ha convertido en una preocupación general en la industria. La inteligencia artificial tiene que ser lo más neutral posible para que los consumidores confíen en ella.
En esta línea se desarrolla el trabajo de Microsoft. Después de todo, los algoritmos van a tomar cada vez más decisiones por nosotros. Y estas no deberán estar imbuidas de signos discriminatorios o parcialismos.
