Hoy, sin saberlo, un algoritmo puede haber decidido si te llaman para una entrevista de trabajo, si tu banco te concede un crédito o qué noticias aparecen primeras en tu pantalla. Esto ya está pasando, a diario, en millones de decisiones que afectan a la vida de las personas. La pregunta que cada vez más expertos, reguladores y ciudadanos se hacen es si esos algoritmos son realmente objetivos, o si simplemente reproducen a una escala mucho mayor los mismos sesgos y errores que siempre han existido en las decisiones humanas.
Cómo funcionan estos algoritmos
Un algoritmo es, en esencia, un conjunto de instrucciones diseñadas para resolver un problema o tomar una decisión. En el contexto de la inteligencia artificial, esos pasos no los escribe un programador uno a uno: el sistema aprende por sí solo analizando grandes cantidades de datos. A esto se le llama machine learning, o aprendizaje automático. Si se le da acceso a millones de partidas de ajedrez, aprende a jugar mejor que cualquier humano. Si se le alimenta con datos meteorológicos de décadas, aprende a predecir el tiempo con una precisión que antes era imposible. Cuantos más datos tiene, más preciso se vuelve.
La clave está en que estos sistemas no toman decisiones de forma arbitraria: se basan en patrones estadísticos extraídos de información real. Eso los hace muy eficientes en contextos donde hay muchos datos disponibles y donde la velocidad y la consistencia importan. Un algoritmo no se cansa, no tiene un mal día y aplica siempre los mismos criterios. En teoría, eso debería hacerlos más objetivos que las personas. Y en muchos casos, así es. Pero en otros, la realidad es más compleja.
Los algoritmos ya están decidiendo por ti
Pero hay un problema de fondo. Estos sistemas aprenden de datos históricos, y esos datos no son neutros. Reflejan las decisiones que tomaron personas en el pasado, con todos los sesgos y prejuicios que existían entonces. Cuando un algoritmo aprende de esos datos, no aprende solo los patrones útiles: aprende también los patrones injustos. Y lo hace a una escala que ninguna persona podría alcanzar.
El alcance de estas decisiones es mayor de lo que la mayoría de personas imagina. Detrás de cada una de ellas hay un modelo predictivo que ha procesado miles o millones de datos sobre ti: tu historial bancario, tus patrones de gasto, tu comportamiento online, dónde vives, cómo conduces. Con toda esa información, el sistema construye un perfil y te asigna una puntuación, lo que se conoce como scoring. Esa puntuación determina si eres un cliente de riesgo, si tu currículum merece ser leído por una persona o si tu seguro cuesta más o menos que el del vecino. Y todo ocurre en milisegundos, de forma automática y sin que nadie te lo comunique. Cuando abres las redes sociales o un buscador, el mismo principio se aplica al contenido: el algoritmo no muestra lo más relevante, sino lo que su modelo predice que más tiempo te mantendrá enganchado a la pantalla, basándose en todo lo que has hecho antes en internet.
Y más allá del ámbito privado, estos sistemas también han llegado a las administraciones públicas. En varios países europeos, algoritmos deciden quién recibe una prestación social, quién es seleccionado para una inspección fiscal o cómo se distribuyen los recursos sanitarios. En todos estos casos hay algo en común: las personas afectadas raramente saben que ha sido un algoritmo quien ha tomado la decisión, y menos aún por qué. El resultado es que, sin que nadie lo haya decidido de forma explícita, hemos delegado en sistemas tecnológicos un control sobre aspectos fundamentales de nuestra vida cotidiana que antes estaba en manos de personas.
Cuando el algoritmo acierta y cuando falla
El ámbito donde los algoritmos han demostrado de forma más clara su potencial es la medicina. Los sistemas de inteligencia artificial analizan imágenes médicas, procesan historiales clínicos y cruzan datos genéticos a una velocidad y con una consistencia que ningún médico podría igualar. En estos contextos, la IA no reemplaza al profesional: lo convierte en alguien más preciso y más rápido. Y esto es solo el principio. A medida que estos sistemas tengan acceso a más datos y más potencia de cálculo, su capacidad para ayudar en diagnósticos, tratamientos y predicciones médicas seguirá creciendo. El reto no es frenar ese desarrollo sino aprovecharlo bien.
Pero el lado más problemático aparece cuando estos sistemas se aplican a decisiones que afectan directamente a las personas y donde los datos históricos están contaminados por sesgos humanos. Un algoritmo de machine learning aprende a partir de ejemplos del pasado. Si esos ejemplos ya reflejaban desigualdades, el algoritmo las aprende y las trata como si fueran la respuesta correcta. No porque sea malicioso, sino porque nadie le ha dicho que esos patrones son injustos. Por ejemplo Amazon tuvo que retirar su sistema de selección de personal cuando descubrió que discriminaba a mujeres, porque había aprendido de datos de una industria históricamente masculina y había interiorizado ese sesgo como norma.
Apple Card fue investigada por el mismo motivo aplicado al crédito: su algoritmo asignaba límites más bajos a mujeres que a hombres con idéntico perfil financiero, sin que nadie hubiera programado explícitamente esa discriminación. Y en Serbia, un sistema automatizado para gestionar prestaciones sociales acabó excluyendo a minorías y personas con discapacidad. Precisamente los colectivos más vulnerables a los que se suponía que debía ayudar. Estos casos, sin embargo, no son solo ejemplos de fracaso: son también lecciones. Cada error detectado ha impulsado mejoras en la forma de diseñar, auditar y supervisar estos sistemas. La pregunta ya no es si los algoritmos se equivocan, sino cómo garantizar que cuando lo hacen, alguien pueda detectarlo y corregirlo.
¿Quién supervisa a los que deciden?
Hay además otro factor que complica las cosas: la opacidad. Muchos de estos sistemas funcionan como cajas negras. Toman decisiones, pero no explican por qué. Si un banco te deniega un crédito o una empresa no te llama para una entrevista, puede que nunca sepas si fue un algoritmo el que decidió, ni bajo qué criterios lo hizo. Y eso plantea una pregunta que todavía no tiene una respuesta clara: ¿quién es responsable cuando un algoritmo se equivoca?
La respuesta regulatoria más ambiciosa hasta ahora es el AI Act europeo, que obliga a que los sistemas que toman decisiones sobre créditos, empleo o acceso a servicios públicos sean transparentes, auditables y estén supervisados por personas. Es un primer paso importante. Pero la regulación es solo una parte de la solución. Los algoritmos que deciden aspectos de nuestra vida no van a desaparecer, y tampoco deberían. En muchos contextos son más precisos, más rápidos y más consistentes que las personas. El reto no es eliminarlos sino asegurarse de que cuando se equivocan, alguien pueda saberlo y corregirlo.
Si te ha gustado este artículo y quieres recibir más contenido sobre innovación y tecnología directamente en tu correo, suscríbete a nuestra newsletter y mantente siempre actualizado. No somos de los que llenan tu bandeja, solo compartimos los lunes.
