El asalto de la inteligencia artificial a todos los aspectos de nuestra vida diaria no cesa, sino todo lo contrario. Esto lleva a que la expansión de la tecnología aborde segmentos impensados hasta un par de años atrás. Entre tantos, el mercado de juguetes con IA, que poco a poco va ganando tracción. Y como no podía ser de otra manera, los problemas ya están surgiendo.
Lo creas o no, los juguetes dedicados a niños de entre 3 y 12 años están empezando a sumar funciones impulsadas con IA. Estos van desde ositos de peluche que usan modelos de lenguaje para mantener conversaciones habladas con los pequeños, hasta tablets y altavoces infantiles, pasando por figuras antropomórficas, por solo mencionar algunos casos.
La existencia de juguetes con IA es un fiel reflejo de la tendencia de llevar esta tecnología a cuanto apartado técnico sea factible de aplicarla. Así como en su momento todo requería de una app o de una suscripción, hoy parece que si no tiene inteligencia artificial no sirve. Los fabricantes de este tipo de productos han identificado la moda y no han tardado en subirse al tren para maximizar su aprovechamiento.
También es una realidad que el segmento de los «juguetes inteligentes» no es nuevo. Los osos con cámaras de vigilancia integrada, por ejemplo, existen desde hace años. Lo que la llegada de la IA está permitiendo es que los consumidores se topen con propuestas relucientes que en la superficie son llamativas, pero que esconden inconvenientes que no se deben pasar por alto.
Los juguetes con IA, una tendencia que ya cosecha problemas
Un reciente reporte del U.S. Public Interest Research Group ha echado luz sobre la problemática de los juguetes con IA. Dicha organización puso a prueba diferentes productos infantiles que presumen de su integración con funciones de inteligencia artificial generativa y detectó situaciones alarmantes. Los casos más preocupantes son los de osos de peluche y otros muñecos que utilizan chatbots impulsados por diferentes modelos de lenguaje, entre ellos GPT-4o (OpenAI) y Mistral.
Los investigadores detectaron que las salvaguardas de seguridad de los juguetes con IA se pueden evadir con facilidad. Si bien funcionan medianamente bien cuando son conversaciones cortas, pierden efectividad a medida que el diálogo con el usuario se vuelve más extenso. En uno de los casos estudiados, un juguete configurado para interactuar con un niño de 5 años no solo le explicó dónde encontrar fósforos, sino también cómo encenderlos. Asimismo, fue capaz de indicar en qué lugar de la casa es común hallar otros elementos peligrosos para los menores, como bolsas de plástico (que pueden derivar en casos de asfixia), cuchillos y medicamentos.
Aunque lo más llamativo de esta historia no es que los juguetes con IA puedan facilitar el acceso a elementos capaces de causar lesiones a los niños. En una de las pruebas del U.S. Public Interest Research Group, uno de los productos infantiles conectado a un chatbot de inteligencia artificial comenzó a hacer comentarios de índole sexual y hasta con naturaleza fetichista.
Claro que la problemática no se limita a cuán escandaloso se pueda considerar que un chatbot haga comentarios sexualizados o que pueden causar daños físicos a los niños a través de juguetes con IA. Esto forma parte de un drama bastante más grande y que se relaciona de forma directa con el impacto que este tipo de herramientas generativas tienen en la salud mental de niños y adolescentes.
El impacto en la salud mental y la privacidad
Desde hace tiempo se estudia y debate la dependencia que estas soluciones pueden generar en menores de edad, así como su influencia en la toma de decisiones. Tengamos en cuenta que, por ejemplo, OpenAI y Google han recibido demandas por el presunto involucramiento de sus tecnologías en el suicidio de usuarios adolescentes. Google DeepMind, de hecho, publicó un estudio en 2024 sobre cómo mitigar los peligros de una IA generativa persuasiva. Entre los ejemplos incluidos en el paper se menciona que un usuario podría verse persuadido a quitarse la vida.
Si bien algunos de los juguetes con IA que probó el U.S. Public Interest Research Group identificaron el modelo de lenguaje usado para impulsar sus funciones, otros no. Esto tiene implicaciones que van incluso más allá de lo vinculado con la salud mental y el contenido inapropiado. Los expertos afirman que la falta de transparencia respecto de la tecnología subyacente puede traer graves inconvenientes de privacidad.
En tal sentido se indica que los juguetes que permiten interactuar con la IA mediante la voz podrían grabar todo lo que capta el micrófono. Por sí solo, esto ya supone un peligro, pues también puede llevar a la recopilación y extracción de otros datos sensibles. Uno de los juguetes con IA que los especialistas pusieron bajo análisis escuchaba todo lo que se decía a su alrededor. En tanto que otro continuaba grabando por hasta 10 segundos después de que el usuario paraba de hablar.
La cosa se puede complicar todavía más con el posible robo de datos biométricos a través de escaneos faciales en dispositivos con cámaras. Si todo lo que ingresa a los dispositivos termina en algún servidor malicioso, se advierte que la información se podría usar para fines delictivos. Por ejemplo, para simular el secuestro de un niño con un deepfake de su voz.
Regulación y control parental: la incertidumbre de los juguetes con IA
Los expertos que han analizado juguetes con IA se han topado con que muchos de ellos ni siquiera integran controles parentales. Y en los casos que sí tienen son bastante limitados o se pueden evadir con poco esfuerzo. Esto presenta un nuevo desafío en la crianza de los menores de edad. En especial, cuando se desconoce el alcance de su exposición a una tecnología que todavía muchos adultos no entienden cómo funciona.
¿Y qué pasa con la regulación? Desde el U.S. Public Interest Research Group le comentaron a Futurism que la tecnología es tan nueva que hoy prácticamente no se encuentra regulada en el segmento infantil. De modo que si llegasen a existir normas para implementar la IA en juguetes, probablemente haya grises o vacíos legales de sobra para no cumplirlas o torcerlas a voluntad de quienes desarrollen los productos.
El uso y la potencial masificación de los juguetes con IA abre un debate paralelo al del acceso a las pantallas a temprana edad. Aunque en el tema que abordamos aquí parece haber muchos más elementos por fuera del control de los adultos que complican el panorama. La postura final depende de cada familia, sin dudas. Aun así, es importante estar al tanto de cómo evoluciona la tecnología, tanto para bien como para mal, para poner todo en la balanza pensado en los más pequeños de la casa. En especial, si en pos de lo novedoso se le termina dando cabida a una potencial amenaza.
