Algunos científicos están de acuerdo en colocar una caja negra en cada robot, para rastrear y explicar sus movimientos.
Lo mismo que tienen los aviones y que se utiliza en caso de accidente para determinar qué ha ocurrido. Una caja negra es un elemento que también se ha planteado como una posibilidad para los robots. Después de todo, si las máquinas van a ir ganando competencias paulatinamente tendrán mayores responsabilidades. ¿Por qué no tener una forma de saber por qué han actuado de una u otra forma cuando las cosas no han ido bien?
Este es básicamente el argumento de quienes defienden la instalación de una caja negra en cada robot. Se trata de un dispositivo que registre todas las decisiones de la máquina y pueda explicar su actuación en caso de accidentes. Lo ha propuesto un grupo de científicos durante una conferencia especializada en la Universidad de Surrey (al suroeste de Londres).
El evento tenía como tema principal debatir la autonomía de los robots que pueden operar sin control humano. Y es que son muchas las máquinas cuya autonomía deja dudas sobre la seguridad. Los coches autónomos, los robots asistentes o enfermeros son algunos ejemplos. ¿Cómo dejar en manos de una máquina tareas que, si se hacen mal, tendrían consecuencias perjudiciales para los humanos?
No hay que olvidar algunas de las polémicas que ha habido recientemente por culpa de sistemas autónomos. En mayo del pasado año un conductor de un Tesla Model S falleció en accidente con el 'Autopilot' en marcha. Posteriormente, una investigación concluyó que esta función no tenía la culpa del accidente, pero la duda sigue ahí.
Si se instalara en cada robot una caja negra ética, esta podría registr ar la información recibida de sus sensores, como cámaras, micrófonos y radares o lidars. Y se podría saber, en base a estos datos y las decisiones tomadas por la máquina, qué ha fallado. El objetivo final es no repetir un error que puede ser peligroso para las personas.
Los científicos partidarios de las cajas negras argumentan que esta es una de las razones por las que los aviones son tan seguros. No solo es gracias a un diseño cuidado y sofisticado. También hay un proceso de certificación estricto por detrás. Y este proceso se retroalimenta cuando hay accidentes. Ahí es cuando las investigaciones, que se difunden públicamente, dan las claves de las causas y los errores. ¿Por qué no seguir el mismo esquema con los robots? Esta es la pregunta inquisitiva que estos investigadores se hacen.
Imágenes: pennstatenews, Ars Electronica
