La mayoría de los robots funcionan mediante inteligencia artificial (IA), que les permite tomar decisiones similares a las humanas.
Cuanto más complejas sean las decisiones que los robots son capaces de tomar, más difícil e importante resulta comprender por qué ocurren los accidentes.
El proyecto RoboTIPS ha creado una caja negra ética, que registra todas las entradas de un robot y las acciones correspondientes, para garantizar que no se repitan los mismos errores.
Los robots están cada vez más presentes en nuestra vida cotidiana. Pueden ser increíblemente útiles (prótesis biónicas de extremidades, cortacéspedes robóticos o robots que entregan comidas a personas en cuarentena), o simplemente entretenidos (perros robóticos, juguetes que bailan y drones acrobáticos). La imaginación es quizá el único límite de lo que los robots podrán hacer en el futuro.
Sin embargo, ¿qué sucede cuando los robots no hacen lo que queremos o lo hacen de una manera que causa daño? Por ejemplo, ¿qué ocurre si una prótesis biónica de brazo participa en un accidente de tráfico?
Los accidentes de robots son motivo de preocupación por dos razones. En primer lugar, el aumento del número de robots provocará de forma natural un incremento del número de accidentes en los que se ven implicados. En segundo lugar, cada vez somos mejores construyendo robots más complejos. Cuando un robot es más complejo, resulta más difícil comprender por qué algo salió mal.
La mayoría de los robots funcionan con distintas formas de inteligencia artificial (IA). Las IA son capaces de tomar decisiones similares a las humanas (aunque pueden tomar decisiones objetivamente buenas o malas). Estas decisiones pueden abarcar cualquier cosa, desde identificar un objeto hasta interpretar el habla.
Las IA se entrenan para tomar estas decisiones por el robot a partir de información procedente de grandes conjuntos de datos. Después, las IA se someten a pruebas de precisión (cómo de bien hacen lo que queremos que hagan) antes de que se les asigne la tarea.
Las IA pueden diseñarse de distintas maneras. Como ejemplo, consideremos el aspirador robot. Podría diseñarse de forma que, cada vez que choque contra una superficie, cambie de dirección de manera aleatoria. Por el contrario, podría diseñarse para trazar un mapa de su entorno, detectar obstáculos, cubrir todas las superficies y regresar a su base de carga. Mientras el primer aspirador recibe información de sus sensores, el segundo registra esa información en un sistema de mapeo interno. En ambos casos, la IA recibe información y toma una decisión a partir de ella.
Cuanto más complejas sean las capacidades de un robot, más tipos de información tendrá que interpretar. Además, puede que evalúe múltiples fuentes de un mismo tipo de datos, como, en el caso de los datos auditivos, una voz en vivo, una radio y el viento.
A medida que los robots se vuelven más complejos y pueden actuar a partir de una variedad de información, cobra aún más importancia determinar en qué información se basó el robot para actuar, sobre todo cuando se causa un daño.
Los accidentes ocurren
Como ocurre con cualquier producto, en los robots pueden surgir y surgen problemas. A veces se trata de un problema interno, como que el robot no reconozca un comando de voz. Otras veces es externo: el sensor del robot estaba dañado. Y en ocasiones puede deberse a ambas causas, como que el robot no esté diseñado para funcionar sobre alfombras y “tropiece”. Las investigaciones de accidentes de robots deben examinar todas las posibles causas.
Aunque puede resultar un inconveniente que el robot sufra daños cuando algo sale mal, nos preocupa mucho más que el robot cause daño a una persona o no evite que se produzca. Por ejemplo, si una prótesis biónica de brazo no logra sujetar una bebida caliente y la derrama sobre su usuario, o si un robot de cuidados no detecta una llamada de auxilio cuando la persona frágil que lo utiliza se ha caído.
¿Por qué la investigación de accidentes de robots es distinta de la de los accidentes humanos? Principalmente, porque los robots no tienen motivos. Queremos saber por qué un robot tomó la decisión que tomó a partir de un conjunto concreto de entradas de información que recibió.
En el caso de la prótesis biónica de brazo, ¿hubo un malentendido entre el usuario y la mano? ¿Confundió el robot varias señales? ¿Se bloqueó de forma inesperada? En el caso de la persona que se cae, ¿podría el robot no haber “oído” la llamada de auxilio por encima del ruido de un ventilador potente? ¿O tuvo dificultades para interpretar el habla del usuario?
La caja negra
La investigación de accidentes de robots tiene una ventaja clave frente a la de accidentes humanos: existe la posibilidad de contar con un testigo integrado. Los aviones comerciales disponen de un testigo similar: la caja negra, diseñada para resistir accidentes aéreos y aportar información sobre las causas del siniestro. Esta información resulta sumamente valiosa no solo para comprender los incidentes, sino también para evitar que vuelvan a producirse.
Como parte de RoboTIPS, un proyecto centrado en la innovación responsable para robots sociales (robots que interactúan con personas), hemos creado lo que denominamos la caja negra ética: un registro interno de las entradas del robot y de las acciones correspondientes. La caja negra ética se diseña para cada tipo de robot en el que se integra y está concebida para registrar toda la información en la que actúa el robot. Puede tratarse de voz, imágenes o incluso actividad cerebral.
Estamos probando la caja negra ética en diversos robots, tanto en laboratorio como en condiciones de accidente simuladas. El objetivo es que la caja negra ética se convierta en un estándar en robots de todas las marcas y aplicaciones.
Aunque los datos registrados por la caja negra ética todavía deben interpretarse en caso de accidente, disponer de estos datos en primera instancia es fundamental para poder investigar.
El proceso de investigación brinda la oportunidad de garantizar que no se repitan los mismos errores. La caja negra ética no solo sirve para construir mejores robots, sino también para innovar de forma responsable en un campo apasionante y dinámico.
