Iyad Rahwan, profesor asociado del MIT, ha pedido a 3 millones de personas que reflexionen sobre el «dilema del tranvía» en relación con los coches autónomos.
El dilema del tranvía plantea lo siguiente: un tranvía fuera de control se precipita hacia cinco personas inmovilizadas en una vía. Pero puedes accionar una palanca para desviarlo a otra vía, donde ves a una persona. ¿Qué harías?
Pero, como señala Rahwan, el dilema del tranvía se complica aún más cuando se piensa en los coches autónomos. En el primer escenario, la carga ética recae en una persona. Sin embargo, si un coche autónomo se encuentra en una situación en la que cualquier opción conduce a un mal resultado y debe elegir, estamos pidiendo a un robot de nuestro entorno cotidiano que decida.
«Para nosotros, como seres humanos, es algo muy nuevo la idea de que un robot, con un algoritmo programado por una persona anónima en alguna planta de fabricación, tome decisiones con consecuencias de vida o muerte», dijo Rahwan a Business Insider.
El trabajo de Rahwan pone de relieve lo difícil que es determinar qué debería ocurrir si un coche autónomo sufre un accidente. ¿Deberían programarse los coches para actuar de cierta manera en situaciones delicadas?
El debate sobre el dilema del tranvía ha permanecido en segundo plano durante bastante tiempo, mientras los fabricantes de automóviles avanzaban en sus iniciativas sobre coches autónomos. Rahwan contribuyó a ponerlo sobre la mesa en octubre de 2015, cuando fue coautor de un artículo titulado «Los vehículos autónomos necesitan ética experimental».
Pero podría decirse que el debate pasó al primer plano cuando Rahwan lanzó «la Máquina Moral del MIT», un sitio web que plantea una serie de dilemas éticos para recabar las opiniones de la gente sobre cómo deberían reaccionar los coches autónomos en situaciones difíciles. La Máquina Moral amplía el estudio de Rahwan de 2015.
Rahwan dijo que, desde el lanzamiento del sitio web en agosto de 2016, el MIT ha recopilado 26 millones de decisiones de 3 millones de personas de todo el mundo. Actualmente analiza si las diferencias culturales influyen en las respuestas.
Rahwan admite que el propio debate no está exento de fallos. El dilema del tranvía está diseñado deliberadamente para ser sencillo y fácil de entender, lo que permite a los investigadores evaluar a fondo el procesamiento psicológico de las personas.
«La desventaja es que parece muy poco realista y que describe una situación que nunca ocurriría o que sería muy rara», dijo.
«Aun así, eso no significa que no valga la pena plantearse estas preguntas», dijo Rahwan.
«Necesitan responder a esta pregunta porque, en última instancia, no se trata de un escenario o accidente concreto, sino del principio general que debe usar un algoritmo para determinar el riesgo relativo», dijo.
Algunos fabricantes de automóviles se han pronunciado públicamente sobre esta cuestión.
En octubre, Christoph von Hugo, responsable de los sistemas de asistencia al conductor de Mercedes-Benz, dijo que los futuros vehículos autónomos darían prioridad al conductor en situaciones en las que cualquier opción tuviera consecuencias negativas.
«Si sabes que puedes salvar al menos a una persona, salva al menos a esa. Salva a quien va en el coche», dijo en una entrevista con Car and Driver. «Si lo único que sabes con certeza es que se puede evitar una muerte, esa es tu primera prioridad».
Tras la publicación del artículo, Mercedes dijo a varios medios que la cita se había sacado de contexto. Un portavoz de Daimler reiteró esa postura en un correo electrónico a Business Insider:
«Para Daimler está claro que ni los programadores ni los sistemas automatizados tienen derecho a sopesar el valor de las vidas humanas», escribió el portavoz. «En ningún caso hemos tomado una decisión a favor de los ocupantes del vehículo. Seguimos adhiriéndonos al principio de ofrecer el mayor nivel de seguridad posible a todos los usuarios de la vía».
Rahwan también dijo que es poco probable que los ingenieros programen una decisión específica en sus algoritmos.
«Nadie va a fabricar un coche que diga que la vida de un niño vale una vez y media la de un adulto, o algo por el estilo. Es poco probable», dijo Rahwan.
Pero, según Rahwan, los fabricantes deberían ser transparentes con sus datos para que investigadores independientes puedan evaluar si ciertos coches autónomos se comportan de forma sesgada. Por ejemplo, si los datos muestran que un coche autónomo perjudica de manera desproporcionada a determinadas personas, como al atropellar a ciclistas en vez de a peatones, los programadores deberían revisar sus algoritmos para averiguar qué falla.
La Administración Nacional de Seguridad del Tráfico en las Carreteras reconoció en un informe de septiembre que los coches autónomos podrían favorecer unas decisiones frente a otras, aunque no estén programados explícitamente para hacerlo.
Los coches autónomos dependerán del aprendizaje automático, una rama de la inteligencia artificial que permite a los ordenadores, o en este caso a los coches, aprender con el tiempo. Como los coches aprenderán por sí solos a adaptarse al entorno de conducción, podrían aprender a favorecer ciertos resultados.
«Incluso en los casos en que no se pretenda establecer ninguna regla ética o preferencia explícita, la programación de un vehículo altamente automatizado (HAV) puede instaurar una regla de decisión implícita o inherente con importantes consecuencias éticas», escribió la NHTSA en el informe, y añadió que los fabricantes deben colaborar con los organismos reguladores para abordar estas situaciones.
Rahwan dijo que programar resultados específicos no es el enfoque adecuado, pero considera que las empresas deberían hacer más para informar al público de que están teniendo en cuenta la ética de los vehículos sin conductor.
«A largo plazo, creo que hay que hacer algo. Debe haber algún tipo de directriz un poco más específica; es la única manera de ganarse la confianza del público», dijo.
