Una nueva y amplia encuesta desarrollada por investigadores del MIT revela preferencias globales claras sobre la ética de los vehículos autónomos, así como algunas variaciones regionales en esas preferencias.
La encuesta tiene alcance mundial y una escala única, con más de 2 millones de participantes en línea de más de 200 países que se pronunciaron sobre versiones de un clásico dilema ético, el “problema del tranvía”. El problema plantea escenarios en los que un accidente con un vehículo es inminente y este debe optar por una de dos opciones potencialmente mortales. En el caso de los coches sin conductor, eso podría significar desviarse hacia un par de personas, en lugar de hacia un grupo numeroso de transeúntes.
“El estudio trata básicamente de comprender el tipo de decisiones morales a las que los coches sin conductor podrían tener que recurrir”, afirma Edmond Awad, becario postdoctoral en el Media Lab del MIT y autor principal de un nuevo artículo que expone los resultados del proyecto. “Todavía no sabemos cómo deberían hacerlo”.
No obstante, Awad añade: “Descubrimos que hay tres elementos que la gente parece aprobar más”.
De hecho, las preferencias globales más contundentes de la encuesta son preservar la vida de los seres humanos frente a la de otros animales; preservar la vida de muchas personas en lugar de la de unas pocas; y proteger la vida de los jóvenes, en lugar de la de las personas mayores.
“Las principales preferencias estaban, en cierta medida, universalmente aceptadas”, señala Awad. “Pero el grado en que se está de acuerdo con ellas varía entre distintos grupos o países”. Por ejemplo, los investigadores hallaron una tendencia menos pronunciada a favorecer a los jóvenes frente a las personas mayores en lo que definieron como un grupo de países “orientales”, que incluye muchos países de Asia.
El artículo, titulado “The Moral Machine Experiment”, se publica hoy en Nature.
Los autores son Awad; Sohan Dsouza, estudiante de doctorado en el Media Lab; Richard Kim, auxiliar de investigación en el Media Lab; Jonathan Schulz, becario postdoctoral en la Universidad de Harvard; Joseph Henrich, profesor en Harvard; Azim Shariff, profesor asociado en la Universidad de la Columbia Británica; Jean-François Bonnefon, profesor en la Escuela de Economía de Toulouse; e Iyad Rahwan, profesor asociado de artes mediáticas y ciencias en el Media Lab, y miembro afiliado del Instituto del MIT para Datos, Sistemas y Sociedad.
Awad es becario postdoctoral en el grupo Scalable Cooperation del Media Lab del MIT, dirigido por Rahwan.
Para llevar a cabo la encuesta, los investigadores diseñaron lo que denominan “Moral Machine”, un juego en línea multilingüe en el que los participantes podían expresar sus preferencias sobre una serie de dilemas a los que podrían enfrentarse los vehículos autónomos. Por ejemplo: llegado el caso, ¿deberían los vehículos autónomos preservar la vida de peatones que respetan la ley o, alternativamente, la de peatones que infringen la ley y podrían estar cruzando fuera de los pasos de peatones? (La mayoría de los participantes optó por la primera opción).
En total, “Moral Machine” recopiló cerca de 40 millones de decisiones individuales de encuestados de 233 países; la encuesta obtuvo 100 o más respuestas de 130 países. Los investigadores analizaron los datos en su conjunto y, además, desglosaron a los participantes en subgrupos definidos por edad, educación, género, ingresos y opiniones políticas y religiosas. Hubo 491.921 encuestados que ofrecieron datos demográficos.
Los académicos no encontraron diferencias marcadas en las preferencias morales según estas características demográficas, pero sí hallaron “grupos” de preferencias morales más amplios basados en afinidades culturales y geográficas. Definieron grupos de países “occidentales”, “orientales” y “meridionales”, y encontraron algunas variaciones más pronunciadas en estas líneas. Por ejemplo, los encuestados de los países meridionales tenían una tendencia relativamente más fuerte a favorecer la vida de los jóvenes frente a la de las personas mayores, especialmente en comparación con el grupo oriental.
Awad sugiere que el reconocimiento de este tipo de preferencias debería ser una parte básica de la información en el debate público sobre estas cuestiones. En todas las regiones, dado que existe una preferencia moderada por preservar la vida de los peatones que respetan la ley frente a los que infringen la norma, conocer estas preferencias podría, en teoría, orientar la forma en que se programa el software que controla los vehículos autónomos.
“La cuestión es si estas diferencias en las preferencias influirán en la adopción de la nueva tecnología por parte de la gente cuando [los vehículos] apliquen una regla específica”, afirma.
Por su parte, Rahwan señala que “el interés del público por la plataforma superó nuestras expectativas más optimistas”, lo que permitió a los investigadores llevar a cabo una encuesta que aumentó la conciencia sobre la automatización y la ética y, al mismo tiempo, aportó información específica sobre la opinión pública.
“Por un lado, queríamos ofrecer al público una forma sencilla de participar en un debate social importante”, afirma Rahwan. “Por otro, queríamos recopilar datos para identificar qué factores considera la gente que son importantes para que los coches autónomos los utilicen al resolver compensaciones éticas”.
Más allá de los resultados de la encuesta, Awad sugiere que la consulta pública sobre una cuestión de innovación y seguridad pública debería seguir cobrando protagonismo en el debate en torno a los vehículos autónomos.
“Lo que hemos intentado hacer en este proyecto, y lo que me gustaría que se generalizara, es fomentar la participación pública en este tipo de decisiones”, afirma Awad.
