Tomamos decisiones cada día basadas en el riesgo: quizá cruzar una calle para coger un autobús si la calle está tranquila, pero no si está concurrida. A veces, estas decisiones deben tomarse en un instante, ante circunstancias extremas: un niño sale corriendo delante de tu coche, pero hay otros peligros a ambos lados, digamos un gato y un precipicio. ¿Cómo decides? ¿Arriesgas tu propia seguridad para proteger la de los demás?
Ahora que los coches autónomos ya están aquí y sin una forma rápida o segura de anular los controles –o incluso sin ninguna en absoluto–, los fabricantes de automóviles se enfrentan a un dilema ético algorítmico. Los ordenadores de a bordo ya aparcan por nosotros, circulan con control de crucero y podrían tomar el control en situaciones críticas para la seguridad. Pero eso significa que se enfrentarán a las difíciles decisiones que a veces afrontan los seres humanos.
¿Cómo programar el cálculo ético de un ordenador?
Calcula el menor número de lesiones para cada posible resultado y toma esa ruta. Cada ser vivo sería tratado por igual.
Calcula el menor número de lesiones para los niños en cada posible resultado y toma esa ruta.
Asigna un valor de 10 a cada ser humano, cuatro a un gato, dos a un perro y uno a un caballo. Después, calcula la puntuación total de cada uno en el impacto y toma la ruta con la puntuación más baja. Así, un gran grupo de perros tendría una clasificación más alta que dos gatos, y el coche reaccionaría para salvar a los perros.
Ética programable mediante una tarjeta de puntuación para coches sin conductor.
Proporcionado por el autor
¿Y si el coche también incluyera en esta evaluación a su conductor y a sus pasajeros, con la implicación de que, a veces, quienes están fuera del coche obtendrían una puntuación más alta que quienes están dentro? ¿Quién subiría voluntariamente a bordo de un coche programado para sacrificarlo si fuera necesario?
Un estudio reciente de Jean-Francois Bonnefon, de la Escuela de Economía de Toulouse (Francia), sugirió que no existe una respuesta correcta o incorrecta a estas preguntas. La investigación utilizó a varios cientos de trabajadores captados a través de Amazon’s Mechanical Turk para analizar opiniones sobre si uno o más peatones podrían salvarse cuando un coche se desvía y choca contra una barrera, matando al conductor. Después, variaron el número de peatones que podían salvarse.
Bonnefon descubrió que la mayoría de la gente estaba de acuerdo con el principio de programar los coches para minimizar el número de muertes, pero cuando se trataba de los detalles exactos de los escenarios, mostraban menos seguridad. Estaban deseosos de que otros utilizaran coches sin conductor, pero menos dispuestos a hacerlo ellos mismos. Así, las personas suelen sentir un instinto utilitarista de salvar las vidas de otros y sacrificar al ocupante del coche, salvo cuando ese ocupante es uno mismo.
Máquinas inteligentes
Los escritores de ciencia ficción han tenido mucha libertad para escribir sobre robots que se hacen con el mundo (Terminator y muchas otras), o sobre situaciones en las que todo lo que se dice se graba y se analiza (como en 1984 de Orwell). Ha costado llegar a este punto, pero muchos elementos básicos de la ciencia ficción se están convirtiendo en ciencia y tecnología convencionales. Internet y la computación en la nube han proporcionado la plataforma sobre la que se producen saltos cuánticos en el progreso, que muestran la inteligencia artificial frente al ser humano.
En la película seminal de Stanley Kubrick 2001: Una odisea del espacio, vemos indicios de un futuro en el que los ordenadores toman decisiones sobre las prioridades de su misión, y el ordenador de la nave, HAL, dice: “Esta misión es demasiado importante para permitirte que la pongas en peligro”.
La inteligencia artificial está apareciendo en nuestros dispositivos, desde teléfonos hasta coches. Intel prevé que para 2020 habrá 152 millones de coches conectados, que generarán más de 11 petabytes de datos cada año, suficientes para llenar más de 40.000 discos duros de 250 GB. ¿Qué nivel de inteligencia? Como dice Intel, (casi) tan listos como usted. Los coches compartirán y analizarán una serie de datos para tomar decisiones en movimiento. Es cierto que, en la mayoría de los casos, es probable que los coches sin conductor sean más seguros que los humanos, pero son los casos atípicos los que nos preocupan.
El escritor Isaac Asimov, con sus famosas tres leyes de la robótica propuso cómo los dispositivos futuros afrontarán la necesidad de tomar decisiones en circunstancias peligrosas.
Un robot no puede dañar a un ser humano ni, por inacción, permitir que un ser humano sufra daño.
Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando tales órdenes entren en conflicto con la Primera Ley.
Un robot debe proteger su propia existencia siempre que dicha protección no entre en conflicto con la Primera o la Segunda Ley.
Incluso añadió una «ley cero» más fundamental que precede a las demás:
Un robot no puede dañar a la humanidad ni, por inacción, permitir que la humanidad sufra daño.
Asimov no abordó nuestro dilema ético del accidente de coche, pero con sensores más avanzados para recopilar datos, más fuentes de las que extraer información y mayor potencia de procesamiento, la decisión de actuar se reduce a un frío análisis de datos.
Por supuesto, el software es notoriamente defectuoso. ¿Qué estragos podrían causar los actores malintencionados que comprometan estos sistemas? Y ¿qué ocurre en el momento en que la inteligencia artificial toma el control del ser humano? ¿Será correcto hacerlo? Al fin y al cabo, en 2001, Dave se ve obligado a actuar con urgencia cuando se harta de las decisiones de HAL.
¿Podría un futuro comprador adquirir opciones éticas programables con las que personalizar su coche? ¿El equivalente en inteligencia artificial de una pegatina para el parachoques que diga “No freno por nadie”? En ese caso, ¿cómo sabrías cómo es probable que actúen los coches, y subirías a bordo si lo supieras?
Luego están las cuestiones legales. ¿Qué pasaría si un coche hubiera podido intervenir para salvar vidas pero no lo hiciera? ¿O si atropellara deliberadamente a personas según su cálculo ético? Esta es la responsabilidad que asumimos los humanos cuando conducimos, pero las máquinas siguen órdenes, así que ¿quién (o qué) asume la responsabilidad de una decisión? Como vemos con el reconocimiento facial, cada vez más preciso, en los teléfonos inteligentes, los monitores de los aeropuertos e incluso en Facebook, no es demasiado difícil para un ordenador identificar objetos, calcular rápidamente las consecuencias en función de la velocidad del coche y las condiciones de la carretera para obtener un conjunto de resultados, elegir uno y actuar. Y cuando lo hace, es poco probable que tengas elección al respecto.
Este artículo se publica en colaboración con The Conversation. La publicación no implica que el Foro Económico Mundial respalde las opiniones expresadas.
Para estar al día de la Agenda suscríbase a nuestro boletín semanal.
Autor: Bill es catedrático de la Universidad Edinburgh Napier y miembro de la BCS y del IET.
Imagen: Personas viajan en un vehículo eléctrico autónomo. REUTERS/Edgar Su.
