Gran parte del debate y el pensamiento ético pensamiento sobre los coches autónomos se ha centrado en dilemas trágicos, como las hipótesis en las que un coche debe decidir si atropellar a un grupo de escolares o precipitarse por un acantilado, matando a sus propios ocupantes. Pero este tipo de situaciones son casos extremos.
Como demuestra el accidente más reciente, en el que un coche autónomo atropelló mortalmente a un peatón en Tempe, Arizona, las situaciones cotidianas y corrientes en cada paso de peatones, giro e intersección plantean dilemas éticos mucho más difíciles y de mayor alcance.
Ética de los casos extremos
Como filósofo que trabaja con ingenieros en el Centro de Investigación en Automoción de Stanford, al principio me sorprendió que dedicáramos nuestras reuniones de laboratorio a debatir lo que yo consideraba una cuestión sencilla: ¿cómo debe aproximarse un coche autónomo a un paso de peatones?
Yo había supuesto que pensaríamos en cómo debe decidir un coche entre la vida de sus pasajeros y la de los peatones. Sabía cómo abordar este tipo de dilemas porque estos escenarios de accidente se parecen a un famoso acertijo filosófico llamado el “problema del tranvía.” Imagine un tranvía desbocado que se precipita por las vías y que va a arrollar a un grupo de cinco personas o a una sola: ¿mataría a una para salvar a cinco?
Sin embargo, muchos filósofos dudan hoy en día de que investigar este tipo de cuestiones sea una vía de investigación fructífera. Barbara Fried, colega de Stanford, por ejemplo, ha argumentado que los dilemas trágicos hacen que la gente crea que los dilemas éticos surgen principalmente en circunstancias extremas y terribles.
De hecho, los dilemas éticos están por todas partes. Las situaciones cotidianas y corrientes son sorprendentemente complejas y desordenadas, a menudo de maneras sutiles. Por ejemplo: ¿debería su ciudad invertir dinero en un programa de prevención de la diabetes o en más trabajadores sociales? ¿Debería su departamento local de Salud Pública contratar a otro inspector para vigilar el cumplimiento de las normas de higiene en los restaurantes, o mantener un programa que proporciona agujas y material de inyección gratuitos?
Estas preguntas son extremadamente difíciles de responder debido a la incertidumbre sobre las consecuencias, como quién se verá afectado y en qué medida. Las soluciones que los filósofos han propuesto para situaciones extremas y desesperadas sirven de poca ayuda en este caso.
El problema es similar en el caso de los coches autónomos. Analizar situaciones extremas y escenarios de accidente no puede ayudar a responder a las preguntas que surgen en situaciones cotidianas.
Un reto en los pasos de peatones
Cabría preguntarse qué puede tener de difícil una situación de tráfico tan corriente como aproximarse a un paso de peatones, atravesar una intersección o girar a la izquierda.
Aunque la visibilidad en el paso de peatones sea limitada y a veces resulte difícil saber si un peatón cercano realmente quiere cruzar la calle, los conductores lo gestionan a diario.
Pero para los coches autónomos, estas situaciones cotidianas plantean un reto de dos maneras.
En primer lugar, lo que resulta fácil para los humanos suele ser difícil para las máquinas. Ya sea reconocer rostros o montar en bicicleta, somos buenos en tareas de percepción y mecánicas porque la evolución nos dotó de estas habilidades. Sin embargo, esto hace que estas habilidades sean difíciles de enseñar o de diseñar técnicamente. Esto se conoce como “la paradoja de Moravec.”
En segundo lugar, en un futuro en el que todos los coches sean autónomos, pequeños cambios en el comportamiento al volante tendrían un gran impacto en conjunto. En otras palabras, las decisiones que hoy toman los ingenieros determinarán no cómo conduce un coche, sino cómo conducen todos los coches. Los algoritmos se convierten en políticas.
Los ingenieros enseñan a los ordenadores a reconocer rostros y objetos mediante métodos de aprendizaje automático. También pueden utilizar el aprendizaje automático para ayudar a los coches autónomos a imitar la forma en que conducen los humanos. Pero esto no es una solución: no resuelve el problema de que las decisiones de gran alcance sobre seguridad y movilidad las tomen los ingenieros.
Además, los coches autónomos no deberían conducir como las personas. Los humanos, en realidad, no somos muy buenos conductores. Y conducen de maneras éticamente problemáticas, decidiendo si ceder el paso a los peatones en los cruces en función de su edad, raza y nivel de ingresos. Por ejemplo, investigadores de Portland han descubierto que a los peatones negros les adelantan el doble de coches y deben esperar un tercio más de tiempo que a los peatones blancos antes de poder cruzar.
Los coches autónomos deberían conducir de forma más segura y más justa que las personas.
Ética cotidiana
Los problemas éticos se agravan cuando se atiende a los conflictos de intereses que surgen en situaciones cotidianas como los pasos de peatones, los giros y las intersecciones.
Por ejemplo, el diseño de los coches autónomos debe equilibrar la seguridad de otros, como peatones o ciclistas, con los intereses de los pasajeros. En cuanto un coche circula a más velocidad que el paso de una persona caminando, no puede evitar atropellar a un niño que pueda salir a la calzada en el último segundo. Pero, por supuesto, caminar es demasiado lento. Todo el mundo necesita llegar a sus destinos. Entonces, ¿cómo deben los ingenieros encontrar el equilibrio entre seguridad y movilidad? Y ¿qué velocidad es lo bastante segura?
Surgen también otras cuestiones éticas. Los ingenieros deben establecer compensaciones entre la movilidad y los impactos ambientales. Cuando se aplican a todos los coches del país, pequeños cambios en la aceleración, la toma de curvas y el frenado controlados por ordenador pueden tener enormes efectos en el consumo de energía y en las emisiones contaminantes. ¿Cómo deben los ingenieros equilibrar la eficiencia en los desplazamientos con el impacto ambiental?
¿Cómo debería ser el futuro del tráfico?
Las situaciones cotidianas plantean problemas técnicos y éticos inéditos, pero también llevan a las personas a cuestionar los supuestos básicos del sistema de tráfico.
Personalmente, empecé a preguntarme si realmente necesitamos lugares llamados “pasos de peatones”. Al fin y al cabo, los coches autónomos podrían hacer posible cruzar una calle con seguridad en cualquier punto.
Y no solo los pasos de peatones podrían volverse innecesarios. Los semáforos en las intersecciones también podrían quedar en el pasado. Los humanos necesitamos semáforos para asegurarnos de que todos crucen la intersección sin accidentes ni caos. Pero los coches autónomos podrían coordinarse entre sí sin problemas.
La cuestión más amplia aquí es la siguiente: dado que los coches autónomos son mejores que los conductores humanos, ¿por qué deberían estar sujetos a normas diseñadas para la falibilidad y los errores humanos? Y, para extender este experimento mental, consideremos también la pregunta más general: si como sociedad pudiéramos diseñar nuestro sistema de tráfico desde cero, ¿cómo querríamos que fuera?
Dado que estas difíciles preguntas afectan a todos los habitantes de una ciudad o de una sociedad, exigen que la ciudad o la sociedad lleguen a un acuerdo sobre las respuestas. Esto implica equilibrar intereses contrapuestos de forma que funcione para todos, tanto si las personas piensan solo en los pasos de peatones como si piensan en el sistema de tráfico en su conjunto.
Con los coches autónomos, las sociedades pueden rediseñar sus sistemas de tráfico. Desde el paso de peatones hasta el diseño general del tráfico, son las situaciones cotidianas las que plantean preguntas realmente difíciles. Las situaciones extremas son una distracción.
El problema del tranvía no responde a estas difíciles preguntas.
