Las máquinas autónomas y la toma de decisiones pueden provocar errores potencialmente mortales.
Las muertes causadas por errores robóticos plantean dilemas morales, al igual que «el dilema del tranvía».
Hay motivos para pensar que podrían salvarse muchas vidas si la sociedad adopta el aprendizaje automático y se compromete a implementar las tecnologías robóticas de forma responsable.
Los avances en robótica harán que los vehículos autónomos, los robots industriales y los robots médicos sean más capaces, independientes y omnipresentes durante los próximos 20 años. Con el tiempo, estas máquinas autónomas podrían cometer errores de decisión que causarían cientos de miles de muertes, las cuales podrían evitarse si hubiera personas supervisándolas.
Un futuro así resulta bastante aterrador, pero se salvarían más vidas de las que se perderían si la sociedad adoptara las tecnologías robóticas de forma responsable.
El proceso de aprendizaje automático
Los humanos no «programan» a los robots para que imiten la toma de decisiones humana; estos aprenden a partir de grandes conjuntos de datos a realizar tareas como «reconocer un semáforo en rojo» mediante fórmulas matemáticas complejas derivadas de los datos. Este proceso de aprendizaje automático requiere muchos más datos de los que necesitan los humanos. Sin embargo, una vez entrenados, los robots superarían a los humanos en cualquier tarea y, gracias al aprendizaje automático, la IA y la robótica han mejorado drásticamente su rendimiento en los últimos cinco años.
Podemos tomar la conducción autónoma como ejemplo, aunque las siguientes teorías se aplican a la atención sanitaria, la fabricación y otros sectores que se están automatizando rápidamente. Un conductor humano experimentado puede acumular unos cientos de miles de millas de experiencia al volante a lo largo de su vida, pero Waymo —la empresa de coches autónomos de Google— completó más de 2,3 millones de millas recorridas solo en 2021. Sus tecnologías de IA aprenden simultáneamente de cada coche que pone en circulación; estos coches nunca se cansan ni olvidan lo aprendido.
Cuando Tesla lanzó por primera vez la función «Smart Summon», que permitía a sus coches salir de una plaza de aparcamiento y sortear obstáculos sin su propietario, muchos usuarios se quejaron de su mal funcionamiento. Pero en cuestión de semanas, Tesla recopiló datos de los primeros usuarios y volvió a entrenar sus modelos de aprendizaje automático. Como resultado, el rendimiento de Smart Summon mejoró drásticamente y la función se ha convertido en un elemento diferenciador clave para Tesla.
Robots autónomos que salvan vidas
A medida que disponen de más datos de los que aprender, la IA mejora rápidamente y se vuelve más precisa, adaptable y segura. A medida que los robots se generalicen en el uso diario, también lo harán sus aplicaciones, lo que apunta a una estrategia de implementación gradual de la robótica funcional. La conducción autónoma pasará de «manos al volante» a «manos libres», luego a «sin mirar la carretera», después a «sin prestar atención» y, finalmente, a «sin volante».
Un buen ejemplo es la empresa china WeRide. Esta compañía de vehículos autónomos ha desplegado autobuses robóticos y barredoras en varias ciudades de China. Actualmente operan en entornos más limitados que los robotaxis y ofrecen una seguridad considerablemente mayor que los operadores humanos. Aun así, estos vehículos, al funcionar en entornos limitados, recopilan una enorme cantidad de datos que, con el tiempo, les permitirán superar esas limitaciones.
A medida que los robots pasan de tareas sencillas a otras complejas, se recopilarán más datos para mejorar su rendimiento y seguridad. Por ejemplo, al reducir el error humano (la causa más común de los accidentes de tráfico), los vehículos autónomos podrían evitar 47.000 accidentes graves y salvar 3.900 vidas solo en el Reino Unido durante la próxima década. RAND Corporation determinó que los vehículos autónomos salvarán vidas incluso si solo son un 10 % más seguros que los humanos.
Un dilema moral
La implementación masiva de robots sigue suscitando grandes preocupaciones, incluida la objeción moral a que se pierda siquiera una vida humana por un error de una máquina. El dilema del tranvía —un dilema ético en el que un observador puede salvar cinco vidas de un tranvía sin control desviándolo para que mate a una sola persona— ilustra por qué decidir quién vive y quién muere implica juicios inherentemente morales que no pueden delegarse en máquinas sin sentimientos.
Este «dilema moral» se agrava porque las percepciones de robots y humanos son distintas, lo que da lugar a diferentes tipos de errores. Por ejemplo, los robots tienen reflejos fulminantes y una atención inquebrantable, pero pueden identificar mal los peligros, como cuando un coche autónomo de Uber interpretó que una peatona que cruzaba la carretera empujando una bicicleta era un coche y esperaba que avanzara más rápido de lo que lo hizo.
La diferencia entre los errores humanos y los de las máquinas dificulta que el público acepte las muertes causadas por robots, sobre todo si cada caso recibe la misma reacción mediática que la muerte ocurrida en Phoenix en 2018. Si los medios condenan de forma desproporcionada cada muerte causada por un robot con titulares demoledores, podrían destruir la confianza en los sistemas autónomos, pese al potencial de esta tecnología para salvar millones de vidas.
Cuando los conductores humanos causan muertes, se enfrentan a un juicio y a las consecuencias que establece la ley. Pero la «caja negra de la IA» no puede explicar sus decisiones en términos comprensibles para las personas ni justificables ante un juez y el público desde el punto de vista legal y moral.
Otra cuestión es la rendición de cuentas. En el caso de Phoenix, se acusó al conductor humano de respaldo de homicidio por negligencia. Pero ¿hay motivos para considerar responsables al fabricante del coche, al proveedor del algoritmo de IA o al ingeniero que lo escribió? Solo cuando la rendición de cuentas esté clara podrá construirse un ecosistema en torno a ella.
El dilema del tranvía en la era de la IA y el aprendizaje automático
Como podrían salvarse muchas vidas, hay argumentos a favor de lanzar tecnologías robóticas una vez que se haya demostrado que son un poco mejores que las personas. Por lo tanto, se debería aprovechar toda oportunidad para lanzar herramientas robóticas que ayuden a los humanos antes de conceder más autonomía a los robots. Después, su implementación debería limitarse a entornos controlados antes de extenderse más ampliamente. De este modo, se podrán recopilar más datos, mejorar el rendimiento de los robots y reducir al mínimo el número de vidas perdidas.
Ante las objeciones previsibles, debemos trabajar para comunicar colectivamente el coste a corto plazo y el beneficio a largo plazo que conlleva. Así podremos avanzar hacia una implementación responsable y bien meditada de la robótica, de modo que este proceso de adopción contribuya al bien común de la humanidad.
