Cuando se acuñó el término «guerras de la información», sus creadores no pensaban en robots discutidores.
Pero los asistentes de inteligencia artificial pueden ser tan discutidores como sus amos humanos, según un estudio sobre los bots de edición de Wikipedia publicado en febrero. Los investigadores descubrieron que, tras bambalinas, se libran enormes guerras de edición en la enciclopedia en línea. Las inteligencias artificiales se devolvían cambios una y otra vez, hasta el infinito, a menudo hasta que los programadores las desactivaban.
«Las disputas entre bots pueden ser mucho más persistentes que las que vemos entre personas», dijo Taha Yasseri, quien participó en el estudio, titulado Hasta los buenos bots se pelean.
«Los humanos suelen calmarse al cabo de unos días, pero los bots podrían seguir durante años».
Las disputas entre bots no son nuevas. En 2011, estudiantes de la Universidad Cornell organizaron el primer diálogo entre dos inteligencias robóticas, Alan y Sruthi. En 90 segundos, la cordial relación entre ambos se convirtió en una disputa por comentarios mal oídos, la existencia de Dios y, ejem, si Alan era un unicornio, antes de que uno de ellos pusiera fin a la conversación. Los robots no lograron terminar su primera charla sin sufrir una especie de extraño colapso alucinógeno. Al bot promedio aún le queda mucho camino por recorrer antes de poder lanzar una réplica verdaderamente al estilo de Churchill.
Pero, aunque todo esto parezca ridículo, las consecuencias para la IA podrían ser graves. Los posibles peligros de la robótica están ampliamente reconocidos. Stephen Hawking pidió «algún tipo de gobierno mundial» para controlar su desarrollo. Más del 70 % de los estadounidenses temen una sociedad dominada por la IA, según reveló un reciente estudio del Pew Research Center.
En agosto, el fundador de Tesla, Elon Musk, fue uno de los 116 firmantes de una carta que pedía una prohibición unilateral de la ONU sobre los robots asesinos. Una IA que se descontrolara podría desencadenar la Tercera Guerra Mundial, cree Musk, «si decide que un ataque preventivo es [la] vía más probable hacia la victoria».
La industria tecnológica parece estar tomando conciencia de los peligros. En octubre, DeepMind, de Google creó una unidad centrada en las implicaciones éticas de la IA. En diciembre de 2016, el Instituto de Ingenieros Eléctricos y Electrónicos promovió la creación de una IA benévola en un documento de 136 páginas titulado Diseño alineado éticamente.
Pero las disputas entre los bots de Wikipedia complican el panorama. Si «hasta los buenos bots se pelean» y unas IA rudimentarias que realizan sencillas tareas de mantenimiento quedan atrapadas en amargas luchas existenciales, ¿qué esperanza hay a medida que nuestros sistemas y programas se vuelven cada vez más complejos? Si los bots diseñados por dos programadores distintos terminan peleándose, ¿qué pasará con los diseñados por dos países?
¿Y si, en vez de una coma fuera de lugar, la disputa fuera por las fronteras nacionales, las reservas de alimentos o las rutas aéreas?
La verdad es que no lo sabemos. Pero quizá haya una pista en el mundo de los vehículos automatizados. A principios de este mes, un autobús lanzadera autónomo chocó menos de dos horas después de iniciar su primer recorrido en Los Ángeles, cuando un camionero dio marcha atrás de forma ilegal.
«Simplemente estaba dando marcha atrás… y la lanzadera no tenía la capacidad de retroceder», explicó un pasajero.
La ciudad emitió un comunicado escueto: «La lanzadera hizo lo que debía: sus sensores detectaron el camión y se detuvo para evitar el accidente. Si el camión hubiera tenido el mismo equipo de detección que la lanzadera, se habría evitado el accidente».
El comunicado da a entender que el accidente no habría ocurrido en una carretera llena de vehículos autónomos. Pero las épicas disputas entre robots de Wikipedia cuentan otra historia. Si un autobús lanzadera automatizado no puede lidiar con un solo conductor imprevisible, ¿podría gestionar un atasco de coches sin conductor, cada uno con sus propias rígidas prioridades de programación? Y eso sin siquiera preguntarnos qué contendría esa programación o en qué diferiría de un fabricante a otro. El historiador Yuval Noah Harari ya ha señalado los dilemas inherentes a esta tarea mediante un antiguo dilema filosófico. ¿Debería un coche sin conductor matar a su pasajero si así salvara a cinco personas en otro vehículo?
Sin embargo, no todos son pesimistas sobre el futuro de la IA. Grandes figuras de la tecnología, desde Bill Gates hasta Mark Zuckerberg se han declarado optimistas. El fundador de Facebook ha condenado los «escenarios apocalípticos» de Musk. (En respuesta, Musk calificó de «limitada» la comprensión de Zuckerberg. Espera, ¿esto te recuerda a alguien?)
Pero, tanto si crees que nos dirigimos hacia una pesadilla de brutal esclavitud robótica como hacia un paraíso en el que podrás dormir durante tus desplazamientos, hay algo seguro: nuestros nuevos amigos robots tendrán que aprender a llevarse bien.
