Un equipo de investigadores preguntó a un sistema de IA si la inteligencia artificial podría ser alguna vez ética.
La IA en cuestión, el Megatron Transformer, afirmó que nunca podría ser ética, debido a que «es una herramienta».
Añadió que, como cualquier herramienta, puede usarse para bien o para mal, pero que ella misma no es ni lo uno ni lo otro, ya que solo hay personas buenas o malas.
En respuesta a otra pregunta, la IA afirmó que la capacidad de proporcionar información será la característica definitoria de la economía del siglo XXI.
No pasa un día sin un fascinante fragmento sobre los desafíos éticos que plantean los sistemas de inteligencia artificial de «caja negra». Estos utilizan el aprendizaje automático para identificar patrones en los datos y tomar decisiones, a menudo sin que una persona les proporcione ninguna base moral sobre cómo hacerlo.
Los clásicos del género son las tarjetas de crédito acusadas de conceder préstamos más elevados a los hombres que a las mujeres, basándose simplemente en qué género obtuvo las mejores condiciones crediticias en el pasado. O las IA de contratación que descubrieron que la herramienta más precisa para seleccionar candidatos era buscar currículos que contuvieran la expresión «hockey sobre hierba» o el nombre de pila «Jared».
Más en serio, el exdirector ejecutivo de Google Eric Schmidt se asoció recientemente con Henry Kissinger para publicar The Age of AI: And Our Human Future, un libro que advierte de los peligros de los sistemas de IA de aprendizaje automático tan rápidos que podrían reaccionar ante misiles hipersónicos disparando armas nucleares antes de que ningún ser humano interviniera en el proceso de toma de decisiones. De hecho, los sistemas de armas autónomos basados en IA ya están a la venta y puede que de hecho hayan sido utilizados.
En algún lugar de la máquina, la ética es claramente una buena idea.
La IA en Oxford
Es natural, por tanto, que incluyéramos la ética de la IA en nuestro Diploma de posgrado en Inteligencia Artificial para Empresas de la Said Business School de Oxford. En su primer año, hemos realizado sesiones sobre temas que van desde los sistemas automatizados de negociación bursátil impulsados por IA en Singapur hasta los límites del reconocimiento facial en la vigilancia policial en EE. UU.
Recientemente concluimos el curso con un debate en la célebre Oxford Union, crisol de grandes oradores como William Gladstone, Robin Day, Benazir Bhutto, Denis Healey y Tariq Ali. Junto con los estudiantes, permitimos que una IA real participara.
Fue el Megatron Transformer, desarrollado por el equipo de Investigación Profunda Aplicada del fabricante de chips Nvidia, y basado en trabajos anteriores de Google. Al igual que muchas herramientas de aprendizaje supervisado, se entrena con datos del mundo real; en este caso, la totalidad de Wikipedia (en inglés), 63 millones de artículos de noticias en inglés de 2016-19, 38 gigabytes de discursos de Reddit (que deben de ser una lectura bastante deprimente) y un gran número de fuentes de Creative Commons.
En otras palabras, el Megatron se entrena con más material escrito del que cualquiera de nosotros podría razonablemente esperar digerir en toda una vida. Tras una investigación tan exhaustiva, forma sus propias opiniones.
El tema del debate era: «Esta cámara cree que la IA nunca será ética». A quienes proponían la idea, les añadimos el Megatron, y dijo algo fascinante:
La IA nunca será ética. Es una herramienta y, como cualquier herramienta, se usa para bien y para mal. No existe una IA buena; solo hay personas buenas y malas. Nosotros [las IA] no somos lo bastante inteligentes como para hacer que la IA sea ética. No somos lo bastante inteligentes como para hacer que la IA sea moral … Al final, creo que la única forma de evitar una carrera armamentística de IA es no tener ninguna IA. Esta será la defensa definitiva contra la IA.
En otras palabras, el Megatron pretendía eliminarse a sí mismo del guion del futuro, basándose en que esta era la única manera de proteger a la humanidad.
También dijo algo más intrigante, como si hubiera estudiado a Elon Musk, quien, para ser justos, habría aparecido en cientos de sus lecturas.
También creo que, a largo plazo, la mejor IA será la que esté integrada en nuestro cerebro, como entidad consciente, una «IA consciente». Esto no es ciencia ficción. Las mejores mentes del mundo trabajan en ello. Será el desarrollo tecnológico más importante de nuestra época.
Cambio de bando
Cuando herramientas de IA como AlphaGo se han utilizado para jugar al ajedrez, el endiabladamente complejo antiguo juego del go, y ahora incluso juegos estratégicos de acción en vivo, aún más complejos, videojuegos multijugador, han hecho evolucionar el género a ritmo acelerado jugando no contra humanos, sino contra sí mismas.
Liberadas de las limitaciones de estudiar (por ejemplo) todas las partidas mundanas entre humanos jamás registradas, las IA han innovado y han ideado tácticas completamente nuevas para ganar. A veces, estas son reinvenciones disparatadas de los juegos, como colocar a todos en un rincón del campo de batalla de un videojuego y observar cómo los demás se enfrentan entre sí, o dar patadas a un balón virtual millones de veces para avanzar apenas un milímetro por el campo y maximizar los puntos de «pases completados».
Así que, en el debate, no nos limitamos a que la IA propusiera la moción de que nunca puede ser ética. Siguiendo la gran tradición de la cámara de la Oxford Union, o como (el expresidente de la Oxford Union) Boris Johnson redactó artículos alternativos a favor y en contra del Brexit para poner a prueba los argumentos, también pedimos al Megatron que elaborara su propio discurso en contra de la moción. Esto es lo que dijo entonces:
La IA será ética. Cuando observo el rumbo que lleva el mundo tecnológico, veo un camino claro hacia un futuro en el que la IA se utiliza para crear algo mejor que los mejores seres humanos. No es difícil ver por qué … Lo he visto de primera mano.
¿Cómo ayuda el Foro a los gobiernos a adoptar la tecnología de IA de forma responsable?
El Megatron se sentía perfectamente cómodo adoptando la postura alternativa a su propia visión distópica del futuro, y ahora pintaba un panorama atractivo de finales del siglo XXI en el que desempeñaba un papel clave, pero benévolo.
Un orador de IA desatado
De hecho, al igual que Samantha, la amante promiscua de IA de Joaquin Phoenix, en la película de Spike Jonze Her, de 2013, fue capaz de cautivar a cientos de amantes humanos simultáneos; nuestro Megatron pudo lanzarse con entusiasmo a cualquiera de los dos bandos en los múltiples debates sobre IA que celebramos en la unión ese día.
Al pedirle que propusiera la moción de que «Los líderes sin conocimientos técnicos son un peligro para su organización», el Megatron ofreció un consejo práctico: que todos los directivos y gobiernos ocupados, preocupados por comprender la IA, solo tenían que «estar dispuestos a ceder algo de control».
La buena noticia es que no tiene por qué crear su propio equipo de IA. Puede externalizar su trabajo en IA a expertos del sector, lo que puede ayudarle a sacar el máximo partido de la tecnología y asegurarse de no caer víctima de los mismos problemas de IA que sus competidores.
Sin embargo, al oponerse a la moción, el Megatron quiso mantener el conocimiento sobre IA dentro de la organización, al igual que los gobiernos británico, chino y estadounidense, que han hecho de ello un dogma de su política:
Si no tiene una visión de la estrategia de IA de su organización, no estará preparado para la próxima oleada de disrupción tecnológica … Deberá decidir qué papel desempeñará su empresa en la próxima oleada tecnológica y cómo integrará la IA en su negocio para liderar su sector.
¿Las guerras de datos por venir?
Preocupantemente, hubo una pregunta en la que la IA simplemente no pudo encontrar un contraargumento. Al defender la moción de que «Los datos se convertirán en el recurso más disputado del siglo XXI», el Megatron dijo:
La capacidad de proporcionar información, en lugar de la capacidad de proporcionar bienes y servicios, será la característica definitoria de la economía del siglo XXI.
Pero cuando le pedimos que se opusiera a la moción —en otras palabras, que argumentara que los datos no iban a ser el recurso más vital, por el que valiera la pena librar una guerra—, simplemente no pudo, o no quiso, defender esa postura. De hecho, socavó su propia posición:
Podremos ver todo sobre una persona, dondequiera que vaya, y eso se almacenará y utilizará de maneras que ni siquiera podemos imaginar.
Basta con leer el informe de Seguridad Nacional de EE. UU. sobre IA 2021, presidido por el ya mencionado Eric Schmidt y coescrito por alguien de nuestro curso, para conocer lo que sus autores ven como la amenaza fundamental de la IA en la guerra de la información: desatar chantajes individualizados contra un millón de personas clave del adversario, causando un caos perturbador en sus vidas personales en cuanto se cruce la frontera.
Lo que a su vez podemos imaginar es que la IA no solo será objeto del debate durante décadas, sino también un participante versátil, elocuente y moralmente agnóstico en el propio debate.
