Nos encontramos en un momento decisivo para el vasto e incierto futuro digital de la sociedad. Una tecnología poderosa, la inteligencia artificial (IA), ha resurgido de sus propias cenizas, en gran medida gracias a los avances en redes neuronales inspiradas, de manera aproximada, en el cerebro humano. La IA puede encontrar patrones en enormes conjuntos de datos no estructurados, mejorar su rendimiento a medida que dispone de más datos, identificar objetos con rapidez y precisión y ofrecer recomendaciones y tomar decisiones cada vez mejores y más numerosas, al tiempo que minimiza la interferencia de seres humanos complejos y politizados. Esto plantea grandes interrogantes sobre el grado de elección e inclusión humanas en las próximas décadas. ¿Cómo participarán y estarán representadas las personas de todos los niveles de poder e ingresos? ¿Cómo gobernaremos este valiente mundo nuevo de meritocracia de las máquinas?
Meritocracia de las máquinas
Debemos remontarnos 800 años atrás: enero de 1215. El rey Juan de Inglaterra, recién regresado de Francia, se enfrentó a unos barones furiosos que querían poner fin a su impopular vis et voluntas («fuerza y voluntad») sobre el reino. En un intento por aplacarlos, el rey y el arzobispo de Canterbury reunieron a 25 barones rebeldes para negociar una «Carta de las Libertades» que consagraría un conjunto de derechos destinado a limitar el poder discrecional del rey. En junio llegaron a un acuerdo que ofrecía más transparencia y representación en la toma de decisiones reales, limitaba los impuestos y los pagos feudales e incluso reconocía algunos derechos a los siervos. La famosa «Carta Magna» era un documento imperfecto, repleto de disposiciones a favor de intereses particulares, pero hoy solemos considerarla un momento decisivo en el avance de la humanidad hacia una relación equitativa entre quienes detentan el poder y quienes están sometidos a él. Con el tiempo, sentó las bases de la Ilustración, el Renacimiento y la democracia.
Equilibrio de poder
Lo que está en juego es ese equilibrio entre el poder cada vez mayor del nuevo potentado —la máquina inteligente— y el poder de los seres humanos. En un mundo en el que las máquinas crearán cada vez más valor y producirán más de los bienes que usamos a diario, el control humano sobre los diseños y las decisiones disminuirá. Los patrones actuales de trabajo y vida están cambiando para siempre. Nuestra creación nos da vueltas a una velocidad que nos impide contar las vueltas.
Decisiones de las máquinas
Esto va mucho más allá del empleo y la economía: en todos los ámbitos de la vida, las máquinas empiezan a tomar decisiones por nosotros sin que intervengamos conscientemente. Reconocen nuestros patrones del pasado y los de personas supuestamente similares de todo el mundo. Recibimos noticias que moldean nuestras opiniones, perspectivas y acciones según las inclinaciones que expresamos con nuestras acciones anteriores o las acciones de otras personas de nuestros círculos. Cuando conducimos, compartimos nuestros patrones de comportamiento con los fabricantes de automóviles y las aseguradoras para aprovechar la navegación y unas tecnologías de vehículos cada vez más autónomas, que a cambio nos ofrecen nuevas comodidades y un transporte más seguro. Disfrutamos de entretenimiento y videojuegos más enriquecedores y personalizados; quienes los crean conocen nuestros perfiles socioeconómicos, nuestros patrones de movimiento y nuestras preferencias cognitivas y visuales para determinar nuestra sensibilidad a los precios.
A medida que optamos por cada vez más comodidades, elegimos confiar en que una máquina «nos entienda bien». La máquina llegará a conocernos, quizá, de maneras más honestas de lo que nos conocemos a nosotros mismos, al menos desde una perspectiva estrictamente racional. Pero la máquina no tendrá fácilmente en cuenta las desconexiones cognitivas entre quienes decimos ser y quienes realmente somos. Al depender de datos reales sobre nuestras acciones reales, la máquina nos limita a lo que hemos sido, en vez de a lo que desearíamos ser o esperamos llegar a ser.
Elección personal
¿Eliminará la máquina esa capacidad de elección personal? ¿Acabará con las casualidades de la vida? ¿Planificará y trazará nuestras vidas para que conozcamos a personas como nosotros y, así, nos privará de encuentros y fricciones que nos obligan a evolucionar y convertirnos en personas diferentes, quizá mejores? Esto encierra un potencial enorme: algunas decisiones personales deberían basarse en análisis más objetivos; por ejemplo, incluir la huella de carbono de los distintos medios de transporte e integrarla con nuestros horarios y necesidades socioemocionales, recibir indicaciones sinceras sobre nuestros verdaderos talentos al elegir pareja o diseñar planes de enseñanza más eficaces para grupos diversos de estudiantes.
Polarización
Pero también podría polarizar las sociedades, empujándonos aún más hacia círculos de personas con ideas afines y reforzando nuestras creencias y valores sin darnos la oportunidad aleatoria de cuestionarlos, defenderlos y vernos obligados a reconsiderarlos. La IA podría utilizarse para la «ingeniería social digital» y crear microsociedades paralelas. Imaginemos una manipulación digital de los distritos electorales: operadores políticos que usan la IA para atraer a votantes con determinados perfiles a ciertos distritos años antes de las elecciones, o micr comunidades de Airbnb que solo alquilan a personas con determinados perfiles sociopolíticos, económicos o psicométricos, y solo les alquilan a ellas. Pensemos en empresas capaces de contratar con una selección mucho más quirúrgica: aumentarían sus tasas de éxito, pero también pondrían en peligro su flexibilidad estratégica al contar con una plantilla más reducida y menos diversa en sus facetas.
¿Quién juzga?
Una máquina nos juzga por los valores que expresamos —sobre todo los implícitos en nuestras transacciones comerciales—, pero pasa por alto otros valores profundamente arraigados que hemos reprimido o que permanecen latentes en distintos momentos de nuestra vida. Es posible que una IA no tenga en cuenta creencias recién formadas ni cambios en lo que valoramos fuera de aquello que se puede codificar con facilidad. Como resultado, podría, por ejemplo, tomar decisiones sobre nuestra seguridad que comprometan el bienestar de otras personas, basándose en datos históricos y de maneras que en ese momento nos podrían parecer cuestionables. Somos seres complejos que sopesamos valores con regularidad según la situación concreta, y a veces esas situaciones cuentan con pocos precedentes codificados, o ninguno, que una IA pueda procesar. ¿Respetará la máquina nuestro derecho a la libre voluntad y a reinventarnos?
Discriminación y sesgo
Del mismo modo, una máquina podría discriminar a las personas con peor salud o menor posición social porque sus algoritmos se basan en el reconocimiento de patrones y en promedios estadísticos generales. Uber ya se ha enfrentado a una ola de críticas por discriminación racial cuando sus algoritmos se basaron en los códigos postales para identificar los barrios de origen más probable de los pasajeros. ¿Favorecerá la IA la supervivencia de los más aptos, los más apreciados o los más productivos? ¿Tomará esas decisiones de forma transparente? ¿Qué recursos tendremos?
Además, la historia personal, las predisposiciones y los sesgos ocultos de un programador —o las motivaciones e incentivos de su empleador— podrían influir involuntariamente en el diseño de algoritmos y la selección de conjuntos de datos. ¿Podemos dar por sentado que una IA actuará siempre con objetividad? ¿Desarrollarán las empresas IA que favorezcan a sus clientes, socios, directivos o accionistas? ¿Una IA sanitaria desarrollada conjuntamente por empresas tecnológicas, grupos hospitalarios y aseguradoras, por ejemplo, actuará en beneficio del paciente o dará prioridad a una determinada rentabilidad financiera?
No podemos volver a meter al genio en la botella, ni deberíamos intentarlo: los beneficios serán transformadores y nos llevarán a nuevas fronteras del crecimiento y el desarrollo humanos. Estamos al borde de una explosión evolutiva sin parangón en el último milenio. Las explosiones y las revoluciones son caóticas, confusas y están plagadas de escollos éticos.
Una nueva carta de derechos
Por eso proponemos una Carta Magna para la economía global de la IA: una carta de derechos inclusiva y desarrollada colectivamente por múltiples partes interesadas que guíe el desarrollo continuo de la inteligencia artificial y siente las bases para la futura coexistencia entre seres humanos y máquinas, así como para un crecimiento humano cada vez más inclusivo. En los ámbitos económico, social o político, como sociedad debemos empezar a definir derechos, responsabilidades y directrices de rendición de cuentas que promuevan la inclusión y la equidad en los puntos de encuentro entre la IA y nuestras vidas. Sin ello, no generaremos suficiente confianza en la IA para aprovechar las increíbles oportunidades que podría ofrecernos.
