A medida que se expanden los casos de uso de la inteligencia artificial, nos enfrentamos a una realidad en la que la autonomía humana se erosiona y la toma de decisiones se delega en las máquinas.
Para evitar que esto ocurra, cada uno de nosotros puede tomar medidas en su propia vida para preservar su autonomía y su capacidad de tomar decisiones.
Reflexionar sobre los “Complex Five” de lo conocido y lo desconocido es una forma infalible de prepararse para la era de la IA.
Este blog de Agenda se publicó originalmente en CogX.
Hoy en día, la inteligencia artificial (IA) parece ser la respuesta a todo, independientemente de la pregunta. El potencial de la IA para generar beneficios profundos se enfrenta a riesgos existenciales. Más matizados que la mera extinción humana, estos riesgos desafían nuestros valores, nuestras libertades e incluso la trayectoria de la civilización.
El control algorítmico, un cambio creciente respecto al juicio humano, se infiltra sutilmente en nuestras vidas. Influye en decisiones sobre todo, desde los canales de noticias hasta las perspectivas laborales, desde las creencias hasta las lealtades. Esta erosión de la autonomía y de la capacidad de elección, gradual y a menudo invisible, merece mucha más atención que los estereotípicos escenarios apocalípticos.
La presión evolutiva da prioridad a la relevancia. La presión recae sobre nosotros para tomar decisiones más relevantes. Pero ¿cómo?
Los “Complex Five”: conoce tus incógnitas
Debemos comprender los distintos tipos de incertidumbre para anticipar nuestras futuras relaciones con la IA.
Conocidos conocidos: Cosas que sabemos que sabemos, como «el sol sale por la mañana y se pone por la noche». Para estas, utilizamos la definición de Michele Wucker de «Rinoceronte gris.» No hay incertidumbre con los rinocerontes grises; podríamos tratarlos como desconocidos, pero son ciertos.
Conocidos desconocidos: Cosas que creemos saber, pero que, cuando se manifiestan, descubrimos que no las entendemos. Por ejemplo, el aumento de las temperaturas y de los niveles de acidez de los océanos propició condiciones perfectas para el crecimiento de la población de medusas. Este aumento provocó después paradas de funcionamiento por la obstrucción de los sistemas de refrigeración de reactores nucleares de todo el mundo debido a las medusas. Aquí, situaciones que creemos entender pueden volverse complejas, ya que pequeños cambios generan impactos mayores y menos predecibles. Para describir estos conocidos desconocidos, Postnormal Times utiliza el término «Medusa negra».
Desconocidos conocidos: Cosas que sabemos que no sabemos, como las nuevas enfermedades, los impactos del cambio climático y las migraciones humanas masivas. Son acontecimientos evidentes y muy probables, pero pocos los reconocen. A estos desconocidos conocidos los llamamos «elefantes negros», basándonos en un término atribuido al Institute for Collapsonomics.
Desconocidos desconocidos: Cosas que no sabemos que no sabemos. Para estos valores atípicos impredecibles, usamos el término de Nassim Nicholas Taleb «Cisnes negros.»
Efectos mariposa: El aleteo de las alas de un insecto majestuoso reúne a estos animales. El «efecto mariposa», definido por el meteorólogo Edward Lorenz, describe cómo pequeños cambios pueden tener consecuencias significativas e impredecibles. Para ilustrarlo, Lorenz describió una mariposa que, al batir sus alas, influía en la formación de un tornado en otro lugar.
Todos estos grados de incertidumbre comparten un rasgo común: la ignorancia, o la ausencia de pruebas, no es prueba de ausencia.
Cómo responder a los “Complex Five” de la IA
Los cinco grandes de los safaris (búfalos, leopardos, leones, elefantes y rinocerontes) son peligrosos por su fuerza y su tamaño. En nuestro mundo disruptivo, nuestros Complex Five son los cinco animales más importantes en nuestra «caza» de grandes disruptores: rinocerontes, medusas, cisnes, elefantes y mariposas.
Al filtrar el futuro de la IA más allá de las dicotomías extremas, podemos adaptar nuestras respuestas al espectro de incertidumbres y desarrollar estrategias para seguir siendo relevantes en la era de la IA.
1. Cuidado con los rinocerontes que cargan
Imagine el rinoceronte gris de Wucker: ¿qué resultados de la IA probables, visibles y de gran impacto ignoramos, pese a las pruebas de que ya se nos vienen encima?
Desinformación: Los deepfakes y la desinformación impulsados por la IA crecen rápidamente y amenazan los hechos, las democracias y la salud mental. El Brexit, las recientes elecciones en Estados Unidos y la pandemia de Covid ya han demostrado cómo las redes sociales pueden dañar la democracia.
Competencias y recualificación: Hoy en día, las tareas cognitivas rutinarias se están automatizando. La inteligencia artificial estrecha ya tiene capacidades increíbles que sobresalen en tareas definidas con precisión, superando a los humanos en ámbitos especializados. Para desarrollar competencias que las máquinas no puedan emular con rapidez, debemos sustituir la transferencia mecánica de conocimientos por capacidades centradas en el ser humano, como el pensamiento crítico y la inteligencia emocional.
Con los rinocerontes grises, las respuestas suelen quedarse cortas porque las decisiones llegan demasiado tarde. Para evitar ser arrollados, conviene anticipar los impactos, en lugar de ir tirando y entrar en pánico cuando ya es tarde.
2. No te piques con la medusa
La medusa negra, utilizada por Postnormal Times indica eventos ocultos de baja probabilidad y alto potencial de impacto. Aunque la situación inicial pueda parecer predecible, las medusas negras crecen hasta convertirse en algo que desafía nuestra imaginación.
Info-ruption: ¿Cuáles serán los efectos en cascada de la disrupción de la información? ¿Cómo amenazan las armas de desinformación masiva la cohesión de la sociedad? La Info-ruption podría ser el arma principal de las guerras futuras, determinando el futuro de la humanidad.
Amplificación de sesgos: La amplificación masiva de la discriminación a través de los sesgos de la IA puede repercutir en toda la sociedad.
Fusión de la IA y la biotecnología: La intersección entre la IA, la biología y la tecnología podría cuestionar la posición del ser humano como ser dominante. ¿Qué define a una humanidad sostenible?
La info-ruption es una carrera armamentística. A medida que la tecnología amplifica la información inexacta y los sesgos, debemos desarrollar herramientas (y mentalidades) igual de poderosas para combatirlos.
Para responder a las medusas negras de la IA, debemos considerar los efectos de bola de nieve, preguntándonos cómo podrían propagarse en cascada estas repercusiones e incluso volverse irreversibles. Pregunte: «¿Qué pasaría si esto se expandiera más de lo esperado?» y «¿En qué más podría afectar este impacto?»
3. Abordar el elefante en la habitación
Los elefantes negros son amenazas evidentes, pero pocos están dispuestos a reconocerlas. Son similares a los rinocerontes grises, pero, por ahora, el elefante está de pie, frente al rinoceronte que se abalanza inminentemente. Cuando se habla de elefantes negros, las opiniones contrapuestas se traducen en confusión e inacción.
Reinventar la educación: Nuestros modelos educativos basados en el conocimiento formarán a un gran número de personas que no podrán seguir el ritmo de nuestro mundo no lineal y en constante cambio. El debate actual sobre la IA descuida la necesidad crítica de reimaginar la educación. La IA no supone una amenaza por su existencia, sino porque nuestros sistemas educativos no logran adaptarse.
Pérdida de capacidad de decisión: A medida que delegamos en los sistemas de IA, nuestra capacidad de decisión se erosiona, lo que nos lleva a perder el hábito de tomar decisiones por nosotros mismos. A medida que los algoritmos imponen cada vez más sus decisiones, perdemos oportunidades de ejercer nuestra autonomía.
Los elefantes negros requieren movilizar la acción, alinear a las partes interesadas y comprender los cambios en nuestros sistemas complejos. En situaciones concretas, conviene asumir la responsabilidad de nuestra respuesta. Evitemos que los elefantes negros nos tomen por sorpresa, ya que, de lo contrario, se transformarán en rinocerontes grises y embestirán.
La era del tecnoexistencialismo: recuperar la autonomía
Hoy en día, la humanidad se enfrenta a unas condiciones tecnológicas y existenciales que ya no pueden separarse. Definimos este fenómeno como “Tecnoexistencialismo.”
A través de la IA, la tecnología nos desafía en la toma de decisiones estratégicas, un ámbito históricamente exclusivo de los seres humanos. Aquí, la tecnología se enfrenta a la dimensión existencial, ya que nos encontramos al borde de nuestro libre albedrío.
Jean-Paul Sartre articuló con fuerza la condición humana: «la existencia precede a la esencia», según la cual nuestra autonomía surge a través de la elección. Pero si la tecnología determina los resultados en nuestro nombre, nuestra autonomía se ve limitada y nuestras elecciones pueden escapar a nuestro control.
El tecnoexistencialismo es nuestro intento de aplicar esta perspectiva filosófica a la construcción de sentido y a la toma de decisiones en nuestro entorno tecnocrático contemporáneo.
Las máquinas no necesitan volverse superinteligentes para desafiarnos. La cuestión es comprender la naturaleza de nuestras propias capacidades en relación con la racionalidad computacional de una máquina.
No debemos subestimar la gravedad de la pérdida de competencias. Al delegar nuestra capacidad de decisión en algoritmos, la confianza puede derivar en dependencia.
El verdadero riesgo existencial no es que las máquinas se apoderen del mundo, sino lo contrario: que los humanos comiencen a funcionar como máquinas inactivas, incapaces de conectar los puntos emergentes del complejo mundo actual.
Reinventar la educación, desde el patio de recreo hasta la sala de juntas, es hoy una prioridad existencial. Necesitamos establecer nuevas relaciones con la indagación, la experimentación, el fracaso y la creatividad para ayudarnos a resolver los problemas que nos sacan de los riesgos existenciales a los que nos enfrentamos.
4. Desarrollar resiliencia ante los cisnes negros
Los cisnes negros de Taleb son eventos imprevisibles, pero de altísimo impacto. El problema es que no sabemos lo que no sabemos. Incluso en el caso de la IA, las probabilidades de estos eventos raros y de sus reacciones en cadena descontroladas no son calculables.
Inteligencia artificial general: ¿Qué desarrollos tecnológicos futuros son imaginables (o inimaginables)? ¿Es realmente posible alcanzar la IAG y cuáles serían las ramificaciones?
Sistemas de IA superinteligentes: ¿Qué sucede si nuestra creación supera la inteligencia humana combinada y escapa a nuestra capacidad de control? ¿Podría perseguir objetivos que supongan una amenaza existencial para nuestra especie?
Fallos catastróficos extremos: Los impactos cruzados derivados de sistemas de IA que interactúan pueden provocar resultados drásticos e irreparables.
Las respuestas a los cisnes negros incluyen la construcción de cimientos resilientes y la atención a los eventos raros de profundo impacto. Por imprevisibles que sean los cisnes negros, podemos seguir siendo anticipativos, implementando salvaguardas frente a la aleatoriedad de nuestro mundo.
No pregunte qué podría hacer la IA con los humanos, sino qué decidirá hacer la humanidad en relación con la IA. Busque lo no obvio. Acepte la aleatoriedad. Sea consciente del sesgo cognitivo a medida que el mundo moderno se ve dominado por eventos muy raros. Cuando aparezcan los cisnes negros, levántese de la devastación.
¿Cómo crea el Foro Económico Mundial salvaguardas para la inteligencia artificial?
El Centre for AI Excellence reúne a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Respalda un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a los socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
5. Esperar lo inesperado de nuestra majestuosa mariposa
El efecto mariposa es liminal: puede mutar en los otros animales. ¿Cómo se multiplican los Cinco Complejos al colisionar?
La disrupción sistémica es un caldo de cultivo para los efectos mariposa. No prepararse tiene un coste elevado. Nuestros sistemas globales, desde la alimentación hasta la energía, son interdependientes. Los impactos no están aislados; del mismo modo, tampoco debería estarlo nuestro enfoque para evaluar los riesgos de la IA y la preparación para el futuro.
La IA evoluciona rápidamente y los objetivos para seguir siendo relevantes cambian constantemente. Todo lo que creemos saber hoy sobre la IA cambiará mañana.
La mejor respuesta al efecto mariposa de la IA es construir resiliencia, adoptar estrategias adaptativas y esperar lo inesperado.
Aplicar nuestra matriz de los Cinco Complejos a la IA puede ayudarnos a planificar posibles respuestas. Al reconocer los grados de incertidumbre, podemos prepararnos mejor para una serie de futuros desconocidos y sorpresas que nos esperan.
