La histeria sobre el futuro de la inteligencia artificial (IA) está por todas partes. No faltan noticias sensacionalistas sobre cómo la IA puede curar enfermedades, acelerar la innovación humana y mejorar la creatividad humana. Solo con leer los titulares, uno pensaría que ya vivimos en un futuro en el que la IA ha penetrado en todos los ámbitos de la sociedad.
Si bien la IA ha abierto una gran cantidad de oportunidades prometedoras, también ha dado lugar a una mentalidad que puede describirse mejor como "solucionismo de la IA". Se trata de la actitud según la cual, con datos suficientes, los algoritmos de aprendizaje automático pueden resolver todos los problemas de la humanidad.
Esta idea tiene un grave problema. En lugar de impulsar el avance de la IA, en realidad pone en riesgo el valor de la inteligencia artificial al desatender principios importantes de seguridad en IA y crear expectativas poco realistas sobre lo que la IA puede hacer realmente por la humanidad.
Sueños y espejismos de la IA
En solo unos años, el solucionismo de la IA se ha extendido desde los evangelizadores tecnológicos de Silicon Valley hasta los funcionarios y responsables políticos de todo el mundo. El péndulo ha oscilado, alejándose de la noción distópica de que la IA destruirá a la humanidad, hacia la creencia utópica de que nuestro salvador algorítmico ha llegado.
Los gobiernos prometen ahora apoyo a iniciativas nacionales de IA y compiten, en un plano tecnológico y retórico, en una carrera armamentística por dominar el floreciente sector del aprendizaje automático. El gobierno del Reino Unido ha se ha comprometido a invertir £300m en investigación sobre IA, para posicionarse como líder en el campo. Fascinado por el potencial transformador de la IA, el presidente francés Emmanuel Macron ha se ha comprometido a convertir a Francia en un centro mundial de IA.
Mientras tanto, el gobierno chino está aumentando su capacidad en IA con un plan nacional para crear una industria china de IA valorada en 150.000 millones de dólares para 2030. Muchos países aspiran a dominar la Cuarta Revolución Industrial. El solucionismo de la IA está en auge y ha llegado para quedarse.
Realidad de las redes neuronales
Mientras que muchos manifiestos políticos alaban los efectos transformadores de la inminente "revolución de la IA", tienden a subestimar la complejidad que implica desplegar sistemas avanzados de aprendizaje automático en el mundo real. Existen límites a lo que la IA puede hacer, y estos están vinculados a la forma en que el aprendizaje automático funciona realmente.
Una de las variedades más prometedoras de tecnologías de IA son las redes neuronales. Esta forma de aprendizaje automático se inspira vagamente en la estructura neuronal del cerebro humano, pero a una escala mucho menor. Muchos productos basados en IA utilizan redes neuronales para inferir patrones y reglas a partir de grandes volúmenes de datos. Pero lo que muchos políticos no entienden es que simplemente añadir una red neuronal a un problema no crea automáticamente una solución.
Si los responsables políticos empiezan a desplegar redes neuronales por todas partes, no deberían asumir que la IA hará de inmediato que las instituciones gubernamentales sean más ágiles o eficientes. Simplemente añadir una red neuronal a una democracia no la hará, de repente, más inclusiva, más justa ni más personalizada.
Pensemos, a modo de analogía, en transformar un centro comercial físico en una empresa como Amazon. Lanzar un sitio web no basta para convertirse en una empresa de internet. Se necesita algo más.
Desafiando la burocracia de los datos
Los sistemas de IA necesitan muchos datos para funcionar. Pero el sector público normalmente no cuenta con la infraestructura de datos adecuada para respaldar el aprendizaje automático avanzado. La mayor parte de sus datos sigue almacenada en archivos sin conexión. Las pocas fuentes de datos digitalizadas que existen tienden a quedar enterradas en la burocracia. Con frecuencia, los datos están repartidos entre distintos departamentos gubernamentales, y cada uno requiere un permiso especial para acceder a ellos. Sobre todo, el sector público normalmente carece del talento humano con las capacidades tecnológicas adecuadas para aprovechar plenamente los beneficios de la inteligencia artificial.
Por estas razones, el sensacionalismo en torno a la IA ha atraído a muchos críticos. Stuart Russell, catedrático de informática en Berkeley, lleva mucho tiempo abogando por un enfoque más realista de las redes neuronales, centrado en aplicaciones cotidianas sencillas de la IA en lugar de la hipotética toma de control por robots de una IA superinteligente. De manera similar, el catedrático de robótica del MIT Rodney Brooks, escribe que "casi todas las innovaciones en robótica e IA tardan mucho, muchísimo más en desplegarse realmente de forma amplia de lo que imaginan las personas dentro y fuera del campo". El progreso real es doloroso y lento. Y, en el caso de la IA, requiere una gran cantidad de datos.
Además, una de las muchas dificultades para desplegar sistemas de aprendizaje automático es que la IA es extremadamente susceptible a ataques adversarios. Esto significa que una IA malintencionada puede atacar a otra IA para obligarla a hacer predicciones erróneas o a comportarse de cierta manera. Muchos investigadores han advertido contra implantar la IA sin los estándares de seguridad y mecanismos de defensa adecuados. Aun así, la seguridad de la IA sigue siendo un tema con frecuencia pasado por alto en la retórica política de los responsables de políticas.
Máquinas, no magia
Si queremos aprovechar los beneficios de la IA y minimizar sus posibles daños, debemos empezar a pensar en cómo puede aplicarse de manera significativa el aprendizaje automático a áreas específicas del gobierno, las empresas y la sociedad. Esto implica que necesitamos debatir sobre la ética de la IA, y sobre la desconfianza que muchas personas sienten hacia el aprendizaje automático.
Lo más importante es que debemos ser conscientes de las limitaciones de la IA y de los ámbitos en los que los humanos aún deben tomar la iniciativa. En lugar de pintar una imagen poco realista del poder de la IA, es importante dar un paso atrás y separar las capacidades tecnológicas reales de la IA de la magia de fantasía. El aprendizaje automático no es ni magia ni la solución a todo.
Incluso Facebook reconoció recientemente que la IA no siempre es la respuesta. Durante mucho tiempo, la red social creyó que problemas como la difusión de desinformación y los discursos de odio podían identificarse y detenerse de forma algorítmica. Pero, bajo la presión reciente de los legisladores, la empresa se comprometió rápidamente a sustituir sus algoritmos por un ejército de más de 10,000 revisores humanos.
La profesión médica también ha reconocido que la IA no puede considerarse una panacea para todos los problemas. El programa IBM Watson for Oncology fue una herramienta de IA concebida para ayudar a los médicos a tratar el cáncer. Aunque se desarrolló para ofrecer las mejores recomendaciones, los expertos humanos consideraron que era difícil confiar en la máquina. Como resultado, el programa de IA fue abandonado en la mayoría de los hospitales donde se probó, pese a las importantes inversiones realizadas en la tecnología.
Problemas similares surgieron en el ámbito jurídico, cuando se utilizaron algoritmos en los tribunales de Estados Unidos para dictar sentencias contra delincuentes. Se empleó un algoritmo opaco para calcular las puntuaciones de evaluación de riesgos y determinar la probabilidad de que alguien cometa otro delito. La IA fue diseñada para ayudar a los jueces a tomar decisiones más basadas en datos en los tribunales. Sin embargo, se comprobó que el sistema amplificaba la discriminación racial estructural, lo que provocó una importante reacción adversa por parte de los profesionales del derecho y del público en general.
Trabajar con una IA limitada
Estos ejemplos demuestran que no existe una solución de IA para todo. Usar la IA simplemente por el hecho de usarla puede no ser siempre productivo ni útil. No todos los problemas se resuelven mejor aplicando la inteligencia artificial.
En un tratado casi profético publicado en 1964, el filósofo estadounidense Abraham Kaplan describió esta tendencia como la "ley del instrumento". La formuló así: "Dale un martillo a un niño pequeño y descubrirá que todo lo que encuentra necesita ser golpeado".
Solo que esta vez, la mentalidad del niño pequeño de Kaplan la comparten líderes mundiales influyentes, y el martillo de la IA no solo es muy potente, sino también muy caro. Las lecciones fundamentales para todos los que aspiran a impulsar las inversiones en programas nacionales de IA son estas: todas las soluciones tienen un coste, y no todo lo que puede automatizarse debería serlo.
No podemos permitirnos esperar sentados hasta llegar a una IA general y consciente en un futuro lejano. Tampoco podemos confiar en la IA estrecha para resolver hoy todos nuestros problemas por nosotros. Debemos resolverlos nosotros mismos y dar forma activamente a los sistemas de IA para que nos ayuden en esta monumental tarea.
