Se acaba de publicar un nuevo informe que destaca los cambios en la IA durante los últimos 5 años y las tendencias futuras previstas.
Lo escribieron conjuntamente personas de todo el mundo con formación en informática, ingeniería, derecho, ciencias políticas, políticas públicas, sociología y economía.
En los últimos 5 años, la IA se ha convertido cada vez más en parte de nuestras vidas y ha revolucionado varios sectores, pero sigue sin estar exenta de riesgos.
Acaba de publicarse. Puede considerarse el equivalente, en el ámbito de la IA, de un informe del Grupo Intergubernamental de Expertos sobre el Cambio Climático, ya que identifica la situación actual de la IA y las promesas y los peligros que se vislumbran.
Desde la generación de lenguaje y la medicina molecular hasta la desinformación y los sesgos algorítmicos, la IA ha empezado a impregnar todos los aspectos de nuestras vidas.
El informe sostiene que estamos en un punto de inflexión en el que investigadores y gobiernos deben pensar y actuar con cautela para contener los riesgos que plantea la IA y aprovechar al máximo sus beneficios.
Un estudio de la IA a lo largo de un siglo
El informe surge del proyecto AI100, cuyo objetivo es estudiar y anticipar los efectos que la IA tendrá en nuestras vidas durante los próximos 100 años.
AI100 publica un nuevo informe cada cinco años: el primero se publicó en 2016 y este es el segundo. Así como dos puntos definen una línea, este segundo informe nos permite ver la dirección que está tomando la IA.
Una de las personas autoras (Liz Sonenberg) es miembro del comité permanente que supervisa el proyecto AI100, y la otra (Toby Walsh) formó parte del panel de estudio que redactó este informe. Sus integrantes procedían de distintas partes del mundo y tenían formación en informática, ingeniería, derecho, ciencias políticas, políticas públicas, sociología y economía.
Las promesas y los peligros de la IA se están haciendo realidad
El informe destaca los notables avances logrados en IA durante los últimos cinco años. La IA está saliendo de los laboratorios y ha llegado a nuestras vidas, con un «impacto real en las personas, las instituciones y la cultura». Basta con leer las noticias cualquier día para encontrar probablemente varias historias sobre algún nuevo avance o uso de la IA.
Por ejemplo, en el procesamiento del lenguaje natural (PLN), las computadoras ya pueden analizar e incluso generar lenguaje humano realista. Para demostrarlo, pedimos al sistema GPT-3 de OpenAI, una de las redes neuronales más grandes jamás construidas, que resumiera para ustedes el informe AI100. Lo hizo bastante bien, aunque el resumen cuestiona nuestro sentido de identidad al estar escrito en primera persona:
En la próxima década, espero que la IA desempeñe un papel cada vez más destacado en la vida de las personas de todo el mundo. Los servicios que incorporan IA serán más comunes y esta estará cada vez más integrada en la vida cotidiana de las personas en todo el planeta.
Creo que esto traerá grandes beneficios económicos y sociales, pero también nos exigirá abordar numerosos desafíos para garantizar que los beneficios se compartan ampliamente y que estas nuevas tecnologías no marginen a nadie.
Una idea clave de la investigación en IA es que resulta más fácil construir cosas que comprender por qué funcionan. Sin embargo, no es sencillo definir qué significa que una aplicación de IA tenga éxito.
Por ejemplo, los sistemas de IA que se utilizan en la atención sanitaria para analizar síntomas, recomendar diagnósticos o elegir tratamientos suelen ser muy superiores a cualquier solución que pudiera crear una persona, pero su éxito es difícil de cuantificar.
Como segundo ejemplo de los recientes y notables avances en IA, consideremos el último logro de DeepMind, de Google. AlphaFold es un programa de IA que supone un enorme avance en nuestra capacidad para predecir cómo se pliegan las proteínas.
Esto probablemente conducirá a grandes avances en las ciencias de la vida y la medicina, acelerará los esfuerzos por comprender los componentes básicos de la vida y permitirá descubrir fármacos de forma más rápida y sofisticada. Hoy, gran parte del planeta sabe por experiencia propia que la forma singular de las proteínas de espícula del virus SARS-CoV-2 es clave para que este invada nuestras células y también para las vacunas desarrolladas para combatir su avance mortal.
El informe AI100 sostiene que aún es prematuro preocuparse por máquinas superinteligentes y pérdidas de empleo a gran escala debido a la automatización, pues eso requeriría una IA mucho más capaz que la disponible hoy. La principal preocupación que plantea el informe no son máquinas malintencionadas con una inteligencia superior a la humana, sino máquinas incompetentes con una inteligencia inferior.
Una vez más, es fácil encontrar en las noticias casos reales de riesgos y amenazas que las herramientas basadas en IA plantean al debate democrático y a la salud mental. Por ejemplo, Facebook utiliza aprendizaje automático para ordenar su sección de noticias y ofrecer a cada uno de sus 2 mil millones de usuarios una visión singular, aunque a menudo incendiaria, del mundo.
Cómo ayuda el Foro a los líderes a conectar las tecnologías de vanguardia con los desafíos del mundo real
El Centro de Tecnologías de Vanguardia e Innovaciónreúne a científicos, responsables de formular políticas y líderes empresariales para comprender las tecnologías emergentes y sus implicaciones en el mundo real.
Al facilitar la colaboración y la experimentación, el Centro ayuda a sus socios a convertir la innovación surgida de la investigación en aplicaciones prácticas que abordan desafíos globales compartidos.
Es hora de actuar
Está claro que estamos en un punto de inflexión: debemos reflexionar con seriedad y urgencia sobre las desventajas y los riesgos que revela la creciente aplicación de la IA. Las capacidades de la IA, que no dejan de mejorar, son un arma de doble filo. Los daños pueden ser intencionados, como los vídeos deepfake, o involuntarios, como los algoritmos que refuerzan los sesgos raciales y de otro tipo.
Tradicionalmente, la investigación en IA ha estado a cargo de especialistas en informática y ciencias cognitivas. Sin embargo, los desafíos que plantea hoy la IA no son solo técnicos. Todas las áreas del conocimiento humano, y en especial las ciencias sociales, deben participar en un amplio debate sobre el futuro de este campo. Para reducir los efectos negativos en la sociedad y potenciar los positivos, es necesario tener en cuenta las perspectivas de toda la comunidad académica y contar con la participación de la sociedad.
Los gobiernos también tienen un papel crucial en la configuración del desarrollo y la aplicación de la IA. De hecho, gobiernos de todo el mundo han empezado a considerar y abordar las oportunidades y los desafíos que plantea la IA. Sin embargo, siguen rezagados.
Se necesita una mayor inversión de tiempo y recursos para hacer frente a los desafíos que plantean las tecnologías de IA y los campos asociados, que evolucionan rápidamente. Además de regular, los gobiernos también deben educar. En un mundo habilitado por la IA, la ciudadanía, desde las personas más jóvenes hasta las de más edad, debe adquirir conocimientos sobre estas nuevas tecnologías digitales.
En última instancia, el éxito de la investigación en IA se medirá por el modo en que haya empoderado a todas las personas y haya contribuido a abordar los muchos problemas complejos que enfrenta el planeta, desde la emergencia climática hasta el aumento de la desigualdad entre países y dentro de ellos.
La IA habrá fracasado si perjudica o resta valor precisamente a las personas a quienes intentamos ayudar.
