La inteligencia artificial tiene la capacidad de redefinir la forma en que vivimos, trabajamos e interactuamos, pero el desarrollo descontrolado de la tecnología conlleva riesgos.
La Cumbre sobre Gobernanza de la IA (AIGS) del Foro Económico Mundial celebrada en noviembre destacó algunos de los principales desafíos y temas de debate de la IA.
Estas mismas cuestiones probablemente marcarán el debate sobre el impacto transformador de la IA en la Reunión Anual 2024 del Foro en Davos.
La inteligencia artificial (IA) cambiará su vida; de hecho, ya está ocurriendo. Lo que no está claro es cómo.
El potencial de la IA para reimaginar lo posible quedó de manifiesto en 2023 con la aparición de modelos de IA generativa como ChatGPT, que pueden crear contenidos detallados con solo pulsar un botón.
Aunque disruptivos, estos modelos representan solo una aplicación de una tecnología que tiene la capacidad de redefinir la forma en que vivimos, trabajamos e interactuamos.
Los debates en la Cumbre sobre Gobernanza de la IA (AIGS) del Foro Económico Mundial celebrada en San Francisco en noviembre apuntan a algunos de los principales temas de IA que se abordarán en la Reunión Anual 2024 del Foro en Davos.
Entonces, ¿qué dicen los expertos sobre los beneficios y los peligros de nuestro futuro impulsado por la IA?
Liberar el potencial ilimitado de la IA conlleva riesgos desconocidos
“La IA promete permitirnos aumentar nuestro capital humano y parece capaz de resolver muchos de los desafíos de nuestro tiempo”, afirmó Gan Kim Yong, ministro de Comercio e Industria de Singapur, ante el público de la AIGS.
Pero también plantea riesgos, advirtió: “Su capacidad para generar contenidos a gran velocidad y escala creará nuevos elementos de riesgo, entre ellos, por ejemplo, un mayor riesgo de desinformación o información errónea.
“Tendremos que pensar en cómo podemos fomentar un uso adecuado de esta tecnología. Pero si la utilizamos correctamente, tiene la capacidad de impulsar nuestras economías y nuestras sociedades, y de capacitar a nuestra fuerza laboral para hacerlo aún mejor.”
Pero, para aprovechar plenamente el potencial de la IA generativa, tendremos que ayudar a las empresas a transformarse y dotarlas de las herramientas y competencias digitales necesarias para adoptar esta tecnología, afirmó.
En la última década, la inversión en tecnologías de IA ha aumentado exponencialmente, para luego descender debido a la pandemia de COVID-19.
El ritmo sin precedentes de la innovación en IA significa que un enfoque único para la regulación no es adecuado para su finalidad.
“Tendremos que adoptar un enfoque ágil, flexible y práctico para gobernar el desarrollo de la IA”, dijo Yong.
“Será importante que nos unamos como comunidad global para orientar colectivamente el desarrollo de la tecnología en favor del bien público y hacerlo de forma segura y protegida.”
Los modelos de IA deben basarse en la colaboración y la confianza
Los debates en la AIGS se centraron en el despliegue interactivo y gradual de la IA, dando prioridad al aprendizaje experiencial y sin perseguir la “velocidad por la velocidad”, como sostuvo Sabastian Niles, presidente y director jurídico de Salesforce.
“La confianza tiene que ir primero”, afirmó.
“Plantear las preguntas adecuadas ahora nos permitirá crear el futuro que queremos tener, en lugar del futuro al que podríamos terminar llegando.”
Esto implica mitigar, supervisar y comprender en profundidad los riesgos asociados al desarrollo de la IA, afirmó.
“Necesitamos sistemas aún más multilaterales, aún más multisectoriales.
“La oportunidad de transformación que la IA aporta a toda la sociedad, a los gobiernos, a las empresas, a las comunidades y a los seres humanos en general solo puede lograrse si contamos con una colaboración sólida entre el sector público y el privado.
“Si lideramos con confianza e inclusión, pensamos en la igualdad, la sostenibilidad y la innovación, y realmente abrazamos el éxito de las partes interesadas al abordar la IA, creo que podemos elevar el nivel mínimo y mejorar los resultados empresariales, los resultados humanos, los resultados sociales, los resultados de la sociedad civil, y también alcanzar los verdaderamente poderosos objetivos tipo «moonshot»”, dijo Niles.
La rendición de cuentas es esencial para que la IA beneficie a todos
Los delegados de la AIGS analizaron cómo podría desarrollarse y desplegarse la IA para aumentar la inclusión en lugar de exacerbar las desigualdades sociales y económicas existentes. Si se desarrolla correctamente, la IA podría conducir a una sociedad más justa e igualitaria.
Alexandra Reeve Givens, directora ejecutiva del Center for Democracy and Technology, afirmó que la rendición de cuentas debe incorporarse a la forma en que se desarrollan los sistemas de IA. Subrayó la necesidad de actuar para evitar que la tecnología profundice las brechas socioeconómicas existentes que amenazan las libertades y los derechos individuales, o que afecte negativamente a la forma en que las personas acceden a la información y se comunican entre sí.
“Es agradable pensar en los países como bancos de pruebas para la innovación, pero los gobiernos tienen la obligación de pensar en los derechos de las personas que viven dentro de sus fronteras y en todo el mundo”, dijo Givens.
“Cuando se tiene una tecnología que funciona aprendiendo a partir de conjuntos de datos existentes e identificando patrones, y después toma decisiones basadas en los patrones que detecta, eso es una receta para replicar la desigualdad social existente.
¿Cómo está creando el Foro Económico Mundial barreras de protección para la inteligencia artificial?
El Centro de Excelencia en IA conecta a líderes de todos los sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Respalda un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculadas a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a los socios generar una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
“Debemos garantizar que la IA también funcione para las comunidades que no están bien representadas en los conjuntos de datos existentes, e incorporarlo desde el principio”, dijo. “Esto incluye asegurar que la información y las sugerencias que genera un sistema de IA no incluyan sesgos existentes y sean representativas de diferentes comunidades y culturas.”
Existen preocupaciones similares sobre el uso de la IA para la vigilancia gubernamental, como los sistemas de reconocimiento facial o la vigilancia predictiva, y sobre la capacidad de utilizar la tecnología para vulnerar las libertades y los derechos individuales de las personas, afirmó.
Los sistemas basados en IA cada vez más sofisticados significan que la desinformación, la información errónea y las falsificaciones profundas (deepfakes) pueden generarse con solo pulsar un botón.
“La solución no es prohibir la tecnología”, dijo Givens. La gobernanza es muy importante “a nivel de los desarrolladores, las empresas que crean estas herramientas, a nivel de quienes la despliegan, las plataformas de redes sociales y otros que permiten que esta información se difunda en el ecosistema, y para que los propios gobiernos den un paso al frente y actúen.”
