En 2022, se estimó que el mercado mundial de inteligencia artificial (IA) tenía un valor de 120.000 millones de dólares; las previsiones apuntan a que alcanzará los 1,6 billones de dólares en 2030.
Como tecnología de doble uso, la IA ofrece profundos beneficios económicos y sociales, y plantea desafíos que los gobiernos y las empresas no pueden ignorar.
Las organizaciones deben implementar modelos de gobernanza de la IA que generen confianza y seguridad.
Hoy en día, las tecnologías de inteligencia artificial (IA) están presentes en la mayoría de los ámbitos de nuestra vida, desde los coches autónomos y las finanzas hasta las soluciones sanitarias. En 2022, IBM descubrió que el 35% de las empresas utilizaba la IA en sus operaciones, mientras que el 42% indicó que estaba explorando su uso.
Además, Gartner prevé que, para 2025, se descubrirá más del 30% de los nuevos medicamentos y materiales mediante técnicas de IA generativa.
Este auge de la IA en distintos sectores también se refleja en el crecimiento previsto del mercado. En 2022, se estimó que el mercado mundial de la IA tenía un valor de 120.000 millones de dólares; las previsiones apuntan a que alcanzará casi los 1,6 billones de dólares en 2030.
Si bien las tecnologías de IA ofrecen numerosos beneficios que contribuyen al progreso de la sociedad, como tecnología de doble uso también provocan profundas disrupciones económicas y sociales que pueden afectar nuestra privacidad, seguridad y bienestar y, por tanto, no pueden ser ignoradas por los gobiernos, el sector privado ni las personas.
Para potenciar los beneficios y mitigar los riesgos asociados a la IA, en los últimos años organizaciones públicas y privadas han desarrollado marcos de gobernanza destinados a orientar el desarrollo y la implementación de una IA ética, justa y confiable.
Gobernanza de una IA confiable
A modo de ejemplo, la Recomendación del Consejo de la OCDE sobre Inteligencia Artificial, adoptada en mayo de 2019, identifica cinco principios clave para la gestión responsable de una IA confiable, que deben aplicar los gobiernos, las organizaciones y las personas. Hoy, estos principios sirven como marco de referencia para las normas internacionales y la legislación nacional sobre IA.
Otros ejemplos de iniciativas internacionales y regionales sobre la gobernanza de la IA incluyen la Recomendación de la UNESCO sobre la Ética de la IA, la propuesta del Consejo de Europa de un marco jurídico para la inteligencia artificial basado en las normas del Consejo sobre derechos humanos, democracia y Estado de derecho, así como una serie de documentos que definen el enfoque de la UE respecto de la IA. La «Ley de Inteligencia Artificial» de la UE, por ejemplo, propone un marco jurídico para una IA confiable.
A nivel nacional, los gobiernos han desarrollado estrategias de IA que, entre otras cosas, describen enfoques para una IA confiable y segura.
Desde la perspectiva del sector privado, varias empresas, entre ellas Google y Microsoft, han desarrollado herramientas y principios de gobernanza para crear sistemas de IA de forma responsable, que también describen enfoques prácticos para garantizar que se eviten las consecuencias no deseadas de esta tecnología.
Sin embargo, pese a estos diversos esfuerzos de gobernanza del sector público y privado, las investigaciones muestran que la mayoría de las organizaciones aún no han tomado medidas concretas para garantizar el desarrollo y el uso de una IA confiable y responsable. Por ejemplo, más de el 70% de las organizaciones no ha adoptado las medidas necesarias para eliminar los sesgos en la IA, mientras que se estima que el 52% no puede proteger la privacidad de los datos durante todo el ciclo de vida de la IA
De las políticas a la práctica
Para llevar a la práctica las políticas sobre IA confiable, las organizaciones deben diseñar e implementar programas claros y estructurados que orienten la aplicación de marcos de gobernanza de la IA. Entre otras cosas, estos programas deben:
Definir claramente el propósito de la IA. El propósito de la tecnología ayudará a determinar qué datos debe procesar para tomar decisiones y hacer predicciones. Los datos utilizados por el sistema de IA deben obtenerse de forma legítima y corresponderse con el propósito del sistema.
Identificar y entrenar el algoritmo adecuado para lograr los resultados deseados. El proceso de entrenamiento debe diseñarse cuidadosamente para evitar inducir sesgos humanos y caer en escollos éticos. Además, debe introducirse un mecanismo de supervisión para garantizar que el algoritmo aprenda eficazmente.
Tener en cuenta la interacción humana durante el proceso de toma de decisiones de la IA. Cuanto más rápido deba tomarse una decisión, menos probable será que se incorpore la interacción humana al proceso. Sin embargo, es fundamental garantizar la apertura y la transparencia en la toma de decisiones.
¿Cómo garantiza el Foro Económico Mundial el desarrollo ético de la inteligencia artificial?
Como tecnología que trasciende sectores y fronteras geográficas, el desarrollo y la implementación de una IA confiable no son tarea de una sola persona y, por tanto, requieren la colaboración de investigadores, desarrolladores, empresas y responsables de la formulación de políticas. La sociedad en su conjunto tiene la responsabilidad de garantizar que los sistemas de IA se ajusten a los valores sociales y promuevan el bien común.
