La inteligencia artificial tiene el potencial de aportar “beneficios significativos” a sectores como la agricultura, la educación y la sanidad.
Sin embargo, un nuevo informe del Foro Económico Mundial destaca los posibles peligros que la IA supone para las empresas y la sociedad.
Los profesionales de la gestión de riesgos afirman que se necesita una regulación más adecuada para que podamos aprovechar sus beneficios de forma segura.
La inteligencia artificial (IA) promete aportar beneficios significativos a las empresas y a la sociedad, pero también puede causar daños importantes si no comprendemos los riesgos que plantea la tecnología.
Así lo consideran los directores de riesgos (Chief Risk Officers, CRO) de grandes corporaciones y organizaciones internacionales que participaron en la Encuesta sobre Perspectivas Globales de Riesgos del Foro Económico Mundial.
La encuesta se detalla en el informe de mitad de año del Foro, Chief Risk Officers Outlook, que advierte de que la gestión de riesgos no está al ritmo de los rápidos avances de las tecnologías de IA.
Tres de cada cuatro CRO encuestados afirmaron que el uso de la IA supone un riesgo reputacional para su organización, mientras que nueve de cada diez dijeron que se debe hacer más para regular el desarrollo y el uso de la IA.
Casi la mitad se mostró a favor de detener o ralentizar el desarrollo de nuevas tecnologías de IA hasta que los riesgos se comprendan mejor. La IA “crea un entorno complejo e incierto en el que las organizaciones deben operar”, afirma el informe.
“En los últimos meses se ha observado un fuerte aumento del debate sobre los riesgos relacionados con la tecnología, en particular en el contexto del auge del interés por los avances exponenciales que están logrando las tecnologías de IA generativa”.
Beneficios significativos y daños significativos
Aunque las tecnologías de IA tienen el potencial de aportar “beneficios significativos” en sectores como la agricultura, la educación y la sanidad, “también tienen el poder de causar daños significativos”, afirma el informe.
Entre los mayores riesgos identificados por los CRO se encuentra el uso malintencionado de la IA. Debido a su facilidad de uso, las tecnologías de IA generativa pueden ser utilizadas de forma abusiva por personas que buscan difundir desinformación, facilitar ciberataques o acceder a datos personales sensibles.
Lo que convierte a la IA en un riesgo grave es su “funcionamiento interno opaco”. Según el informe, nadie comprende plenamente cómo se genera el contenido de la IA. Esto aumenta los riesgos señalados por los CRO, como la comunicación involuntaria de datos personales y los sesgos en la toma de decisiones basada en algoritmos de IA.
La falta de claridad sobre el funcionamiento de la IA también dificulta anticipar riesgos futuros, añade el informe, aunque los CRO afirman que los ámbitos empresariales más expuestos a riesgos por la IA son las operaciones, los modelos de negocio y las estrategias.
Todos los encuestados coincidieron en que el desarrollo de la IA avanza más rápido que su capacidad para gestionar sus posibles riesgos éticos y sociales, y el 43 % afirmó que el desarrollo de nuevas tecnologías de IA debería detenerse o ralentizarse hasta que su posible impacto se comprenda mejor.
Regulación del desarrollo de la IA
Más de la mitad de los CRO afirmó comprender cómo podría afectar la regulación a su organización, y el 90 % dijo que los esfuerzos para regular el desarrollo de la IA deben acelerarse.
Más de la mitad planea realizar una auditoría de la IA que ya utiliza su organización para evaluar su seguridad, legalidad y “solidez ética”, aunque algunos afirmaron que la alta dirección no quiere considerar la IA como un riesgo empresarial.
Peter Giger, director de riesgos del grupo Zurich Insurance Group y uno de los CRO que contribuyeron al informe Perspectivas, afirma que es un error ignorar los riesgos, pero que las empresas deben adoptar un enfoque más amplio y a largo plazo.
Más de la mitad de los CRO afirmó comprender cómo podría afectar la regulación a su organización, y el 90 % dijo que los esfuerzos para regular el desarrollo de la IA deben acelerarse.
“Centrarse en exceso y de forma demasiado estrecha en los riesgos que probablemente dominarán los próximos seis meses aproximadamente puede distraernos con facilidad de abordar los grandes riesgos que determinarán el futuro”, afirmó.
“La IA es un buen ejemplo que favorece el enfoque a largo plazo. ¿Va a alterar hoy la vida de todos? Probablemente no. Para muchos de nosotros, no es una amenaza inmediata. Pero ignorar las implicaciones y tendencias que la IA traerá consigo con el tiempo sería un error enorme”.
¿Cómo garantiza el Foro Económico Mundial el desarrollo ético de la inteligencia artificial?
Orientaciones para un uso responsable de la IA
En junio, el Foro publicó recomendaciones para el desarrollo responsable de la IA en las que instaba a los desarrolladores a ser más abiertos y transparentes, y a utilizar una terminología más precisa y compartida.
Las orientaciones también pedían al sector tecnológico que hiciera más para aumentar la comprensión pública de las capacidades y limitaciones de la IA, y que generara confianza teniendo más en cuenta las preocupaciones de la sociedad y la opinión de los usuarios.
Obtenga más información sobre la Alianza para la Gobernanza de la IA del Fourm aquí.
Más información sobre la Encuesta sobre Perspectivas Globales de Riesgos
La Encuesta sobre Perspectivas Globales de Riesgos se realizó entre la comunidad de CRO del Foro, que incluye a profesionales de riesgos de una amplia gama de empresas multinacionales de sectores como la tecnología, los servicios financieros, la sanidad, los servicios profesionales y la industria manufacturera.
Además de la IA, los encuestados señalaron como principales preocupaciones de las organizaciones las condiciones macroeconómicas, los precios y las interrupciones del suministro de materias primas clave, los conflictos armados y los cambios regulatorios.
