El panorama regulatorio de la IA es complejo e incoherente, y la gobernanza tiene dificultades para seguir el ritmo de una tecnología que evoluciona rápidamente.
Las empresas tienen un papel clave que desempeñar aplicando un sólido código ético para garantizar el nivel necesario de responsabilidad y rendición de cuentas.
La IA ética es esencial para crear un futuro en el que la tecnología esté al servicio de la humanidad, y la integridad corporativa puede marcar el camino estableciendo estándares elevados.
El panorama regulatorio de la inteligencia artificial (IA) es complejo e incoherente, con enfoques que van desde códigos de conducta voluntarios de la industria hasta regulaciones vinculantes basadas en el riesgo a escala nacional o supranacional.
Pese a los esfuerzos mundiales por armonizar la gobernanza de la IA, como los impulsados por organizaciones como la ONU, la Organización para la Cooperación y el Desarrollo Económicos (OCDE), el Grupo de los 20, el Grupo de los 7 y plataformas como la del Foro Económico Mundial, la Alianza para la Gobernanza de la IA, resulta difícil avanzar con una tecnología que evoluciona rápidamente cuando la gobernanza tiene dificultades para seguirle el ritmo.
Esto significa que las empresas tienen un papel clave que desempeñar aplicando un sólido código ético para garantizar el nivel necesario de responsabilidad y rendición de cuentas.
Las empresas pueden contribuir a estos esfuerzos ampliando la responsabilidad corporativa para integrar la ética de la IA en favor del bien común, lo que exige ajustes en sus ecosistemas de integridad, consejos de administración e inversores institucionales.
Reforzar los ecosistemas de integridad de la IA
Garantizar el uso responsable de la IA es una preocupación en todos los sectores, tanto por los riesgos regulatorios y de responsabilidad jurídica como por el sentido de responsabilidad social de los líderes de la industria.
De hecho, la integridad corporativa tiende ahora a ir más allá del cumplimiento legal para incluir el despliegue ético de sistemas de IA. Muchas empresas refuerzan la diligencia debida para gestionar los riesgos de la IA mediante la adopción de normas éticas, principios rectores y directrices internas.
Mientras tanto, estándares de gobernanza de la IA como ISO 42001 ayudan a consolidar los procesos de diligencia debida, y medidas como el Monitor de Incidentes de IA de la OCDE, que ha registrado más de 600 incidentes desde enero de 2024, contribuyen a abordar los problemas y reforzar el despliegue ético de la IA al aportar información valiosa sobre los riesgos y daños de los sistemas de IA.
Sin embargo, solo en Estados Unidos, aunque el 73% de los altos directivos cree que las directrices éticas sobre IA son importantes, apenas el 6% las ha elaborado, según una encuesta reciente realizada a 500 líderes empresariales.
Para quienes desean actuar, los códigos de conducta corporativa no vinculantes, promovidos por iniciativas como el Proceso de Hiroshima del G7, pueden ayudar a orientar los enfoques empresariales mundiales sobre el despliegue de la IA. Por ejemplo, Unilever ha implantado un proceso de evaluación de la inteligencia artificial para examinar la eficacia y la ética de cada nueva aplicación de IA.
La gobernanza del ecosistema de integridad de la IA en las empresas mundiales sigue evolucionando, y cobran cada vez más importancia las funciones de los directores jurídicos, los directores de tecnología y los responsables de integridad, ética, cumplimiento y datos.
Esta estructura en evolución es fundamental para gestionar los complejos riesgos asociados a la IA. Un enfoque combinado ayuda a evitar puntos ciegos y garantiza que las prácticas de desarrollo de IA sean exhaustivas y seguras.
Por ejemplo, Infosys ha implantado un ecosistema de IA responsable supervisado por un Consejo de Gobernanza de la IA y una Oficina de IA Responsable. Esta estructura central garantiza controles coordinados de IA en diversos grupos, entre ellos los de ciberdefensa, privacidad, asuntos jurídicos y calidad.
Para mitigar los riesgos de manera eficaz, es esencial respaldar este marco de gobernanza con programas sostenidos de sensibilización de los empleados y sistemas sólidos de gestión de la IA, así como con acuerdos contractuales exhaustivos para cada aplicación de IA.
Por su parte, Novartis desarrolló un marco de gestión de riesgos y cumplimiento de la IA alineado con normativas emergentes como la Ley de IA de la UE. Este enfoque garantiza que la empresa evalúe el impacto de los riesgos de los sistemas de IA, proteja la información de los pacientes y cumpla las obligaciones de notificación.
El uso responsable de la IA requiere tanto compromisos éticos claros como un marco integral de riesgos y cumplimiento
—Klaus Moosmayer, director de Ética, Riesgos y Cumplimiento, Novartis
Klaus Moosmayer, director de Ética, Riesgos y Cumplimiento, Novartis
El papel de los consejos de administración y los inversores para posibilitar el desarrollo responsable de la IA
Los consejos de administración también pueden contribuir a posibilitar el desarrollo y el despliegue responsables de la IA ampliando su enfoque de la integridad y la responsabilidad corporativas.
Para hacerlo de manera eficaz, deben conocer las capacidades y los riesgos de la IA y garantizar que la ética de la IA forme parte integral de sus debates estratégicos, sus responsabilidades de supervisión y sus evaluaciones de riesgos.
En Novartis, el comité de medioambiente, asuntos sociales y gobernanza (ESG), presidido por el director ejecutivo, aprobó un marco de IA que garantiza que la ética de la IA forme parte de las decisiones estratégicas de alto nivel. Esta integración en los niveles más altos de gobernanza garantiza la rendición de cuentas continua sobre los sistemas de IA.
Estas iniciativas son importantes porque litigios recientes ponen de relieve la responsabilidad de las empresas por el uso indebido de la inteligencia artificial, como muestra el caso del chatbot de Air Canada, en el que se responsabilizó a la aerolínea por los malos consejos que su chatbot dio a un pasajero.
Los inversores institucionales, como accionistas tanto de empresas tecnológicas como de otros sectores, también pueden desempeñar un papel importante para orientar el rumbo hacia una IA responsable.
De hecho, va en aumento el activismo accionarial en favor de una IA responsable. Por ejemplo, una quinta parte de los inversores de Microsoft presionó a la empresa para que gestionara los riesgos financieros y reputacionales derivados de la desinformación generada por IA.
Varios fondos de pensiones respaldaron la propuesta, incluido el fondo soberano noruego. Este fondo soberano, valorado en 1,4 billones de dólares, pide una regulación más inteligente de la IA y ha elaborado sus propias normas para las empresas en las que invierte, en las que establece sus expectativas sobre el uso responsable y ético de la IA.
Por otra parte, la Comisión de Bolsa y Valores de Estados Unidos (SEC) ha impulsado votaciones de accionistas sobre el uso de la IA en empresas como Apple y Disney, lo que pone de relieve el creciente escrutinio ético.
Esta presión cada vez mayor de los inversores pone de relieve la importancia de la IA ética, no solo como responsabilidad social, sino también como una estrategia de inversión inteligente a largo plazo. La IA responsable puede contribuir al éxito comercial y a aumentar la cuota de mercado con el tiempo.
En apoyo de esta idea, un estudio reciente basado en entrevistas con inversores de capital riesgo apunta a que centrarse en la ética de la IA podría convertirse en una ventaja competitiva. Aunque el debate mundial sobre la gobernanza de la IA suele centrarse en mitigar los riesgos, la IA responsable debería reconocerse como un activo estratégico.
Los gobiernos también pueden influir en las tendencias del mercado incorporando criterios éticos en la contratación de soluciones de IA. Este enfoque está en consonancia con el propósito declarado de la Orden Ejecutiva de 2023 sobre inteligencia artificial, emitida por el Gobierno federal de Estados Unidos, que destaca la importancia de la IA ética en la contratación pública y más allá.
En conjunto, estos esfuerzos de inversores, empresas y gobiernos pueden contribuir a crear un futuro en el que la IA se desarrolle y despliegue de maneras que beneficien a todas las personas, y en el que las consideraciones éticas ocupen un lugar central en el avance tecnológico.
Avanzar hacia una IA ética
El impulso en favor de una IA ética no es solo una tendencia: es un movimiento fundamental para dar forma a un futuro digital centrado en las personas que beneficie a todos. La IA ética va más allá del mero cumplimiento de las normativas; consiste en garantizar que la tecnología esté al servicio del bien común y se ajuste a nuestros valores compartidos. Al adoptar una IA ética, las empresas pueden desempeñar un papel decisivo en la creación de un entorno digital más equitativo y responsable.
La integridad corporativa es clave para este esfuerzo. Cuando las empresas se comprometen con prácticas éticas de IA, contribuyen a generar confianza, proteger los derechos individuales y garantizar que los sistemas de inteligencia artificial se diseñen y utilicen de maneras que mejoren el bienestar humano. No se trata solo de evitar daños, sino de contribuir activamente a un futuro mejor para todos.
Para lograrlo, las empresas deben reforzar sus ecosistemas de integridad de la IA y garantizar que las funciones de supervisión y los consejos de administración asuman un papel activo en la orientación del desarrollo ético de la IA. Esto incluye no solo cumplir los requisitos legales, sino también dar prioridad a la transparencia, la equidad y la rendición de cuentas en todos los aspectos del despliegue de la IA.
¿Cómo está creando el Foro Económico Mundial salvaguardias para la inteligencia artificial?
El Centro de Excelencia en IA conecta a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Promueve un diálogo informado sobre las oportunidades, los riesgos y las contrapartidas vinculados a la adopción de la IA.
Mediante espacios de confianza e iniciativas de colaboración, el Centro permite a sus socios desarrollar una comprensión común y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
Además, es crucial invertir en inteligencia artificial responsable. Al apoyar a empresas que dan prioridad a la IA ética, los inversores pueden contribuir a una adopción más amplia de prácticas que promueven el bien común. El impacto de estos esfuerzos va mucho más allá de las empresas individuales: propicia un entorno mundial en el que la IA se desarrolla y utiliza de maneras acordes con los valores humanos y las necesidades sociales.
En resumen, la IA ética es esencial para crear un futuro en el que la tecnología esté al servicio de la humanidad, y la integridad corporativa puede marcar el camino estableciendo estándares elevados y promoviendo prácticas responsables en todos los ámbitos. No se trata solo de una responsabilidad corporativa, sino de una oportunidad colectiva para dar forma a un mundo digital que funcione para todos.
Agradecemos especialmente a Carlos Santiso, jefe de la División de Gobierno Digital, Innovador y Abierto de la OCDE, y a Klaus Moosmayer, director de Ética, Riesgos y Cumplimiento de Novartis, miembros del Consejo Mundial del Futuro sobre Buena Gobernanza del Foro, sus contribuciones a este artículo.
