La inteligencia artificial (IA) fiable es una prioridad mundial, ya que las sociedades pasan de los principios éticos generales al desafío más complejo de llevarlos a la práctica.
Las universidades están emergiendo como actores clave de una IA responsable, al incorporar la equidad, la privacidad y la rendición de cuentas mediante métodos de ética desde el diseño y una gobernanza interdisciplinaria.
La colaboración y la educación en el ámbito académico están dando forma a una IA sostenible para el futuro, impulsando la innovación y salvaguardando los valores sociales que sustentan economías y sociedades estables.
La confianza es un pilar de las economías estables; sostiene las instituciones democráticas y respalda la cooperación internacional. La inteligencia artificial (IA) generativa acelera el descubrimiento científico, el crecimiento económico y el cambio social, transformando la manera en que innovamos, tomamos decisiones y afrontamos los desafíos globales.
Hoy más que nunca, considero que la IA es una prioridad estratégica, que requiere cooperación internacional, capacidad institucional y enfoques culturalmente adaptables. Si bien hemos definido la IA fiable, formular principios es solo un primer paso en la tarea, mucho más exigente, de escalar la IA en la práctica.
Aplicar los principios éticos
La IA fiable ha pasado de ser una aspiración abstracta a una necesidad operativa. A medida que los sistemas de IA generativa dan forma a la salud, las finanzas y los servicios públicos, las sociedades reconocen que principios éticos como la equidad, la transparencia y la rendición de cuentas deben convertirse en marcos prácticos que orienten las tecnologías del mundo real.
Este paso de articular valores a implementarlos marca un momento decisivo. Exige estándares, metodologías y mecanismos de gobernanza que puedan escalar a nivel mundial, pero que sigan siendo flexibles para contextos culturales y económicos diversos. Considero que se trata de una prioridad global en la que la capacidad institucional y técnica traduce la intención ética en práctica.
En 2024, la Asamblea General de las Naciones Unidas aprobó una resolución histórica que promueve una IA "segura, protegida y fiable". En ella se pide la cooperación internacional para garantizar que el desarrollo de la IA generativa respete los derechos humanos, reduzca las brechas digitales y favorezca el desarrollo sostenible, subrayando la responsabilidad compartida en la gobernanza de las tecnologías de IA. La comunidad de ETH Zúrich contribuye a este objetivo al conectar los conocimientos científicos con la acción política. El informático Andreas Krause, por ejemplo, forma parte del Órgano Asesor Global de la ONU sobre IA, aportando experiencia sobre cómo puede gobernarse la IA en beneficio común.
La colaboración global es fundamental para aplicar una IA fiable. Para avanzar en este objetivo, Meta, IBM y más de 50 organizaciones, entre ellas ETH Zúrich y el CERN, fundaron la Alianza para la IA, que en su primer año pasó a tener más de 140 miembros en 23 países. En 2025, lanzó varias iniciativas, entre ellas la elaboración de una hoja de ruta para la innovación responsable y estratégica en IA de código abierto en Europa y más allá, en colaboración con la Red de Ética y Política de la IA de ETH Zúrich.
Intermediarios honestos para una IA basada en la ética desde el diseño
Las universidades desempeñan un papel singular en la evolución y la gobernanza de la IA. Su independencia, su rigor científico y su misión pública les permiten actuar como intermediarios honestos (custodios tanto del conocimiento como de la confianza pública), impulsando una IA fiable sin presiones comerciales ni políticas.
En todas las disciplinas crece el impulso a los enfoques de ética desde el diseño, que incorporan desde el inicio la equidad, la privacidad y la rendición de cuentas en los algoritmos y los conjuntos de datos. Esto refleja una comprensión más amplia de que la IA responsable deberá integrarse en la arquitectura de la innovación. En el punto de encuentro entre la investigación y la gobernanza, las universidades reúnen a expertos de distintos ámbitos para evaluar riesgos, desarrollar salvaguardas y proponer marcos regulatorios basados en la evidencia. Así, el mundo académico forma cada vez más parte de la infraestructura ética global, al dar forma a las normas para el desarrollo y el despliegue responsables de la IA.
Los marcos jurídicos también se benefician de la innovación académica. Aunque la Ley de IA de la Unión Europea (2023) estableció el primer estándar regulatorio integral, fue LatticeFlow (una empresa derivada de ETH Zúrich) la que creó una plataforma de IA sólida y conforme a la normativa para ayudar a los equipos de aprendizaje automático a aplicar la Ley. LatticeFlow valida sistemas de IA en la sanidad, las finanzas y la industria manufacturera, y actúa como puente entre modelos complejos y el despliegue en el mundo real.
En francés se dice: "joindre le geste à la parole", que equivale aproximadamente a "predicar con el ejemplo". ETH Zúrich, la EPFL y el Centro Nacional Suizo de Supercomputación (CSCS) acaban de hacerlo con Apertus, el primer modelo de lenguaje multilingüe de código abierto a gran escala de Suiza. Fiel a su nombre latino, que significa "abierto", Apertus ofrece una arquitectura, pesos del modelo, datos de entrenamiento y métodos totalmente documentados, un hito en transparencia y diversidad en la IA generativa.
¿Cómo está creando el Foro Económico Mundial salvaguardas para la inteligencia artificial?
El Centro de Excelencia en IA conecta a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Respalda un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculadas a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a los socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
Dar forma a una IA sostenible para el futuro
Para escalar la IA fiable a nivel mundial, la colaboración y la educación son esenciales. Las alianzas entre el mundo académico y la sociedad civil ayudan a traducir los conocimientos de la investigación en políticas aplicables y herramientas prácticas. Estas colaboraciones son más eficaces si se llevan a cabo con transparencia y respeto mutuo, para garantizar que la innovación siga alineada con los valores democráticos y el bienestar social.
Al mismo tiempo, las universidades preparan a la próxima generación de científicos, ingenieros y líderes para afrontar las dimensiones sociales de la IA. Incorporar la reflexión ética y la formación interdisciplinaria en los planes de estudio crea profesionales que no solo tienen capacidad técnica, sino que también son sensibles a los impactos más amplios de la tecnología. Esta combinación (colaboración internacional y educación responsable) es vital para construir sistemas de IA que respalden economías estables, instituciones resilientes y sociedades inclusivas.
Las universidades también actúan como convocantes neutrales, fomentando el diálogo entre sectores y fronteras.
Dos ejemplos que surgen en Suiza son el Instituto Nacional Suizo de IA (SNAI), fundado por ETH Zúrich y la EPFL (las dos universidades federales del país), que aprovecha la amplia experiencia científica para acelerar la investigación, la educación y la innovación mediante el Alps Supercomputer, muy bien valorado, al tiempo que aborda los retos inherentes de la IA para la investigación; y la Escuela Albert Einstein de Políticas Públicas de ETH Zúrich, un centro interdisciplinario que aborda los desafíos sociales en políticas públicas, ética y gobernanza en ciencia y tecnología. Un enfoque en "Digitalización e IA" ofrece a los funcionarios públicos oportunidades de diálogos basados en hechos y apoyo en red para iniciativas.
Por último, la IA fiable dependerá de una colaboración profunda y de una inversión a largo plazo en educación. Las universidades, la industria, los gobiernos y la sociedad civil deberán seguir trabajando juntos para crear modelos de gobernanza, salvaguardas técnicas y recursos abiertos que reflejen los valores democráticos.
No menos importante es preparar a los futuros científicos y líderes para comprender las implicaciones sociales de la IA, y no solo sus desafíos de ingeniería. Mediante iniciativas como los institutos nacionales de IA, las escuelas de políticas interdisciplinarias y las alianzas globales, las instituciones pueden contribuir a construir economías resilientes, sociedades inclusivas y un ecosistema tecnológico basado en la rendición de cuentas y la confianza pública.
