A medida que la inteligencia artificial (IA) se integra más en nuestra vida, la regulación tecnológica será clave para proteger a las personas de diversos riesgos éticos y sociales.
Regular un sector de ritmo acelerado como el tecnológico puede ser difícil: la innovación puede superar rápidamente las nuevas normas.
Crear un ecosistema abierto de IA aprovecharía el talento innovador de la comunidad tecnológica mundial, al tiempo que garantizaría que los expertos puedan auditar el desarrollo y que las empresas y los desarrolladores sigan siendo responsables de sus innovaciones.
La inteligencia artificial (IA) sigue volviéndose más sofisticada; la reciente popularidad de los modelos de lenguaje de gran tamaño (LLM) señala un cambio de paradigma en su desarrollo.
Los LLM se construyen con IA generativa para crear respuestas novedosas a instrucciones en lenguaje natural, código o cualquier otro tipo de datos. También pueden utilizarse como base para muchos modelos pequeños y especializados para tareas específicas.
Pero el revuelo en torno a los LLM también ha desatado una oleada de preocupaciones sobre el desarrollo y el despliegue de la IA. Estas preocupaciones incluyen una gran variedad de riesgos éticos y sociales, como el uso indebido de los LLM por parte de actores malintencionados.
Desde hace tiempo el mundo intenta abordar los riesgos de la IA, en el ámbito de las empresas, a nivel nacional y global, para garantizar que sea segura, protegida, fiable y justa. Este objetivo sustenta la recientemente lanzada Alianza para la Gobernanza de la IA del Foro Económico Mundial y la Alianza Europea de IA, así como iniciativas específicas de cada país, como las del Gobierno suizo y la ETH de Zúrich: Red piloto de equipos rojos de IA generativa.
Ahora, la Ley de IA de la UE prácticamente ya está finalizada. Pronto debería convertirse en el primer conjunto integral de leyes sobre IA del mundo para ayudar a proteger nuestra seguridad y nuestros derechos fundamentales a medida que esta nueva tecnología se integra cada vez más en nuestra vida cotidiana.
La regulación tecnológica es importante, pero también insuficiente. El campo de la IA evoluciona tan rápidamente que la regulación pronto podría generar limitaciones. Por ello, necesitamos un enfoque holístico para regular y gobernar la IA. Esto debería combinar la regulación tecnológica con esfuerzos por adoptar un ecosistema de IA abierto y transparente. Ello ayudaría a los desarrolladores e investigadores a debatir y mitigar tempranamente los riesgos de la IA mediante una gobernanza dinámica.
¿Qué es la gobernanza dinámica?
Los LLM se nutren continuamente de nuevos datos, pero las indicaciones específicas del usuario podrían generar resultados no deseados o impredecibles. Es imperativo que las empresas supervisen constantemente sus modelos, los datos que ingieren y los resultados para garantizar que todo funcione según lo previsto.
Herramientas específicas de gobernanza – sistemas y procesos que ayudan a las empresas a medir su desempeño en gobernanza, como el de IBM watsonx.gov – puede ayudar en esto permitiendo a las empresas supervisar y mejorar los resultados de forma continua. Esto les permitiría gestionar los riesgos derivados de la calidad de los datos de entrenamiento, mejorando la transparencia sobre cómo la IA toma decisiones y garantizando el cumplimiento de la regulación tecnológica, incluso cuando las normas cambian con el tiempo.
Esta gobernanza dinámica debe aplicarse independientemente de si la IA se desarrolla en un entorno cerrado y propietario o en un ecosistema abierto de IA. Por supuesto, algunas empresas optan por mantener su tecnología de IA a puerta cerrada, pero adoptar una IA abierta y transparente puede beneficiar a la sociedad, impulsar la innovación y ayudar a garantizar la seguridad de la IA. Un enfoque abierto a la innovación tiende a democratizar el acceso a los avances más fundamentales y de aplicación más amplia. La apertura también conducirá a un mayor escrutinio de las nuevas herramientas por parte de la comunidad tecnológica, lo que mejora la seguridad y la protección.
En resumen, la apertura y la transparencia aprovechan el talento innovador de la comunidad global mientras garantizan la rendición de cuentas. Ya lo hemos visto con Linux Foundation, una plataforma de software de código abierto creada en 2007 como organización sin ánimo de lucro para fomentar la innovación tecnológica. La apertura permite un mayor escrutinio por parte de la comunidad tecnológica, con auditorías ampliamente accesibles para expertos de todo el mundo. Los investigadores y desarrolladores tienen acceso a los datos necesarios para subsanar errores y gestionar riesgos. Pueden reaccionar más rápido ante problemas técnicos y de resultados.
Creación de una comunidad abierta de IA
Por eso IBM y Meta han formado recientemente la Alianza para la IA. El objetivo de esta colaboración es trabajar juntos para fomentar una comunidad abierta de IA. Deberíamos crear LLM desde la base, de forma transparente y responsable.
Aunque iniciativas como la Alianza para la IA buscan reunir talento global para democratizar el desarrollo, el despliegue y la gestión de la tecnología de IA, no digo que toda la IA deba ser abierta. Y, crucialmente, abierto no significa sin gobernanza. La gobernanza es igual de importante, ya hablemos de IA abierta o propietaria.
Todavía estamos en los inicios de comprender cómo la IA transformará nuestra sociedad. Pero ya sabemos que regularla es crucial. Adoptar una gobernanza dinámica basada en tecnología y un ecosistema abierto de IA son pasos vitales para regularla adecuadamente.
