La gobernanza mundial de la IA sufre actualmente una grave escasez de infraestructura operativa, más que una falta de consenso.
Un pequeño grupo de empresas tecnológicas de vanguardia controla los recursos, lo que provoca graves desequilibrios de poder para los reguladores mundiales.
El verdadero éxito requiere construir redes duraderas de aprendizaje entre pares y capacidad de evaluación técnica independiente en todas las naciones.
A medida que las Naciones Unidas se preparan para su primer Diálogo Mundial sobre la Gobernanza de la IA este julio, el mundo se encuentra en una posición inusual: existe un creciente acuerdo sobre cuáles son los desafíos, pero muy poco acuerdo sobre cómo abordarlos.
Existe cierto consenso entre gobiernos, industria, filantropía, academia y sociedad civil: los sistemas de IA deben ser seguros y fiables. El poder no debería concentrarse en manos de unos pocos actores. La gobernanza debe proteger los derechos humanos, reforzar la rendición de cuentas y garantizar que quienes más se ven afectados por el cambio tecnológico tengan un papel significativo en su configuración.
Sin embargo, el consenso por sí solo no genera acción. Aquí es donde las Naciones Unidas tienen una oportunidad única: como convocante, coordinador y facilitador capaz de ayudar a gobiernos, investigadores, sociedad civil, filantropía e industria a construir el tejido conectivo que requiere una gobernanza eficaz de la IA.
Por tanto, el éxito del Diálogo sobre IA no debe medirse por la solidez de su declaración final. Debe medirse por si deja tras de sí mecanismos duraderos de aprendizaje, coordinación y acción colectiva.
La crisis de infraestructura
Como líder de una fundación centrada en la intersección entre tecnología y sociedad, tengo el privilegio de observar cómo muchos gobiernos, investigadores, filántropos, organizaciones de la sociedad civil y empresas tecnológicas se enfrentan cada uno a las implicaciones de la IA.
En todos los sectores y regiones, gran parte del debate sigue centrado en un conjunto familiar de preguntas: ¿Cómo garantizamos que la IA sea fiable? ¿Cómo evaluamos modelos cada vez más capaces? ¿Cómo garantizamos que los países del Sur Global tengan un papel significativo en la configuración de los marcos de gobernanza?
Son preguntas importantes, y merecen una atención sostenida. Pero también pueden distraer de un desafío más fundamental: quién tiene la capacidad de responderlas y a través de qué mecanismos.
Hoy en día, un pequeño número de empresas tecnológicas de vanguardia controla el talento técnico, los recursos informáticos, las capacidades de evaluación y los discursos en torno al desarrollo de la IA. Los gobiernos y los financiadores filantrópicos realizan apuestas de gran cuantía basándose en información proporcionada por los propios actores que intentan regular. Esta dinámica crea no solo una asimetría de información, sino un desequilibrio de poder fundamental que socava una gobernanza eficaz.
Simultáneamente, los actores que deberían coordinarse – gobiernos nacionales, fundaciones filantrópicas, organizaciones de la sociedad civil e instituciones de investigación – operan en gran medida de forma independiente unos de otros. Los gobiernos siguen estrategias paralelas.
Los investigadores trabajan en redes desconectadas. Las organizaciones de la sociedad civil tienen dificultades para acceder a conocimientos técnicos. Los financiadores apoyan iniciativas prometedoras que a menudo carecen de vías para la coordinación o la escalabilidad.
Nos encontramos en una situación de inacción no por falta de esfuerzo, sino por falta de tejido conectivo.
Y para muchos países, el problema es aún más grave. La mayoría de los debates sobre gobernanza se centran en las perspectivas de Estados Unidos y Europa Occidental, dejando sistemáticamente al margen de la configuración de los marcos que darán forma a sus futuros tecnológicos a los países con menos recursos. Desde esta perspectiva, la gobernanza de la IA no sufre tanto una escasez de ideas como una escasez de infraestructura.
Cómo es realmente la infraestructura
Si la IA sigue evolucionando a una velocidad extraordinaria, los sistemas de gobernanza deben volverse más adaptativos, colaborativos y receptivos.
Ello comienza con la creación de redes duraderas de aprendizaje entre pares. Los países que enfrentan desafíos políticos similares deberían poder compartir experimentos, fracasos y lecciones en tiempo real, en lugar de esperar a convocatorias anuales o a informes extensos. La gobernanza debería funcionar más como un sistema de aprendizaje activo que como un marco estático.
También requiere mecanismos para un intercambio rápido de conocimientos. Cuando se producen avances significativos – ya sea una capacidad revolucionaria, un incidente de seguridad o un enfoque regulatorio innovador –, los responsables de la toma de decisiones necesitan canales de confianza para comprender rápidamente sus implicaciones y coordinar respuestas cuando proceda.
Igualmente importante es pasar de los principios a la práctica. En todo el mundo, gobiernos, ciudades e instituciones ya están experimentando con distintos enfoques de supervisión de la IA. Esos experimentos deberían documentarse, evaluarse y compartirse abiertamente para que la gobernanza sea acumulativa y no fragmentada. El aprendizaje debe avanzar más rápido que la propia tecnología.
Un componente crítico, pero a menudo pasado por alto, es la capacidad de gobernanza técnica. Los debates sobre la interoperabilidad de las políticas son cada vez más comunes. Los debates sobre la interoperabilidad técnica, no. Sin embargo, una gobernanza eficaz depende de la capacidad de evaluar sistemas, verificar afirmaciones y comprender las realidades técnicas que subyacen a los marcos normativos. Sin infraestructura de evaluación independiente ni recursos técnicos compartidos, incluso las normativas bien diseñadas pueden resultar difíciles de aplicar.
Por último, la infraestructura de gobernanza debe crear espacio para las voces independientes. Con demasiada frecuencia, las organizaciones que construyen sistemas de IA también configuran los discursos que los rodean. Un ecosistema de gobernanza sano requiere investigación independiente, evaluación independiente y una participación significativa de trabajadores, educadores, artistas, comunidades indígenas y otros cuyo futuro se verá moldeado por estas tecnologías. La inclusión no es simplemente una cuestión de representación. Es una fuente de mejores decisiones.
Liderazgo distribuido entre sectores
Ninguna institución puede construir esta infraestructura por sí sola.
Los gobiernos tienen un papel fundamental en el establecimiento de normas, la coordinación internacional y la prueba de nuevos enfoques durante su aplicación. Los investigadores pueden ayudar a traducir desarrollos técnicos complejos en conocimientos aplicables. Las organizaciones de la sociedad civil pueden garantizar que la gobernanza refleje las realidades vividas y no supuestos abstractos. La industria puede aportar experiencia y participar en el desarrollo de normas.
La filantropía también tiene un papel único que desempeñar. Muchas de las instituciones necesarias para una gobernanza eficaz de la IA no encajan fácilmente en los incentivos del mercado ni en los mandatos gubernamentales. Las capacidades de evaluación independiente, los programas de fortalecimiento de capacidades técnicas y los mecanismos de coordinación intersectorial suelen surgir solo cuando cuentan con inversiones a largo plazo y guiadas por una misión.
La filantropía puede ayudar a crear las condiciones en las que se desarrolla la infraestructura de gobernanza: financiando la experimentación, respaldando instituciones independientes y conectando a actores que rara vez trabajan juntos a pesar de tener objetivos compartidos.
Medir el éxito de otra manera
El Diálogo sobre IA representa un momento poco frecuente en el que la comunidad internacional ha reconocido tanto la urgencia de la gobernanza de la IA como la insuficiencia de los marcos existentes. Si la gobernanza de la IA es, en última instancia, un desafío de infraestructura, entonces Ginebra debería recordarse no como el lugar donde el mundo alcanzó el consenso, sino como el lugar donde comenzó a construir la capacidad de actuar en consecuencia.
