La gobernanza de la IA podría seguir el modelo de los mercados de carbono, regulando el cómputo físico en lugar de las capacidades subjetivas de los modelos.
Los permisos ponderados por riesgo ofrecerían incentivos financieros a los desarrolladores para priorizar la seguridad y las evaluaciones independientes.
Los ingresos de las subastas de permisos podrían financiar la infraestructura de IA y la capacidad de auditoría en las economías emergentes del mundo.
En 2005, la Unión Europea puso en marcha el mayor sistema de comercio de carbono del mundo. La idea era sencilla: fijar un límite a las emisiones totales, distribuir permisos y dejar que los contaminadores los negociaran. Quienes reducían sus emisiones a bajo coste podían vender su excedente; quienes no podían hacerlo debían pagar. Al principio, el sistema era imperfecto. Se asignaron más permisos de los necesarios, los precios se desplomaron y los críticos dieron por fracasado el experimento. Luego, los reguladores endurecieron el límite. Hoy, las las emisiones cubiertas por el sistema de la UE han disminuido aproximadamente un 47%.
La gobernanza de la inteligencia artificial (IA) se encuentra estancada en la misma situación en la que estaba la política climática antes del sistema de limitación y comercio. Más de 60 países han publicado estrategias nacionales de IA, y cientos de empresas han suscrito compromisos voluntarios de seguridad. Sin embargo, el desarrollo de la IA de vanguardia sigue concentrándose en un puñado de empresas, la inversión en seguridad sigue siendo en gran medida discrecional y la mayoría de los países carecen de influencia práctica sobre los sistemas que remodelarán sus economías. Las buenas intenciones no han modificado los incentivos subyacentes.
Los mercados de carbono resolvieron este problema identificando una métrica medible que regular. La gobernanza de la IA puede hacer lo mismo, y dispone de una vara de medir incluso mejor.
El insumo que se puede contar
Los sistemas de IA más potentes ya no están limitados solo por las ideas. Están limitados por los chips, los centros de datos, la electricidad, el agua y las cadenas de suministro. La Agencia Internacional de la Energía estima que el consumo mundial de electricidad de los centros de datos alcanzó aproximadamente 415 teravatios-hora en 2024 y podría superar los 945 teravatios-hora en 2030, una cifra comparable al consumo eléctrico total de Japón. Se trata de un cambio de escala industrial, no de una tecnología de nicho.
Esta intensidad física es una oportunidad para la gobernanza. El cómputo se mide, se registra y se factura. Los proveedores de nube ya controlan el uso hasta la hora de GPU. Si bien regular el contenido o las capacidades de los modelos de IA implica juicios subjetivos, regular el cómputo supone trabajar con una magnitud física que puede verificarse de forma independiente, del mismo modo que las emisiones de carbono pueden medirse en la chimenea.
Cómo podrían funcionar los permisos de cómputo ponderados por riesgo
Imaginemos un marco inspirado en el sistema de limitación y comercio. Un regulador define qué entrenamientos son de alto riesgo, utilizando umbrales de cómputo y otras señales relacionadas con las capacidades. Establece un límite agregado para el cómputo disponible para esos entrenamientos en un período determinado. Los desarrolladores obtienen permisos expresados en unidades de cómputo.
Lo fundamental es que los permisos se ponderan por riesgo. Las evaluaciones independientes determinan un multiplicador de riesgo que aumenta o reduce el requisito de permisos. Los desarrolladores que demuestren salvaguardas más sólidas y un menor riesgo de uso indebido afrontarán una obligación efectiva menor por unidad de cómputo. Quienes no lo hagan, una mayor. Así, el esfuerzo en materia de seguridad deja de ser una declaración de relaciones públicas para convertirse en un insumo con coste que las empresas pueden reducir invirtiendo en evaluación, seguridad y salvaguardas de despliegue.
Dado que los permisos son negociables, el mercado asigna el escaso cómputo de vanguardia a los usos de mayor valor y encuentra la vía de cumplimiento de menor coste, evitando la rigidez de las normas prescriptivas que quedan obsoletas a medida que evoluciona la tecnología. La aplicación se basa en auditorías aleatorias y en sanciones progresivas. El objetivo no es vigilar cada entrenamiento en tiempo real, sino hacer que cumplir la norma resulte más barato que eludirla.
Una herramienta para la inclusión global, no solo para el control
El Grupo de Alianza para la Gobernanza de la IA del Foro Económico Mundial ha subrayado que una gobernanza mundial de la IA significativa requiere una participación amplia. Sin embargo, la mayoría de los debates sobre gobernanza siguen limitados a un pequeño grupo de países ricos y grandes empresas tecnológicas. Gran parte del mundo es actualmente un tomador de precios en materia de IA, dependiente de un puñado de jurisdicciones en cuanto al acceso a chips y a servicios en la nube.
Las subastas de permisos generan ingresos. Esos ingresos pueden financiar la capacidad de auditoría, la infraestructura de evaluación y los bienes públicos relacionados con la seguridad en países que actualmente carecen de ellos. Las coaliciones pueden acordar el reconocimiento mutuo de las auditorías, lo que reducirá las fricciones de cumplimiento para los desarrolladores responsables. Para las potencias intermedias y las economías emergentes del sudeste asiático, África y América Latina, esto reduce la falsa disyuntiva entre una dependencia no regulada y la costosa e irreal búsqueda de autosuficiencia.
Límites reconocidos
La analogía entre carbono y cómputo no debe llevarse demasiado lejos. El cómputo no es un daño, y un sistema de permisos sería una capa dentro de un marco de gobernanza más amplio que incluye evaluaciones, notificación de incidentes y normas específicas por aplicación. Los mercados de carbono tardaron años en calibrarse, y sufrieron sobreasignación y compensaciones cuestionables. Un sistema de permisos de cómputo afrontaría sus propios retos: definir qué entrenamientos califican como de alto riesgo, impedir que los desarrolladores fragmenten las cargas de trabajo para quedar por debajo de los umbrales, y garantizar que la infraestructura de monitorización no se convierta en una herramienta de vigilancia gubernamental sobre la innovación privada.
Se trata de problemas de diseño serios, no de razones para abandonar el enfoque. Los reguladores financieros ya gestionan tensiones análogas. Los requisitos de capital ponderados por riesgo en la banca implican las mismas contrapartidas entre medibilidad, manipulación y aplicación. La lección tanto de los mercados de carbono como de la regulación financiera es que una fijación de precios imperfecta sigue superando a la ausencia total de precios.
Una ventana que no permanecerá abierta
Los próximos dos o tres años representan una ventana estrecha. Las cadenas de suministro de cómputo se están reconfigurando por los controles de exportación, la política industrial y un gasto de capital récord. Los marcos de gobernanza que se establezcan durante este período fijarán las condiciones para una generación. Si la comunidad internacional espera a que la capacidad de vanguardia esté aún más concentrada, la economía política de la reforma será mucho más difícil.
Los mercados de carbono enseñaron a los responsables de políticas una lección que sigue vigente: no hace falta un control perfecto para crear incentivos significativos. Se necesita una unidad medible, normas de monitorización claras y un sistema que haga que cumplir resulte más fácil que eludir. La gobernanza de la IA puede adoptar esa lección. Los permisos de cómputo ponderados por riesgo no resolverán todos los problemas, pero pueden ayudar al mundo a pasar de los eslóganes a incentivos escalables precisamente en el momento en que la capacidad y la infraestructura de la IA se aceleran juntas.
