Los marcos para gobernar la inteligencia artificial, como la Ley de IA de la UE, se basan en la premisa de que el ser humano sigue al mando.
Pero la competencia que una persona necesita para supervisar un sistema de IA se mantiene a través de la práctica, una práctica que la IA ahora realiza en su lugar.
Preservar a esa persona, junto con su habilidad, su práctica y su criterio, será cada vez más esencial para gobernar bien la IA.
Todo marco para gobernar la inteligencia artificial (IA) descansa sobre la misma premisa tranquilizadora: el ser humano sigue al mando. La Ley de IA exige la supervisión humana de los sistemas de alto riesgo; su Reglamento General de Protección de Datos (RGPD) restringe las decisiones tomadas únicamente por máquinas; las políticas corporativas de IA prometen que una persona revise cada resultado antes de que llegue a un cliente. El mensaje es coherente: la IA no decide nada por sí sola.
Pero esa premisa oculta un problema que rara vez se enuncia en voz alta, y que está presente desde el primer día en que se despliega un sistema. La competencia que una persona necesita para supervisar un sistema de IA no es un activo fijo. Se construye y se mantiene viva a través de la práctica, la misma práctica que el sistema de IA está realizando ahora en lugar de la persona.
Cuanto más capaz es el sistema, más trabajo le delegamos y menos ocasiones tiene el supervisor de ejercer el mismo criterio del que depende su función. La supervisión humana no se mantiene simplemente como una salvaguarda. Se devalúa silenciosamente, tarea a tarea, al mismo ritmo que el sistema que pretende controlar. Lo denominamos la paradoja de la supervisión.
La implicación incómoda es que una IA de mejor rendimiento puede debilitar la supervisión en lugar de reforzarla. A medida que un sistema asume más trabajo cognitivo, la persona que lo revisa tiene un dominio de primera mano menor de ese trabajo y, por tanto, es menos capaz de detectar los momentos en que el sistema se equivoca. La capacidad y el riesgo para la supervisión crecen juntos. No se trata de una preocupación por una IA futura y más avanzada. Describe a lo que la supervisión ya se enfrenta hoy.
La paradoja de la supervisión no es hipotética
La velocidad del cambio es lo que hace urgente este problema. En el banco de pruebas GPQA — preguntas de nivel doctoral en física, química y biología — los expertos con doctorado responden correctamente en torno al 65 %. Cuando el banco de pruebas se publicó a finales de 2023, el modelo de referencia GPT-4, el más sólido de la época, solo alcanzó el 39 %. En 2026, el modelo líder obtiene aproximadamente el 94 %. La comparación no es perfectamente limpia, pero la imagen general se sostiene: las máquinas han pasado de estar muy por debajo del nivel experto a estar muy por encima de él.
El desarrollo de software muestra la misma curva. En SWE-bench, que plantea a los modelos la corrección de problemas reales en código abierto, el mejor sistema en su lanzamiento en 2023 resolvió menos del 5 % de los problemas. En el conjunto SWE-bench Verified, validado por humanos, los sistemas líderes resuelven hoy bastante más del 90 %.
La calculadora tardó una generación en atrofiar el cálculo mental. La IA está transformando el rendimiento experto en una escala de meses, y esa compresión es el problema central para la supervisión. Cuanto más rápido un sistema supera a las personas que deben supervisarlo, más rápido se pierde su familiaridad práctica con la tarea. Cada salto en capacidad eleva silenciosamente el listón que el supervisor debe superar, mientras elimina la práctica que le permitiría superarlo.
El patrón no se limita al laboratorio. El Índice Económico de Anthropic revela que el uso de la IA se concentra en el trabajo de conocimiento de salarios medios y altos (desarrollo de software, redacción técnica y tareas profesionales similares) en lugar de en los extremos de menor o mayor remuneración del mercado laboral. Anthropic evita afirmar que vaya a producirse una desespecialización generalizada; de hecho, declina predecir ese resultado. Pero la exposición es reveladora: las tareas más afectadas por la IA son precisamente las expertas y de gran carga de juicio, de las que depende una supervisión significativa.
Erosión de la capacidad para supervisar la IA
Operan tres fuerzas distintas, y se refuerzan mutuamente.
La fuerza psicológica: el sesgo de automatización
Las personas tienden a confiar en un sistema automatizado cuando normalmente acierta. Estudios clásicos en simuladores de vuelo demostraron que incluso los pilotos profesionales no actuaban ante problemas que el sistema no detectaba, o seguían instrucciones erróneas sin contrastarlas. En escenarios en los que la información necesaria para detectar el error estaba al alcance para verificarla, se registraron tasas de error de alrededor del 55 %. El mismo reflejo se traslada al trabajo de conocimiento. Un radiólogo cuya IA señala anomalías con una precisión muy alta pasará, tras el centésimo estudio, de evaluar la imagen a simplemente confirmar lo que dice la máquina. El artículo 14 de la Ley de IA de la UE aborda este problema de forma directa, exigiendo que los supervisores se mantengan alerta ante el sesgo de automatización.
La fuerza estructural: el ciclo de desespecialización
El sistema realiza la tarea; la persona pasa a desempeñar una función de control de calidad. Pero el control de calidad requiere experiencia, la experiencia se adquiere mediante la práctica, y la práctica es precisamente lo que el sistema ha asumido. Piénsese en un abogado que dedica dos años a revisar contratos redactados por la IA en lugar de redactarlos él mismo. ¿En qué momento pierde la sensibilidad para detectar una omisión estratégica, o el criterio que solo se adquiere tras haber redactado cientos de contratos? Cada nueva ronda de delegación hace que la siguiente ronda de supervisión sea un poco más superficial.
La fuerza jurídica: supervisión formal frente a supervisión efectiva
El artículo 22 del RGPD restringe las decisiones basadas únicamente en el tratamiento automatizado cuando afectan de forma significativa a una persona. Sin embargo, los reguladores han sido explícitos al afirmar que un responsable no puede eludir la norma con una revisión humana simbólica: la intervención humana debe ser significativa, realizada por alguien con autoridad para revocar la decisión y con los conocimientos necesarios para ponderar todos los datos pertinentes. Cuando esa capacidad se ha erosionado, lo que queda es teatro de cumplimiento.
La Ley de IA de la UE trata de cerrar la brecha mediante el artículo 4, que exige alfabetización en IA, y el artículo 14, que exige una supervisión efectiva de los sistemas de alto riesgo. Sin embargo, ambos presuponen en gran medida una relación estable entre la competencia humana y la capacidad de las máquinas. Una norma puede garantizar la posibilidad de intervenir, pero no puede garantizar que la persona que interviene siga siendo capaz de determinar si la intervención está justificada.
Hacia una supervisión que se sostenga por sí misma
La paradoja también alcanza a la gobernanza democrática. Los sistemas de IA se utilizan cada vez más en la administración pública, pero los órganos electos responsables de gobernarlos se enfrentan a una brecha de traducción: la realidad técnica de estos sistemas no se expresa con facilidad en el lenguaje del debate democrático.
A escala de la UE, la Oficina de IA debe extraer gran parte de su experiencia de las mismas organizaciones que regula; no por una conspiración, sino por una asimetría de competencias inherente al sector.
La paradoja de la supervisión no es un argumento contra la adopción de la IA. Es un argumento contra asumir que la supervisión humana se mantiene por sí sola. Tres líneas de acción merecen una atención seria.
Sustancia por encima de forma en las normas de intervención humana. Las disposiciones de supervisión deberían exigir una capacidad demostrada para anular el sistema, y no únicamente la presencia procedimental de un revisor.
Mantenimiento deliberado de la competencia. Del mismo modo que los pilotos deben volar periódicamente sin piloto automático, los trabajadores del conocimiento en funciones aumentadas por la IA necesitan práctica estructurada sin el sistema, tratada como un requisito institucional y no como una buena intención individual.
Actores puente en las instituciones democráticas. Personas que comprenden lo que hace realmente un modelo y que pueden traducirlo a las categorías de la rendición de cuentas pública. Son muy pocas, y formar a más es una prioridad urgente de gobernanza.
La pregunta que deberían plantearse todas las organizaciones, reguladores y legisladores no es si hay una persona en el circuito. Es si esa persona podría seguir realizando el trabajo sin la IA y si esa capacidad se está manteniendo activamente viva.
En muchos casos hoy, la respuesta honesta es no. Cuando el supervisor ya no puede hacer el trabajo sin ayuda, la supervisión deja de ser una salvaguarda y se convierte en una firma. El error que finalmente se cuela solo puede ser detectado por una persona que aún sabe lo suficiente para verlo. Preservar a esa persona (su habilidad, su práctica, su criterio) es lo que hoy constituye por completo la tarea de gobernar bien la IA.
