En un estudio de más de 32.000 exploraciones, los radiólogos anularon una herramienta de IA en aproximadamente el 2 % de los casos, y acertaron casi nueve de cada diez veces.
Las nuevas leyes sobre IA de la UE, Corea del Sur, Vietnam y otros lugares responsabilizan cada vez más a las personas de supervisar y anular las decisiones de la IA.
Esta gobernanza de la IA basada en el criterio se afina con la experiencia; la capacidad para tomar decisiones de alto impacto alcanza su punto máximo entre los 55 y los 65 años.
En el centro de Kuala Lumpur, Diana, una alta directiva bancaria, pone su nombre en las decisiones que toma una máquina. Cuando el modelo de concesión de préstamos aprueba o rechaza una solicitud, ella es la persona a la que los reguladores responsabilizan de los errores.
Diana no es una simple revisora que da su aprobación: interroga al modelo, señala los resultados sospechosos y se hace cargo de corregirlos. Su banco puede comprar un modelo de IA mejor el próximo trimestre, pero no puede comprar con la misma facilidad la perspicacia que aporta Diana.
Los comités ejecutivos y los consejos de administración siguen considerando la gobernanza de la IA, en gran medida, un problema tecnológico: adquirir el sistema, poner a una persona en el circuito y luego satisfacer a los auditores.
Si algo de esa secuencia te suena poco convincente, no eres el único. La frase «persona en el circuito» se ha convertido en un consuelo que repetimos sin plantearnos la pregunta más difícil: ¿puede esa persona tomar decisiones acertadas cuando el modelo y la situación no coinciden? El modelo nunca fue la parte difícil de la gobernanza de la IA. El criterio importa más, y es crucial designar a alguien como Diana, capaz de decidir cuándo hay mucho en juego, pero el resultado es erróneo.
Dónde se está implantando la gobernanza de la IA basada en el criterio
La Ley de IA de la Unión Europea, en vigor desde agosto de 2024, exige, en virtud del artículo 14, que los sistemas de alto riesgo permitan a una persona designada supervisar, cuestionar y anular sus resultados. La Autoridad Monetaria de Singapur ha propuesto directrices de gestión de riesgos, que ya han concluido la consulta pública, y que responsabilizarían a los consejos de administración y a la alta dirección de las decisiones sobre préstamos, riesgos y fraude. La Ley Básica de IA de Corea del Sur, en vigor desde enero de 2026, impone obligaciones de seguridad y transparencia a los operadores de IA de alto impacto. El derecho a revisión humana propuesto por Malasia exigiría que la persona revisora tuviera la autoridad y la competencia necesarias para anular a la máquina.
La Ley de IA de Vietnam, en vigor desde marzo de 2026, va más lejos: prohíbe obstruir o desactivar los mecanismos humanos que supervisan y controlan la IA, lo que implica que permitir que el criterio se debilite por una dependencia excesiva podría constituir por sí mismo una infracción de la ley.
Ahora, fíjate en el contraste cuando no hay normas.
Hasta ahora, Australia ha optado por no aprobar una ley independiente sobre IA para el sector privado, y Nueva Zelanda ha seguido una vía igualmente poco intervencionista. Esto nos ofrece un experimento natural sobre el riesgo. En Singapur, Vietnam, Corea del Sur y Malasia, la supervisión deficiente supone cada vez más un riesgo jurídico y punitivo: sanciones, pérdida de licencias y responsabilidad personal para los directivos identificados.
En Australia y Nueva Zelanda, la ausencia de estas medidas supone un riesgo para la reputación. En muchas empresas, el riesgo jurídico recibe una partida presupuestaria completa, un punto en el orden del día del consejo y personal designado y formado; al riesgo reputacional, en cambio, simplemente se le asignan un documento de políticas y un plan para reparar los daños. Uno obliga a invertir en el criterio humano; el otro dejará que se actúe solo cuando llegue el momento.
Cómo ayuda el Foro a los líderes a comprender la IA y colaborar en una innovación responsable
El Centro para la Excelencia en IAconecta a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Promueve un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
Mediante espacios de confianza e iniciativas colaborativas, el Centro permite a sus socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
Soberanía cognitiva y gobernanza de la IA
Entonces, ¿qué exigen realmente estas leyes de las personas encargadas de estar en el circuito? La persona responsable debe detectar el caso que se sale del patrón, cuestionar un resultado presentado con seguridad y tener en cuenta al mismo tiempo los intereses del cliente, la exposición de la empresa y las intenciones del regulador. Después, debe decidir en condiciones de incertidumbre.
Esto es la soberanía cognitiva: la capacidad de distanciarse de la máquina y ejercer un criterio situacional de orden superior, forjado durante años de experiencia. Se está convirtiendo rápidamente en un recurso intelectual valioso para las organizaciones.
En un estudio realizado en condiciones reales con más de 32.000 exploraciones, los radiólogos anularon una herramienta de IA autorizada por la FDA en aproximadamente el 2 % de los casos y, cuando discreparon, el criterio humano acertó casi nueve de cada diez veces. El modelo por sí solo habría pasado por alto cientos de coágulos sanguíneos confirmados. El valor no residía en los casos rutinarios en que coincidían, sino en los casos excepcionales y difíciles que detectó una persona.
Aquí es donde la conocida historia sobre el envejecimiento del cerebro invierte la realidad. El criterio que exige la gobernanza de la IA puede afinarse con la experiencia en lugar de desvanecerse.
Un estudio longitudinal de 2026 publicado en Scientific Reports siguió a casi 4.000 adultos y no encontró un límite conocido para la mejora de la salud cerebral a ninguna edad. Un análisis de 2025 publicado en Intelligence concluyó que las capacidades generales que sustentan las decisiones de alto impacto suelen alcanzar su punto máximo entre los 55 y los 60 años, y que quienes mejor se adaptan a esos puestos rara vez tienen menos de 40 o más de 65 años. La Dra. Sandra Bond Chapman, del Center for BrainHealth, denomina «platino» a nuestra función cognitiva de razonamiento integrado, que conecta patrones del pasado con problemas nuevos y suele alcanzar su máximo nivel entre los 55 y los 65 años. He escrito con más detalle sobre esta trayectoria del desarrollo cerebral en la edad adulta.
Nada de esto ocurre automáticamente. La edad por sí sola no otorga nada. Estas capacidades crecen cuando se entrenan deliberadamente y pueden deteriorarse por la sobrecarga crónica, la falta de sueño y la tentación recurrente de aceptar sin más una respuesta porque viene bien presentada.
Esa última tentación tiene nombre. Los investigadores la llaman sesgo de automatización, y décadas de estudios demuestran que afecta tanto a expertos como a principiantes: una revisión concluyó que los consejos erróneos de una máquina aumentaban aproximadamente en una cuarta parte las decisiones humanas incorrectas. ¿Por qué?
Los resultados pulidos de la IA pueden generar una sensación de certeza tan fuerte que el cerebro ve una señal de alto y el pensamiento de orden superior ni siquiera arranca. La antigüedad en el cargo no protege. De hecho, los profesionales más expuestos pueden ser ejecutivos con mucha experiencia: toda esa experiencia aporta señales adicionales de que todo parece correcto, por lo que un resultado seguro puede impedir que la sabiduría adquirida con esfuerzo llegue a convertirse en criterio activo.
Por qué la gobernanza de la IA no es un problema tecnológico
Por eso, tratar la gobernanza de la IA como un problema tecnológico puede ser un error costoso.
Con demasiada frecuencia, las organizaciones gastan mucho en mejores modelos y, al mismo tiempo, invierten poco en las personas que deben gobernarlos. Los mejores trabajadores pueden ser profesionales con experiencia a quienes se etiqueta como «pasados de su mejor momento» y se empuja hacia la salida. Corremos el riesgo de comprar el sistema y dejar sin recursos la supervisión.
El año de Diana pareció corriente. No hubo un ascenso que acaparara titulares, y ha pasado a ocupar un puesto sin el cual su institución no puede funcionar. No es la persona a la que el banco reemplazaría. Al contrario, es la persona que no puede permitirse perder.
Los consejos de administración ya no pueden limitarse a preguntar si hay una persona en el circuito y marcar esa casilla. Deben evaluar si esa persona puede actuar con soberanía cognitiva y pensar mejor que el sistema cuando importa, y si alguien está invirtiendo para que pueda hacerlo.
No se puede gobernar aquello de lo que se depende.
