Organizaciones como las oficinas nacionales de estadística publican datos que pueden servir de base para las búsquedas que la gente realiza en línea utilizando herramientas tradicionales y, cada vez más, herramientas de inteligencia artificial.
Pero estos datos pueden citarse en una respuesta de búsqueda de IA incluso cuando la evidencia no respalda la conclusión.
Las editoriales pueden ayudar a los desarrolladores a comprobar las respuestas generadas por IA proporcionando definiciones, limitaciones y ejemplos de preguntas junto con las pruebas que las respaldan.
En un reciente proyecto piloto que conectaba un asistente de inteligencia artificial (IA) con los datos públicos de energía de Uruguay, el sistema atribuyó un cambio en los datos parcialmente a factores climáticos. El objetivo del proyecto piloto era desarrollar herramientas de búsqueda de IA que permitieran a las personas hacer preguntas en lenguaje natural y obtener respuestas que se pudieran rastrear hasta conjuntos de datos oficiales. Pero según el Fundación del Conocimiento Abierto El relato del piloto, el conjunto de datos que el asistente de IA estaba utilizando no contenía datos climáticos para respaldar su explicación del cambio.
Ya sea que utilice una herramienta de IA para evaluar una política o planificar una inversión, las explicaciones pueden ser tan importantes como las cifras. Una cita le ayudará a encontrar evidencia, pero no garantiza que cada afirmación en la respuesta de la herramienta de IA se derive de dicha evidencia.
Esto supone un reto para las organizaciones que publican investigaciones, datos y guías, como la Agencia Internacional de Energía, la Oficina Nacional de Estadística del Reino Unido o la Oficina de Estadísticas Laborales de EE. UU. Su trabajo puede aparecer en la respuesta de una herramienta de IA que omite limitaciones importantes o añade una explicación que la evidencia no respalda. El hecho de que la información sea accesible y citada no garantiza que el conocimiento de la organización se utilice correctamente.
Las organizaciones que publican evidencia pueden ayudar a las empresas que desarrollan y operan herramientas de IA a verificar cómo estas utilizan sus datos. Junto con un conjunto de datos o un estudio, pueden publicar preguntas de prueba con notas que expliquen qué respalda la evidencia, dónde se aplican limitaciones y qué requeriría evidencia adicional.
Esto proporcionaría a los desarrolladores pruebas prácticas para demostrar si sus sistemas de IA representan fielmente el material, al tiempo que facilitaría a los editores y usuarios la identificación de fallos.
Contexto y coherencia para las herramientas de IA
Una calificación oculta en un informe puede que nunca llegue a un sistema de IA que solo recupera una tabla del informe. Cuando las organizaciones ponen un conjunto de datos a disposición del software de IA, sus definiciones y limitaciones deben estar disponibles por la misma vía.
Cuando una herramienta de IA solicita una cifra de empleo, por ejemplo, la respuesta debe identificar la población y el período cubierto, indicar si la cifra es provisional y proporcionar un enlace a la metodología utilizada para calcularla. Es posible que la herramienta de IA no pueda reconstruir de forma fiable el contexto esencial a partir de documentos dispersos.
La investigación requiere un cuidado similar. Un resumen puede informar con precisión sobre los resultados de un estudio, pero puede inducir a error a los lectores si omite la población o el contexto en el que se aplican los hallazgos.
Saber qué mide una estadística no determina por qué pudo haber cambiado. Las definiciones distinguen entre generación de electricidad y capacidad de generación, pero explicar un cambio en la generación requiere más evidencia. Una organización puede ser la fuente autorizada de una estadística sin ser la autoridad final sobre sus causas.
Por eso, las empresas que desarrollan y operan herramientas de IA deben verificar si la evidencia respalda las afirmaciones que hacen dichas herramientas. Otras fuentes, que deben identificarse, podrían justificar una interpretación más profunda. Cuando la evidencia sea insuficiente, la respuesta debe reconocer lo que aún se desconoce.
Las organizaciones también necesitan mantener la coherencia en lo que respecta a la información que ponen a disposición de las personas y el software. En el marco de una iniciativa creada por el Foro Económico Mundial y Cambridge SupTech Lab, el Banco de Mauricio trabajó con el proveedor de tecnología TSO en una prueba de concepto que convirtió la información regulatoria en datos estructurados Un único flujo de trabajo podría publicar guías legibles, interfaces de software y archivos PDF.
Al utilizar una fuente común, las organizaciones pueden actualizar simultáneamente la información que leen los usuarios y la que recupera el software. De lo contrario, una corrección en un sitio web podría dejar en circulación una versión anterior legible por máquina. Por supuesto, las versiones anteriores deben permanecer identificables en caso de que sean necesarias para consultas históricas.
Probando cómo la IA utiliza la información
Una organización podría comenzar con un conjunto de datos o un estudio ampliamente utilizado y publicar algunas preguntas de ejemplo para probar las herramientas de IA, con notas que expliquen qué debería incluir una respuesta y qué no se puede determinar con la evidencia disponible.
Las preguntas que la organización ya ha recibido constituyen un buen punto de partida. En los proyectos piloto de Uruguay y Brasil, mencionados anteriormente, por ejemplo, la Open Knowledge Foundation informa que las preguntas frecuentes de los socios sirvieron de base para las pruebas y ayudaron a perfeccionar las directrices para las herramientas de IA.
Estas preguntas permiten comprobar si las herramientas de IA recuperan la información correcta. Sin embargo, su evaluación debe ir más allá de si un sistema devuelve el número correcto. También deben verificar si su respuesta incluye limitaciones importantes, como un estudio que abarque solo un grupo de edad, y reconocer cuándo la evidencia no permite responder a la pregunta.
Estas preguntas de ejemplo proporcionan un punto de partida para la evaluación, pero los desarrolladores también tendrían que probar preguntas desconocidas:
Las preguntas deberían ayudar a comprobar si las respuestas de las herramientas de IA están respaldadas por evidencia, sin exigir que se esté de acuerdo con la interpretación preferida de una organización. Asimismo, deberían permitir que las respuestas se basen de manera responsable en fuentes adicionales.
Cooperación y retroalimentación sobre las respuestas de IA
Un documento de antecedentes del Banco Mundial para la Comisión de Estadística de la ONU de 2026 recomienda: cooperación y retroalimentación entre productores estadísticos, redistribuidores y desarrolladores de IA. La publicación de preguntas de prueba podría dar un enfoque práctico a esa cooperación.
Esto ayudaría a las editoriales a mantener actualizadas sus fuentes y explicar las limitaciones. Además, los desarrolladores podrían evaluar cómo sus sistemas de IA recuperan e interpretan el material. Diagnosticar un error puede requerir la colaboración de ambos: una editorial puede verificar que se haya proporcionado una fecha, pero podría necesitar la ayuda de un desarrollador para determinar si el sistema la recuperó y la utilizó correctamente.
Las organizaciones más pequeñas no deberían tener que establecer alianzas individuales con cada empresa que utilice una herramienta de IA. Los organismos sectoriales podrían organizar pruebas conjuntas, incluyendo preguntas en idiomas relevantes a nivel local. Estas empresas deberían ofrecer un canal claro para informar sobre interpretaciones erróneas recurrentes.
El objetivo de publicar investigaciones y evidencias es ayudar a comprender un tema. Verificar si las respuestas generadas por IA representan con precisión esas evidencias debería formar parte del proceso de publicación.
