En los últimos años, los ingenieros de ciberseguridad han ido adoptando un nuevo modelo de seguridad llamado «confianza cero»: la idea de que no se debe confiar automáticamente en ningún usuario ni dispositivo por defecto.
Las sociedades digitales aún no han adoptado esta postura. Los usuarios en línea suelen saltarse el paso de verificar la información, como demuestra el aumento mundial de la información falsa y engañosa.
Al adoptar principios de los modelos de confianza cero, los usuarios en línea podrían aprovechar el potencial de la tecnología emergente de IA, junto con la moderación humana y la tecnología blockchain, para verificar mejor la información.
¿Confiar o no confiar? En los últimos años, el aumento de la información errónea, la desinformación y las noticias falsas sugiere que, en realidad, esa pregunta al estilo de Shakespeare no es la cuestión; tampoco lo es en quién confiar.
La gente tiende a confiar en fuentes que reconoce como autorizadas y no importa si realmente se puede confiar en esas fuentes; pueden ser cosas que se ven en las redes sociales, en la televisión o incluso una respuesta a una indicación en un sitio de modelos de lenguaje grandes (LLM). Cuando la información abunda, pero no siempre es fiable, la verdadera respuesta que deberían buscar los usuarios en línea es cómo debemos confiar.
Aunque este desafío para la confianza no se limita a ningún medio ni región, sería difícil pasar por alto el papel de la tecnología en su crecimiento. Los avances tecnológicos permiten que las plataformas informen y desinformen a gran escala. Los algoritmos de las redes sociales impulsan la interacción sin verificar siempre los hechos, los LLM generan textos que mezclan de forma fluida la verdad con alucinaciones, e incluso fuentes de noticias históricamente respetables tienen dificultades para mantener su autoridad ante una avalancha de afirmaciones contrapuestas.
Sin embargo, una posible solución a esta crisis de confianza también podría estar en el mundo tecnológico, si tomamos prestado uno de los principios de la confianza cero. En ciberseguridad, la confianza cero significa que no se confía por defecto en ningún usuario, dispositivo ni transacción; en cambio, cada solicitud se autentica y verifica de forma continua.
El principio fundamental de la confianza cero contrasta con la forma en que los usuarios en línea suelen consumir información digital. Hoy, la gente suele confiar en la autoridad percibida o la familiaridad de una plataforma y se salta por completo el paso de verificar la información. Sin embargo, a medida que aumenta el volumen de contenido, mantener los estándares se vuelve difícil.
¿Son suficientes las iniciativas actuales de ciberseguridad?
Algunas plataformas han reconocido la pérdida de confianza e intentado reconstruir su credibilidad mediante herramientas de verificación impulsadas por la comunidad. Por ejemplo, la plataforma social Twitter (ahora X) lanzó un programa de moderación de contenido impulsado por la comunidad llamado «Birdwatch» en 2021, que más tarde pasó a llamarse «Community Notes».
Este enfoque invita a los usuarios a anotar colectivamente publicaciones que podrían contener información engañosa. Sobre el papel, este modelo descentralizado de verificación de datos parecía prometedor: la comunidad podía aportar contexto adicional y señalar inexactitudes. Sin embargo, las notas de la comunidad han tenido dificultades para convertirse en la solución definitiva en la práctica. Hay poca transparencia sobre quién contribuye y cómo se da mayor visibilidad a determinadas notas.
Otro ejemplo de evaluación colectiva es el modelo de edición abierta de Wikipedia, donde colaboradores voluntarios evalúan y mejoran los artículos para garantizar su exactitud. Wikipedia demuestra que la moderación colaborativa puede ayudar a mantener un nivel mínimo de calidad: la información manifiestamente falsa suele corregirse con rapidez y la plataforma ha desarrollado reglas estrictas, requisitos de citación y debates editoriales. Pero Wikipedia tampoco está exenta de dificultades, como el acoso dentro de la comunidad de editores y los desacuerdos sobre interpretaciones, fuentes y sesgos editoriales. La dependencia del sitio de las personas voluntarias también implica que los temas menos conocidos quizá no reciban el mismo nivel de atención o experiencia que los asuntos más populares.
Estos dos ejemplos destacados muestran que, aunque estas medidas ayudan hasta cierto punto, a menudo carecen de escalabilidad y transparencia. Si los marcos de confianza cero se convirtieron en una solución eficaz para los problemas de ciberseguridad, ¿podemos aplicar un concepto similar a la información digital y la confianza?
Un plan para el cambio
Inspirándonos en los modelos de confianza cero, podemos imaginar una base de conocimientos sofisticada, imparcial y de terceros, que contenga fuentes validadas de verdad, hechos e información, como sistema estandarizado que podría implementarse en plataformas que gestionan información, desde medios de comunicación hasta plataformas de redes sociales.
Esa base de conocimientos podría integrar tres elementos y aprovechar sus fortalezas: moderación humana, tecnología blockchain y análisis basado en IA. Cada elemento funcionaría como un paso adicional de verificación, reduciría la probabilidad de que se cuele información errónea y mejoraría la calidad general del discurso digital.
La moderación humana, preferiblemente a cargo de un grupo transparente y diverso de expertos, puede ofrecer un juicio matizado, supervisar afirmaciones fácticas importantes y orientar el establecimiento de estándares. No juzgarían cada pieza de contenido —una tarea cada vez más imposible—, sino que ayudarían a establecer las reglas y los límites.
Solo en los últimos años la tecnología blockchain ha empezado a desvincularse de su asociación con las criptomonedas. A medida que los usuarios en línea se han familiarizado más con esta tecnología, podría servir como un registro inmutable que documente los pasos de verificación por los que pasa cada pieza de información. En este sistema, el historial de verificación de datos de cualquier afirmación, sus fuentes y las decisiones editoriales se almacenarían de forma descentralizada. Tanto los usuarios como las plataformas podrían rastrear la procedencia de una afirmación y ver cuándo se verificó, quién lo hizo y con qué estándares.
En consonancia con estos elementos, los modelos de IA y aprendizaje automático operarían como una capa de análisis y escrutinio automatizado. Entrenados con datos de fuentes verificadas y afirmaciones fácticas ya aprobadas, estos modelos podrían señalar incoherencias, destacar patrones sospechosos e incluso sugerir fuentes de mayor calidad. Los historiales de verificación transparentes añadirían otro nivel de revisión. Aunque no son infalibles, estas herramientas reducirían la carga de los moderadores humanos al filtrar grandes volúmenes de contenido cuestionable.
Este modelo teórico es solo una forma de avanzar. Las plataformas también podrían implementar una autenticación anónima para demostrar que quien comparte la información es una persona usuaria real y no un bot, lo que ayudaría a reducir la difusión automatizada de información errónea. El análisis de redes podría ayudar a determinar de dónde procede la información errónea y qué vías comunes sigue. Encontrar su origen es fundamental para controlarla.
En lugar de aceptar la información errónea como un subproducto inevitable de la conectividad, podemos crear sistemas que exijan y demuestren credibilidad en cada paso. Al adoptar este cambio, nos acercamos a un futuro en el que los hechos y la confianza se asienten sobre bases más firmes.
