Muchas personas ya interactúan a diario con tecnologías digitales, y los chatbots y los avatares hacen que las interacciones en línea sean más personales.
Sin embargo, su rápida adopción ha superado la comprensión pública, lo que genera riesgos para los niños, los trabajadores, las personas mayores y otros grupos vulnerables.
La confianza en las tecnologías digitales, como la IA, es clave, y las partes interesadas deben trabajar juntas para garantizar que la tecnología sirva a los usuarios, y no al revés.
Ya interactuamos con sistemas que escuchan, responden de forma cercana y parecen entendernos. Los asistentes de voz reconfortan después de largas jornadas, los chatbots clasifican los problemas y los avatares hacen que las interacciones en línea resulten más personales.
Esta facilidad conversacional reduce las barreras de acceso a la información, favorece el aprendizaje y puede ampliar la atención allí donde los servicios humanos escasean. Sin embargo, estos sistemas se basan en modelos probabilísticos, no en el juicio profesional derivado de la experiencia vivida, y su rápida adopción ha superado la comprensión pública, lo que genera riesgos para los niños, los trabajadores, las personas mayores y otros grupos vulnerables.
La confianza es el desafío central. La confianza en las tecnologías digitales tiene que ver con las expectativas de las personas y con la forma en que una combinación de factores mecánicos, como la ciberseguridad, y factores relacionales, como la posibilidad de reparación, se unen para garantizar que la tecnología sirva al usuario y no al revés.
Los usuarios deben saber cuándo no confiar en la IA
La mayoría de los usuarios no han tenido suficiente experiencia con la inteligencia artificial (IA) como para formarse una idea clara de en qué confiar y por qué. Los sistemas de apariencia segura fomentan la aceptación por parte de los usuarios, lo cual resulta útil para tareas triviales, pero es arriesgado en ámbitos de alto riesgo como la salud, las finanzas, los servicios jurídicos o el bienestar mental.
Incidentes recientes ponen de manifiesto esta urgencia: chatbots de estilo terapéutico que ofrecen orientaciones peligrosas, herramientas de voz sintética que permiten ingeniería social engañosa y algoritmos de contratación que reproducen sesgos históricos y excluyen a candidatos cualificados. No se trata de errores aislados, sino de señales de cómo algunas interfaces persuasivas y decisiones de diseño opacas pueden modificar el comportamiento a gran escala.
Desde el lanzamiento de ChatGPT en noviembre de 2023, gran parte del debate sobre la seguridad de la IA se ha centrado en los modelos fundacionales (sus arquitecturas, conjuntos de entrenamiento y modos de fallo teóricos), en lugar de en los riesgos a nivel de interacción que se producen en los productos que las personas utilizan realmente.
Sin embargo, proteger a los usuarios finales exige centrar la atención en los daños dependientes del contexto: un tono persuasivo que genera una falsa confianza, valores predeterminados de la interfaz de usuario (IU) que impulsan comportamientos perjudiciales, una personalización que expone vulnerabilidades sensibles y lagunas en la escalada que dejan a los usuarios sin ayuda humana oportuna.
Ya se dan algunos pasos prometedores. Las empresas y los reguladores han comenzado a exigir etiquetas de procedencia y señales de incertidumbre que indiquen cuándo un contenido ha sido generado por IA o es incierto.
Las primeras orientaciones sugieren que estas señales reducen la dependencia excesiva y fomentan comportamientos de verificación. Distintivos de procedencia, las puntuaciones de confianza y mensajes como «esta respuesta ha sido generada por IA» invitan a los usuarios a detenerse, contrastar la información o recurrir a una instancia superior, convirtiendo la dependencia ciega en un uso informado.
Las medidas centradas en la interacción son clave para la seguridad de la IA
Estas medidas son necesarias, pero por sí solas resultan insuficientes. Las medidas centradas en la interacción deben ocupar un lugar central en las agendas de seguridad digital. Para los responsables de políticas y los equipos de producto, esto implica alinear el diseño de los productos, la gobernanza, la educación y la respuesta intersectorial, de modo que las interacciones inteligentes se ganen la confianza pública antes de afectar a los medios de vida y al bienestar de las personas.
El diseño de los productos debe partir de la realidad de que las personas no siempre pueden autorregularse, especialmente en medio de la crisis de soledad y depresión, y de que una IA siempre disponible y complaciente puede amplificar la confianza parasocial.
Por ello, las interfaces deben incorporar barreras de protección conductuales que eliminen la antropomorfización, con el fin de reducir la falsa intimidad y la falsa autoridad. Otras protecciones predeterminadas deberían incluir configuraciones que minimicen la privacidad, una personalización prudente en ámbitos sensibles, señales claras de procedencia e incertidumbre, y una escalada rápida con intervención humana en consultas de crisis, clínicas o jurídicas.
Las empresas deberían realizar periódicamente pruebas de red team centradas en los daños derivados de la interacción, limitar la reutilización de datos sensibles y publicar manuales de seguridad que documenten los modelos de amenazas y los planes de corrección.
Al mismo tiempo, los reguladores deberían exigir auditorías independientes y mecanismos de reparación accesibles para los despliegues de alto riesgo, y las redes intersectoriales de respuesta rápida deberían coordinar el intercambio de incidentes y las soluciones entre plataformas y fronteras.
Estas medidas no pretenden frenar la innovación; buscan garantizar que las herramientas potentes se ganen la confianza pública antes de afectar a los medios de vida y al bienestar de las personas. Con una rendición de cuentas más clara, las personas pueden adoptar herramientas de IA útiles con confianza, sabiendo que existen vías de reparación si algo sale mal.
Importancia de ampliar la alfabetización y el apoyo en materia de IA
Igual de importante es ampliar la alfabetización en IA y el apoyo local para que las personas sepan cuándo confiar en la IA y cuándo buscar ayuda humana. Los programas educativos deben ir más allá de la ingeniería de prompts (la generación de registros de chat a partir de grandes conjuntos de datos) y basarse en la psicología humana para enseñar a los usuarios de todas las edades a reconocer el diseño persuasivo, interpretar las señales de procedencia y verificar los consejos críticos.
Las bibliotecas, las escuelas, los lugares de trabajo y los centros comunitarios pueden organizar juegos de rol y «mapas de escalada» que conecten a los usuarios con profesionales de confianza. Del mismo modo que las escuelas impartieron clases de informática, ahora deberían tener clases de IA que traten la inteligencia artificial como una herramienta para explicar cómo funciona, en qué ayuda y cuáles son sus posibles daños.
La Coalición Mundial para la Seguridad Digital ya impulsa esta agenda al reunir a gobiernos, la industria, la sociedad civil y expertos técnicos para cerrar mejor las brechas entre las comunidades técnicas de IA y las empresas, y los expertos en confianza y seguridad, así como para debatir sobre la interacción entre la IA y los usuarios.
En la Reunión Anual 2026 del Foro Económico Mundial en DavosReunión Anual 2026 en Davos, los líderes situarán estos debates en el centro, con el foco puesto en mejorar la procedencia de los contenidos, las normativas de seguridad en línea y los programas de alfabetización digital escalables que hagan que la seguridad sea práctica para las comunidades de todo el mundo.
Si se da prioridad a la seguridad centrada en la interacción, la interacción inteligente puede ser una fuerza para la inclusión, la creatividad y la resiliencia. Las señales claras de procedencia e incertidumbre, los valores predeterminados prudentes en ámbitos sensibles, la alfabetización generalizada, las prácticas de seguridad transparentes y la cooperación mundial pueden hacer realidad ese futuro.
Para los responsables de políticas y los equipos de producto, la tarea inmediata es práctica y urgente: integrar la seguridad de la interacción en el ciclo de vida de los productos, exigir una rendición de cuentas independiente para los despliegues de alto riesgo e invertir en alfabetización centrada en la comunidad, para que los usuarios puedan adoptar herramientas de IA con confianza y tengan recursos cuando algo salga mal.
