La IA generativa está acelerando la variedad de amenazas digitales a las que se enfrentan los niños.
Los gobiernos, entre ellos los del Reino Unido, Australia, Singapur y España, están respondiendo con una oleada de medidas de seguridad en línea, que incluyen deberes más estrictos para las plataformas y debates sobre la verificación de la edad.
Los niños y los jóvenes deben participar como socios en el diseño de la regulación, de modo que las normas, la educación y las protecciones reflejen las realidades de cómo viven, aprenden y se relacionan en línea.
Las herramientas de IA se están integrando en la vida cotidiana de los niños, cuyas vidas ya están profundamente digitalizadas, con los videojuegos, las redes sociales, la mensajería y la escolarización atravesando todas las plataformas en línea.
Pew Research ha comprobado que el 64 % de los adolescentes afirma usar un chatbot de IA, y tres de cada 10 dicen usarlo todos los días. Además de los chatbots, también hay funciones de IA integradas en las aplicaciones y los canales que ya utilizan directamente, como herramientas que generan cuentos para dormir para los más pequeños o extensiones de navegador que muestran respuestas en cuestionarios en línea.
La rapidez con la que se adopta esta tecnología importa, porque las salvaguardas, la alfabetización y la gobernanza van a la zaga. Los niños todavía están desarrollando el pensamiento crítico, el control de los impulsos y la identidad social, y tienen menos capacidad para comprender sistemas opacos, diseños persuasivos o prácticas de datos. La IA puede amplificar daños en línea conocidos, como el acoso, la suplantación de identidad y la explotación, al tiempo que introduce riesgos nuevos, desde medios sintéticos realistas hasta el acicalamiento automatizado y los compañeros de IA que difuminan los límites saludables.
La histórica prohibición de las redes sociales para adolescentes en Australia a finales del año pasado acaparó los titulares, pero otros gobiernos, entre ellos los del Reino Unido, Singapur y España, han respondido con una oleada de medidas de seguridad en línea, que incluyen deberes más estrictos para las plataformas y debates sobre la verificación de la edad. El tema también ocupó un lugar destacado en la agenda de la Reunión Anual del Foro Económico Mundial 2026, donde los líderes debatieron sobre el bienestar juvenil en un mundo hiperconectado.
El Informe de Riesgos Globales 2026 destaca el aumento de los riesgos relacionados con la tecnología, con los daños en línea en el puesto n.º 12 para los próximos dos años y los efectos adversos de las tecnologías de IA en el puesto n.º 5 para los próximos 10 años. El mensaje es sencillo: la seguridad infantil en línea en la era de la IA es una prioridad máxima.
Cuando la IA potencia los daños en línea
Los equipos de confianza y seguridad llevan mucho tiempo combatiendo un conjunto conocido de daños en línea que afectan a niños y adolescentes, como el ciberacoso y el acoso, el acicalamiento y la captación, el material de abuso sexual infantil (CSAM), el odio y el extremismo, las estafas y la exposición a contenidos de autolesión o sexuales. Lo que ha cambiado es la velocidad, la escala y el realismo que puede añadir la IA.
Lo que antes requería conocimientos técnicos puede hacerlo ahora cualquier persona con herramientas de uso generalizado. La IA generativa puede utilizarse para crear imágenes muy realistas, lo que reduce la barrera para producir y distribuir contenidos ilegales y aumenta el volumen de contenidos que deben revisar los moderadores y los investigadores.
La magnitud del cambio ya es visible. La Internet Watch Foundation (IWF) informó de un aumento del 26.362 % en vídeos de IA fotorrealistas de abuso sexual infantil, que a menudo incluyen víctimas infantiles reales y reconocibles, en 2025, y advirtió de que gran parte de este material es de carácter extremo. Las fuerzas del orden también están respondiendo al CSAM generado por IA en redes de distribución; sin embargo, el CSAM sintético puede dificultar la identificación de víctimas reales, el rastreo del material original y la priorización de los casos urgentes de rescate, lo que complica las investigaciones incluso cuando el contenido es totalmente generado por IA.
Los datos muestran también un fuerte crecimiento de la captación en línea y la sextorsión financiera. Las herramientas de «desnudado» habilitadas por IA y los desnudos falsos (deepfakes) convierten fotos corrientes en imágenes sexuales, lo que intensifica el acoso y la humillación, a menudo en contextos escolares y dirigidos contra las niñas. La IA hace que estas dinámicas sean más escalables, desde la suplantación de compañeros hasta la fabricación de imágenes explícitas.
Riesgos propios de la IA
Los sistemas de IA están diseñados para ser fluidos, rápidos y útiles, rasgos que pueden parecer autoridad. Con el riesgo de alucinaciones, simplificaciones excesivas o sesgos reproducidos, los niños pueden ser vulnerables a la confianza excesiva en la IA conversacional y pueden pasar por alto limitaciones como la falta de empatía o imprecisiones sutiles. Para los niños que todavía están desarrollando la alfabetización y el pensamiento crítico, los resultados de la IA que suenan seguros pero son erróneos pueden desinformar el aprendizaje, moldear creencias y distorsionar la toma de decisiones, sobre todo cuando la IA se trata como tutor, motor de búsqueda o amigo de confianza.
Un cambio importante es el auge de los compañeros de IA, que son explícitamente amigos sociales, parejas románticas, personajes de juego de rol y chatbots pseudoterapéuticos. La dependencia emocional de los chatbots de compañía es un riesgo creciente. Los compañeros de IA pueden suponer una combinación peligrosa para los jóvenes, sobre todo cuando la verificación de la edad es débil y los sistemas están optimizados para generar interacción.
Se han relacionado casos de interacciones dañinas con chatbots con crisis de adolescentes, incluidos suicidios en algunos casos extremos, y los cambios de modelo han provocado en ocasiones sentimientos de pérdida similares a los de perder a un amigo. Esto subraya la necesidad de salvaguardas más sólidas, protocolos eficaces de respuesta ante crisis y una rendición de cuentas más clara para los productos utilizados por menores, sobre todo cuando esos productos pueden moldear el comportamiento y fomentar vínculos intensos.
Más allá de acelerar los daños existentes, la IA introduce riesgos arraigados en la forma en que se diseñan y experimentan estos sistemas. Los niños revelan datos sensibles con más facilidad cuando la interacción resulta conversacional y sin juicios. A diferencia de una búsqueda en la web, el chat puede convertirse en un diario que contenga datos privados, como información sobre salud mental, patrones de ubicación y escolarización. Este riesgo crece cuando la IA está integrada en distintas plataformas y cuando las interacciones pueden almacenarse, analizarse o utilizarse para perfeccionar los sistemas.
Prevención del daño en línea
Los niños y los jóvenes viven en la vanguardia de internet impulsada por la IA, pero con demasiada frecuencia se les pide que naveguen por sistemas diseñados sin tenerlos en cuenta. Mantenerlos seguros y permitirles beneficiarse de las herramientas digitales no puede recaer únicamente en los padres, los docentes o los equipos de confianza y seguridad.
Las organizaciones líderes están impulsando intervenciones prácticas, como la Internet Watch Foundation, que apoya la identificación y eliminación del material de abuso sexual infantil; la Fundación 5Rights, que promueve un diseño digital centrado en el niño; y la Tech Coalition, que reúne a empresas para reforzar la prevención, la detección, la denuncia y la coordinación entre plataformas contra la explotación sexual infantil en línea.
Las principales plataformas y empresas tecnológicas también están invirtiendo en herramientas de seguridad y en experiencias más seguras por defecto, como el hash de imágenes y las tecnologías de detección, las herramientas de supervisión parental y las protecciones para adolescentes. Mientras tanto, los reguladores esperan cada vez más enfoques más sólidos de deber de diligencia, un diseño adaptado a la edad y una verificación de edad creíble. En conjunto, estos esfuerzos avanzan hacia la construcción de sistemas digitales más seguros para los niños a medida que la IA se integra en la vida cotidiana en línea.
La labor del Foro Económico Mundial incluye un informe de un taller de 2019 sobre Establecer normas globales para la infancia y la IA, y el lanzamiento en 2021 de la Coalición Global para la Seguridad Digital, que impulsó marcos compartidos como Principios Globales para la Seguridad Digital y una Tipología de los daños en línea para ayudar a alinear los esfuerzos entre países y sectores.
Un reciente documento del Foro, The Intervention Journey: A Roadmap to Effective Digital Safety Measures propone un plan detallado para implementar intervenciones de seguridad digital. Como parte de ello, el informe aconseja identificar los riesgos, diseñar medidas de seguridad adaptadas, evaluar de forma continua la eficacia y colaborar compartiendo conocimientos y recursos.
Cómo ayuda el Foro a los líderes a comprender la IA y colaborar en la innovación responsable
El Centro de Excelencia en IA conecta a líderes de todos los sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Apoya un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a los socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
La seguridad digital para los niños es un desafío de toda la sociedad que exige colaboración. Las empresas, los gobiernos, la sociedad civil y el mundo académico tienen cada uno un papel que desempeñar para garantizar que la IA y los servicios en línea sean seguros desde el diseño, respaldados por salvaguardas creíbles, una rendición de cuentas clara y enfoques basados en pruebas que se mantengan al ritmo de los riesgos en evolución. Igual de importante es que los niños y los jóvenes deben participar como socios, de modo que las normas, la educación y las protecciones reflejen las realidades de cómo viven, aprenden y se relacionan en línea.
Actuando juntos podemos construir un mundo digital en el que la IA no erosione la confianza ni el bienestar, sino que amplíe el aprendizaje, la creatividad y las oportunidades para cada niño.
