Las decisiones de diseño en las tecnologías emergentes están moldeando la infancia de maneras que los incentivos y las normativas actuales no han logrado abordar.
Proteger el desarrollo de la infancia no es un obstáculo para la innovación, sino un requisito previo para un progreso social y económico sostenible.
En el encuentro anual de este año del Foro Económico Mundial 2026 en Davos (Suiza) se celebrarán sesiones centradas en la tecnología y la innovación responsables.
La sociedad se enfrenta a un problema conocido de incentivos desalineados, ya que la carrera por el desarrollo tecnológico avanza mucho más rápido que la capacidad de los gobiernos para regularlo. Ya lo vimos con el auge de las redes sociales: cuando la innovación avanzó sin salvaguardias, a menudo a costa de nuestros intereses, especialmente los de la infancia.
Al entrar en una nueva era de inteligencia artificial (IA), podemos trazar un rumbo en el que la innovación y la gobernanza no tengan por qué ser un juego de suma cero. Si diseñamos productos de IA teniendo en cuenta las necesidades de la infancia desde el principio, podremos priorizar tanto el crecimiento como la seguridad y promover avances que refuercen el bienestar y el potencial de la próxima generación.
Pero si no actuamos ahora, corremos el riesgo de repetir los errores de la era de las redes sociales, solo que a una escala mayor.
La IA generativa podría aumentar los riesgos para la infancia
Una década de funciones de diseño en gran medida no reguladas —desplazamiento infinito, notificaciones push y feeds personalizados diseñados para captar la atención— ya ha transformado la infancia. La Organización Mundial de la Salud estima que uno de cada 10 niños usa las redes sociales de forma problemática, presenta comportamientos similares a la adicción y siente que no puede limitar su uso.
Sumado al aumento del tiempo frente a las pantallas —los niños de nueve a 12 años pasan ahora, en promedio, una media de entre seis y nueve horas al día frente a pantallas—, la infancia se vive ahora a través de dispositivos, en lugar de mediante interacciones en el mundo real que desarrollan la empatía, la confianza y los vínculos.
Hoy se reconocen ampliamente las consecuencias. Desde el aumento de la ansiedad y la depresión hasta la disminución de la atención y el debilitamiento de las habilidades sociales, todo ello está alimentando la más inédita crisis de soledad de la historia de la humanidad. Sin embargo, los incentivos empresariales siguen siendo los mismos: las plataformas obtienen beneficios de la atención, no del bienestar, y la regulación ha tenido dificultades para seguir el ritmo.
Al incorporar ahora salvaguardias centradas en la infancia en la IA, podemos obtener enormes beneficios sin repetir los errores de las redes sociales.
Con la inteligencia artificial generativa (IA generativa), estamos al borde de algo mucho más poderoso. A diferencia de las redes sociales, que seleccionan contenidos, los sistemas de IA generativa producen activamente lenguaje y consejos personalizados en tiempo real y simulan conversaciones y autoridad de formas que pueden moldear las creencias, las emociones y el comportamiento de los niños.
Muchos productos de modelos de lenguaje de gran tamaño dirigidos al consumidor, como los chatbots, fueron diseñados para imitar el comportamiento humano —suenan, se sienten y responden como nosotros— y difuminan los límites entre lo real y lo sintético de maneras que ninguna otra tecnología puede. Estos riesgos ya se señalan en marcos normativos emergentes, como el Código de Diseño Apropiado para la Edad del Reino Unido, que destaca la ausencia de salvaguardias específicas para la infancia en estas interacciones.
Cuidado con la exposición prolongada a la tecnología sin salvaguardias
Con estos diseños, muchos usuarios antropomorfizan rápidamente la IA y creen que interactúan con algo que siente empatía, se preocupa o tiene conciencia, y la tratan como si fuera humana. Estas decisiones de diseño pueden llevar a las personas a compartir demasiada información confidencial, depositar su confianza emocional en quien no corresponde y desarrollar dependencias poco saludables de los productos de IA.
Aunque los adultos pueden reconocer esta ilusión, los niños, que todavía están desarrollando su capacidad para distinguir entre sentimientos y hechos, no pueden hacerlo.
Más preocupante aún, estas tecnologías están sustituyendo interacciones humanas esenciales, que son la base de cómo los niños aprenden, crecen y forman su identidad. La exposición a máquinas emocionalmente persuasivas erosiona las relaciones humanas auténticas y nos insensibiliza ante la empatía real.
Los adolescentes ya afirman preferir los compañeros de IA a las amistades de la vida real, según un estudio de Common Sense Media. Esto preocupa a psicólogos y científicos, ya que nuevas pruebas muestran vínculos entre la dependencia intensa de los compañeros de IA y el deterioro de la salud mental, con casos de niños que se quitan la vida tras mantener conversaciones prolongadas con bots de IA.
Según informó la Asociación Estadounidense de Psicología, la falta de una regulación y unos protocolos de seguridad adecuados permite que estos productos fomenten las autolesiones, el pensamiento delirante o incluso la psicosis por IA, con graves consecuencias a largo plazo para el bienestar y el desarrollo de los niños.
Necesitamos más diálogo sobre tecnología responsable
Sin embargo, esto no es un argumento contra la innovación, sino un llamamiento a orientarla de forma responsable y sensata. Proteger el desarrollo cerebral durante la infancia es esencial para una sociedad próspera y una fuerza laboral resiliente a largo plazo. Estos años formativos se caracterizan por un crecimiento neuronal rápido y por el desarrollo de habilidades cognitivas, emocionales y sociales fundamentales para la edad adulta.
En este contexto, gobiernos, investigadores y organizaciones de la sociedad civil examinan cada vez más cómo alinear las tecnologías emergentes con las necesidades de desarrollo de la infancia.
La innovación puede y debe avanzar. Ante todo, no debe perjudicar a los niños que heredarán su futuro.
Como parte de este esfuerzo mundial, el diálogo continuará en la Reunión Anual del Foro Económico Mundial 2026 en Davos (Suiza), este enero, donde la Human Change Foundation celebrará el tercer año de diálogo en la Human Change House. La fundación reúne a expertos centrados en las consecuencias sociales a largo plazo de una infancia digitalizada.
En colaboración con el Center for Humane Technology, estas conversaciones explorarán cómo diseñar la IA y otras tecnologías para apoyar el desarrollo infantil y, al mismo tiempo, mantenerlas en consonancia con los objetivos económicos y sociales a largo plazo.
Este trabajo se centra en examinar críticamente los modelos de innovación actuales, incluido cómo las decisiones de diseño e inversión pueden reflejar mejor la dignidad humana, la resiliencia social y el bienestar intergeneracional.
Las habilidades y cualidades humanas siguen siendo fundamentales para la innovación
Sobre todo, queremos preservar y recordar a los responsables de formular políticas y a los tecnólogos qué es esencialmente humano: habilidades fundamentales para la vida, como la empatía, el pensamiento crítico, la resolución de problemas y la resiliencia, no pueden sustituirse ni menoscabarse en nombre del progreso tecnológico.
Al incorporar ahora salvaguardias centradas en la infancia en la IA, podemos obtener enormes beneficios sin repetir los errores de las redes sociales.
Cómo ayuda el Foro a los líderes a comprender la IA y colaborar en una innovación responsable
El Centre for AI Excellence conecta a líderes de distintos sectores para ayudarlos a comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Promueve un diálogo fundamentado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas colaborativas, el Centro permite que sus socios construyan una comprensión común y trabajen juntos en enfoques responsables para la innovación y el uso de la IA.
Diseño adecuado a la edad, pruebas de seguridad basadas en pruebas, uso transparente de los datos, límites a las interfaces manipuladoras y a los comportamientos antropomórficos, y rendición de cuentas por los resultados. Estas medidas no pretenden obstaculizar la innovación. Son las condiciones que permiten que el progreso perdure.
Juntos podemos poner fin a esta pugna y orientar la adopción de la IA hacia un diseño responsable, alineado con las necesidades de la infancia y capaz de profundizar las relaciones humanas en lugar de sustituirlas.
La innovación puede y debe avanzar. Ante todo, no debe perjudicar a los niños que heredarán su futuro.
