Las restricciones de acceso, como los límites de edad, por sí solas no pueden solucionar los problemas fundamentalmente inseguros del diseño de la IA ni los daños que ocasiona.
Proteger a los jóvenes requiere combinar la seguridad desde el diseño con la alfabetización y la educación digital.
La regulación debe encontrar un equilibrio entre la seguridad del niño y su derecho a la información, la conexión y la capacidad de decisión en línea.
A medida que la inteligencia artificial (IA) se integra en la forma en que los niños aprenden, se comunican, crean y juegan, los gobiernos se enfrentan a la difícil responsabilidad de protegerlos de los peligros y, al mismo tiempo, prepararlos para participar de forma segura y significativa en un mundo cada vez más mediado por la IA. Los gobiernos y los actores de la industria tienen el deber de proteger a los niños, incluso en línea. El Comité de las Naciones Unidas sobre los Derechos del Niño lo afirma en su documento histórico. Comentario general n.º 25 que el interés superior del niño debe ser una consideración primordial en la regulación, el diseño y el uso de las tecnologías digitales.
Las políticas de seguridad en línea abarcan una amplia gama de riesgos digitales, como el acoso, la explotación, el contenido dañino, las violaciones de la privacidad, el diseño adictivo, la manipulación y los riesgos para la salud mental. Estos riesgos son graves, pero no necesariamente tienen las mismas causas ni requieren las mismas respuestas.
Derechos de los niños y bienestar Proporcionar el punto de partida necesario. La seguridad es importante, pero también lo son la privacidad y la dignidad, la autonomía, el aprendizaje y el desarrollo, la conexión humana, la inclusión y el acceso. Por lo tanto, proteger a los niños requiere considerar no solo si pueden acceder a una tecnología, sino también qué sucede cuando lo hacen.
El acceso es una parte de un enfoque más amplio.
Las políticas recientes reconocen cada vez más este enfoque. Restricciones de edad en las redes sociales de Australia Exigen que ciertas plataformas impidan que los menores de 16 años tengan cuentas. Cabe destacar que el Comisionado de Seguridad en Internet de Australia describe explícitamente esta restricción como parte de un enfoque regulatorio integral que también incluye la seguridad desde el diseño, la alfabetización digital, la educación, los mecanismos de quejas y la rendición de cuentas de la industria.
La propuesta de la Comisión Europea Ley de la UE sobre la infancia De forma similar, combina acceso y diseño. Los menores de 13 años no podrían tener una cuenta en redes sociales, mientras que los de 13 y 14 años podrían usar cuentas administradas por sus padres con funcionalidades limitadas y un límite diario de una hora. Las cuentas autónomas comenzarían a los 15 años. La propuesta también aborda los sistemas de recomendación, el contacto no deseado, el diseño adictivo y la privacidad, al tiempo que extiende las protecciones a los juegos en línea, los asistentes de IA y los chatbots.
Pero las restricciones de acceso no garantizan la seguridad de la tecnología subyacente. Los riesgos derivados de un diseño perjudicial, la manipulación, la explotación o las interacciones inapropiadas con la IA no desaparecen repentinamente cuando alguien cumple 15, 16 o incluso 18 años. Por eso, las restricciones de acceso y la seguridad desde el diseño se combinan en los marcos regulatorios.
¿Protege una restricción el bienestar general?
Sin embargo, a medida que se amplían las normas de acceso, los responsables políticos también deben considerar sus efectos en todas las dimensiones del bienestar infantil. Por ejemplo, ¿debería tratarse una hora dedicada a enviar mensajes a amigos, informarse sobre la actualidad o crear algo de la misma manera que una hora navegando por las redes sociales?
Los entornos digitales ofrecen beneficios junto con riesgos. El acceso a la información es en sí mismo un derecho importante. Informe de noticias digitales de 2026 del Instituto Reuters Se ha constatado que el 52 % de los jóvenes de entre 18 y 24 años a nivel mundial identifican las redes sociales, las plataformas de vídeo y los chatbots de IA como su principal medio para informarse. Restringir el acceso a la información a los menores puede reducir la exposición a ciertos riesgos, pero los responsables políticos también deben considerar los efectos en el acceso a la información, la participación, la conexión y el desarrollo de la alfabetización mediática y en inteligencia artificial.
Ya han surgido cuestiones de proporcionalidad. El Consejo Constitucional de Francia legislación previamente bloqueada Se exige autorización paterna para que los menores de 15 años accedan a las redes sociales, entre otras razones, por la preocupación que suscitan la libertad de expresión y por cómo la verificación de edad afecta a la privacidad.
Las circunstancias familiares también varían. Si bien el control parental puede ser valioso, los padres difieren en su nivel de alfabetización digital, tiempo disponible y recursos. Los niños pueden vivir en diferentes hogares, con sus abuelos u otros tutores, o carecer de un adulto comprometido o con habilidades digitales. La regulación debe evitar asumir que todos los niños tienen el mismo entorno familiar o el mismo apoyo.
La IA hace que estas preguntas sean más difíciles.
La IA complica aún más la distinción entre acceso y diseño.
La reciente ciudad de Nueva York Moratoria de un año sobre la IA generativa orientada a los estudiantes El periodo comprendido entre los 13 y los 14 años, hasta el octavo grado, ofrece otro ejemplo de una intervención basada en el acceso que tiene mérito, al igual que restringir el uso de calculadoras para que los estudiantes aprendan primero las habilidades matemáticas básicas.
Sin embargo, los niños se encontrarán con la IA fuera de las aulas. Cada vez más, es posible que ni siquiera opten por acceder a la IA como un producto independiente. La IA se está integrando en la búsqueda, los juegos, los sistemas operativos, la educación y la comunicación, y los agentes de IA actuarán cada vez más en varios de estos entornos.
Esto dificulta la definición de algunos límites regulatorios. La propuesta de Ley KIDS busca abordar el tema de los asistentes de IA y los chatbots que simulan relaciones interpersonales o generan dependencia emocional. Esta preocupación es importante, sobre todo a medida que los niños desarrollan habilidades sociales y los sistemas conversacionales se vuelven cada vez más personalizados.
Pero, ¿qué constituye una relación con la IA? ¿Cuándo la interacción repetida se convierte en dependencia? ¿En qué se diferencia un tutor educativo que recuerda las necesidades de aprendizaje de un niño de un compañero que recuerda conversaciones personales? ¿Y qué sucede cuando un único agente de IA ayuda a un niño a aprender, comunicarse, buscar información y jugar?
En lugar de basarse únicamente en las categorías de productos, la regulación deberá tener cada vez más en cuenta la funcionalidad, el contexto y los riesgos de los sistemas de IA.
Proteger el bienestar mientras se prepara a los niños para un mundo de IA.
Un nuevo documento del Foro Económico Mundial, Seguridad y bienestar infantil en la era de la IA: mejores prácticas e incentivos, desarrollado a través del Coalición Global para la Seguridad Digital El objetivo se centra en el bienestar general de los niños y proporciona las mejores prácticas para las organizaciones a lo largo del ciclo de vida de la IA.
Se necesitan regulaciones, y las restricciones de acceso son apropiadas cuando la evidencia demuestra que retrasar el acceso protege a los niños durante etapas críticas de su desarrollo. Sin embargo, estas políticas también deben evaluarse continuamente para determinar si logran los resultados previstos y qué contrapartidas generan. La seguridad desde el diseño es necesaria para que las tecnologías con las que eventualmente entren en contacto sean más seguras. La educación y la alfabetización en IA también son necesarias para capacitar a los niños para afrontar los riesgos que la regulación no puede eliminar.
Por lo tanto, el objetivo no debe ser simplemente mantener a los niños alejados de los riesgos hasta que cumplan cierta edad. Los daños digitales que afectan a los niños también afectan a los adultos y, por consiguiente, no desaparecerán.
El reto consiste en determinar cuándo se debe restringir el acceso, cómo debe modificarse el diseño y cómo ambos aspectos pueden contribuir al bienestar general de los niños. A medida que la IA se integra en el entorno digital, proteger a los niños también debe implicar prepararlos para que puedan ejercer su autonomía, proteger su privacidad, mantener la conexión humana, acceder a la información y desenvolverse con seguridad en un mundo digital mediado por la IA una vez que se levanten dichas restricciones.
