Los niños usan la IA generativa, pero a menudo la ocultan a sus profesores y padres.
La IA generativa tiene numerosos beneficios, pero también plantea muchas preguntas sin respuesta y riesgos para los niños.
Diversos actores deben actuar para comprender el posible impacto que la IA generativa tendrá en los niños a medida que crezcan con su creciente omnipresencia.
La inteligencia artificial (IA) generativa, como la que impulsa ChatGPT, ha llevado los algoritmos y el procesamiento de datos de la IA de un segundo plano al primer plano de nuestras experiencias digitales. Hoy en día, los niños la usan a diario, desde para ayudarse con los deberes hasta para tomar decisiones sobre su vestuario.
Esta rápida adopción ha avivado el debate sobre las implicaciones más amplias de la IA. Y, aunque la IA generativa aporta beneficios, existen desafíos recurrentes de la IA, como los sesgos algorítmicos y la opacidad de los sistemas. Incluso podría amplificar problemas como los resultados impredecibles o introducir otros nuevos.
Dado que los niños y los jóvenes son el grupo demográfico más numeroso que pasa tiempo en línea, y en vista del ritmo de desarrollo y adopción de la IA generativa, es fundamental comprender sus repercusiones en la infancia.
¿Qué es la IA generativa y cómo se utiliza?
IA generativa, un subconjunto del aprendizaje automático dentro de la IA, aprende a partir de grandes cantidades de datos para descubrir patrones y generar datos nuevos y similares. Suele utilizarse para producir contenidos que imitan la producción humana –ya sean textos, imágenes o incluso código informático–, pero también puede llevar a cabo tareas complejas de planificación, contribuir al desarrollo de nuevos medicamentos y potenciar la forma en que los robots realizan tareas de maneras sin precedentes.
No sabemos cuántos niños usan la IA generativa, pero las primeras encuestas indican que son más que los adultos. Una pequeña encuesta realizada en Estados Unidos reveló que, mientras que solo el 30 % de los padres había utilizado ChatGPT, el 58 % de sus hijos de entre 12 y 18 años lo había hecho y lo ocultaba a sus padres y profesores. En otra encuesta estadounidense, los adultos jóvenes que conocían ChatGPT afirmaron utilizarlo más que sus homólogos mayores.
La IA ya forma parte de la vida de los niños en forma de algoritmos de recomendación o sistemas automatizados de toma de decisiones, y la adopción de la IA generativa por parte de la industria indica que podría convertirse rápidamente en una característica clave del entorno digital infantil. Está integrada de diversas formas, incluidos los asistentes digitales y personales y los asistentes de motores de búsqueda.
Las plataformas populares entre los niños, como Snapchat, ya han integrado chatbots de IA. Al mismo tiempo, Meta prevé añadir agentes de IA a su gama de productos, que utilizan a diario más de 3 000 millones de personas, entre ellas los usuarios de Instagram y WhatsApp.
¿Cómo está creando el Foro Económico Mundial barreras de protección para la inteligencia artificial?
El Centro de Excelencia en IA conecta a líderes de todos los sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Favorece un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
Mediante espacios de confianza e iniciativas de colaboración, el Centro permite a sus socios generar una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
Cómo beneficia la IA generativa a los niños
La IA generativa ofrece oportunidades potenciales, como la ayuda con los deberes, explicaciones fáciles de entender de conceptos difíciles y experiencias de aprendizaje personalizadas que pueden adaptarse al estilo y al ritmo de aprendizaje de cada niño. Los niños pueden usar la IA para crear arte, componer música y escribir historias y software (sin conocimientos de programación o con pocos), lo que fomenta la creatividad.
Los niños con discapacidades pueden interactuar y cocrear con sistemas digitales de nuevas formas mediante texto, voz o imágenes. Cuando los niños utilizan directamente los sistemas, la IA generativa podría ayudar a detectar tempranamente problemas de salud y de desarrollo. De forma indirecta, los sistemas de IA generativa pueden proporcionar información extraída de datos médicos para impulsar avances en la atención sanitaria.
De forma más general, las capacidades de análisis y generación pueden aplicarse en diversos sectores para mejorar la eficiencia y desarrollar soluciones innovadoras que tengan un impacto positivo en los niños.
Riesgos de la IA generativa para los niños
Pero la IA generativa también podría ser utilizada por actores malintencionados o causar daños involuntarios o perturbaciones a escala social, en detrimento de las perspectivas y el bienestar de los niños.
Se ha demostrado que la IA generativa puede crear al instante desinformación basada en texto, indistinguible de y más persuasiva que el contenido generado por humanos. Las imágenes generadas por IA son imposibles de distinguir de rostros reales –e, en algunos casos, percibidas como más fiables que estos– (véase la Figura 1). Estas capacidades podrían aumentar la escala y reducir el coste de las operaciones de influencia. Los niños son especialmente vulnerables a los riesgos de la desinformación y la información errónea, ya que sus capacidades cognitivas aún están en desarrollo.
El uso a largo plazo plantea interrogantes para los niños. Por ejemplo, dado el tono humano de los chatbots, ¿cómo puede la interacción con estos sistemas afectar al desarrollo infantil? Los primeros estudios indican que las percepciones y atribuciones que los niños hacen sobre la inteligencia, el desarrollo cognitivo y el comportamiento social podrían verse influidas.
Además, dados los sesgos inherentes a muchos sistemas de IA, ¿cómo podrían estos configurar la visión del mundo de un niño? Los expertos advierten de que los chatbots que afirman ser seguros para los niños podrían necesitar pruebas más rigurosas. Asimismo, a medida que los niños interactúan con los sistemas de IA generativa y comparten sus datos personales en conversaciones e interacciones, ¿qué implica esto para la privacidad y la protección de datos de los niños? El Comisionado de eSafety de Australia considera que en este contexto hay que prestar mayor atención a la recopilación, el uso y el almacenamiento de los datos de los niños, especialmente con fines comerciales.
Repercusiones de gran alcance
Algunos posibles resultados ofrecen tanto oportunidades como riesgos. No sabemos, por ejemplo, de qué manera la IA generativa alterará la vida laboral futura de los niños. Podría sustituir empleos clave, aunque también crear otros nuevos. Esto es pertinente para determinar cómo y qué educación se imparte hoy a los niños.
Aunque las oportunidades y los riesgos van mucho más allá, estos ejemplos ilustran las implicaciones de gran alcance de la IA. Dado que los niños interactuarán con sistemas de IA a lo largo de sus vidas, las interacciones durante sus años de formación podrían tener consecuencias duraderas, lo que subraya la necesidad de un enfoque con visión de futuro por parte de los responsables políticos, los organismos reguladores, los desarrolladores de IA y otras partes interesadas.
La necesidad de actuar
Como punto de partida, los recursos existentes sobre IA ofrecen numerosas orientaciones para una IA responsable en la actualidad. Por ejemplo, las Orientaciones normativas sobre la IA para la infancia de UNICEF establecen nueve requisitos para salvaguardar los derechos de la infancia en las políticas y prácticas de IA, y el kit de herramientas sobre IA para la infancia del Foro Económico Mundial ofrece asesoramiento a las empresas tecnológicas y a los padres. Pero los avances en la IA generativa implican que las políticas existentes deben interpretarse en contextos nuevos, y puede que sea necesario elaborar nuevas directrices y normativas.
Los responsables políticos, las empresas tecnológicas y otros actores que trabajan para proteger a la infancia y a las generaciones futuras deben actuar con urgencia. Deberían apoyar la investigación sobre las repercusiones de la IA generativa y participar en la prospectiva, también con la participación de los niños, para dar respuestas de gobernanza anticipatoria más eficaces. Hace falta una mayor transparencia, un desarrollo responsable por parte de los proveedores de IA generativa y la defensa de los derechos de la infancia. Esfuerzos a escala mundial para regular la IA, tal como ha pedido el secretario general de la ONU, António Guterres, necesitarán el pleno apoyo de todos los gobiernos.
Lea más sobre la IA generativa y la infancia en este informe de UNICEF.
