Las generaciones más jóvenes están creciendo en interacción con algoritmos de inteligencia artificial (IA), pero se presta poca atención al impacto de la IA y las tecnologías relacionadas en los niños.
La IA ofrece un gran potencial para la educación y la salud de los niños, pero también supone un riesgo para su privacidad y seguridad.
Quienes toman decisiones y los innovadores tecnológicos deben dar prioridad a los derechos y el bienestar de los niños al diseñar y desarrollar sistemas de IA. Se deben crear planes de estudio sobre IA y fomentar la alfabetización en IA y las competencias de las generaciones futuras.
Un estudio de 2019 realizado por DataChildFutures reveló que el 46 % de los hogares italianos participantes tenía altavoces con IA, mientras que el 40 % de los juguetes estaba conectado a internet. Más investigaciones recientes indican que para 2023 se instalarán en hogares de todo el mundo más de 275 millones de asistentes de voz inteligentes, como Amazon Echo o Google Home.
A medida que las generaciones más jóvenes crecen interactuando con dispositivos que incorporan IA, se debe prestar más atención al impacto de esta tecnología en los niños, sus derechos y su bienestar.
Desbloquear el potencial de la IA
Las herramientas y los enfoques de aprendizaje basados en IA suelen considerarse motores fundamentales de innovación en el sector educativo. A menudo reconocida por su capacidad para mejorar la calidad del aprendizaje y la enseñanza, la inteligencia artificial se utiliza para supervisar el nivel de conocimientos y los hábitos de aprendizaje de los estudiantes, como la relectura y la priorización de tareas, y, en última instancia, ofrecer un enfoque de aprendizaje personalizado.
Knewton es un ejemplo de software educativo que incorpora IA e identifica lagunas de conocimiento y selecciona contenidos educativos según las necesidades de los usuarios. Los algoritmos también están detrás de Presentation Translator de Microsoft que ofrece traducción en tiempo real a 60 idiomas mientras se realiza una presentación. Este software ayuda a ampliar el acceso al aprendizaje, en particular para los estudiantes con discapacidad auditiva. La IA, aunque no siempre con éxito, también se utiliza cada vez más para automatizar la calificación y las actividades de retroalimentación.
Dado el amplio potencial de aplicación en el sistema educativo, las previsiones de Global Market Insights indican que el valor de mercado de la IA en la educación alcanzará los 20.000 millones de dólares para 2027.
Además de la educación, la IA también está impulsando avances en la salud infantil. En los últimos años, han sido noticia los avances en la investigación sobre el papel de la IA en la detección temprana del autismo, los indicios de depresión en el habla de los niños y los trastornos genéticos poco frecuentes. También hay cada vez más ejemplos del uso de la IA para garantizar la seguridad infantil mediante la identificación de depredadores en línea y de prácticas como el acoso sexual en línea y la explotación infantil.
Desafíos para el bienestar infantil
A pesar de las aplicaciones positivas de la IA, en algunas regiones sigue habiendo muchas reservas respecto a esta tecnología. Una encuesta de 2019 realizada por el IEEE reveló que, respectivamente, el 43 % de los padres miléniales de Estados Unidos y el 33 % de los del Reino Unido estarían cómodos dejando a sus hijos al cuidado de una enfermera con IA durante una hospitalización. En cambio, los padres miléniales de China, India y Brasil son más receptivos a la inteligencia artificial: el 88 %, el 83 % y el 63 %, respectivamente, se sentirían cómodos con que una enfermera virtual cuidara de sus hijos en el hospital. Se encontraron resultados similares respecto al uso de robots con IA en la cirugía pediátrica.
El escepticismo sobre el uso generalizado de la IA también está presente en los debates sobre la privacidad y la seguridad de los niños. Los dispositivos inteligentes, incluidos los asistentes virtuales y los juguetes inteligentes, recopilan y procesan información infantil, incluidos datos sensibles y biométricos. En manos equivocadas, esos datos podrían poner en riesgo la seguridad de los niños.
Por ejemplo, en medio de temores por la seguridad, en 2017 se retiraron de las tiendas los ositos de peluche CloudPets tras una filtración de datos que expuso información privada, incluidas fotos y grabaciones de más de dos millones de mensajes de voz de niños.
También se han expresado serias preocupaciones por el uso de datos de niños, como los antecedentes de menores, en sistemas de IA para predecir conductas delictivas futuras y la reincidencia. Además de suponer una amenaza para la privacidad, representantes de la sociedad civil y activistas han advertido sobre posibles casos de discriminación, sesgo y trato injusto.
El camino hacia una IA centrada en los niños
Para garantizar que la IA esté centrada en los niños, quienes toman decisiones y los innovadores tecnológicos deben dar prioridad a los derechos y el bienestar de los niños al diseñar y desarrollar sistemas de IA. UNICEF y la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos (ACNUDH) se han pronunciado especialmente al respecto. Como parte de su proyecto IA para los niños, UNICEF ha colaborado estrechamente con el Foro Económico Mundial para elaborar orientaciones normativas sobre inteligencia artificial para los niños, que incluyen un conjunto de recomendaciones para crear políticas y sistemas de IA que, entre otras cosas, protejan el derecho de los niños a la privacidad y a la protección de datos.
Como parte de su iniciativa Generation AI y de las conversaciones sobre normas mundiales para los niños y la IA, el Foro Económico Mundial también encabeza los «Smart Toys Awards» para maximizar las oportunidades de aprendizaje que ofrecen los juguetes inteligentes y minimizar los riesgos que plantean para la seguridad y los niños.
Las estimaciones indican que, para 2065, el 65 % de los niños que hoy cursan la educación primaria trabajará en puestos que aún no se han creado. Desde un punto de vista práctico, la IA debería incorporarse a los planes de estudio escolares para dotar a las generaciones futuras de competencias de programación y ofrecerles una formación adecuada en IA. Al mismo tiempo, se debería enseñar a los niños a pensar de forma crítica sobre esta tecnología y a fundamentar sus juicios sobre las amenazas y oportunidades relacionadas. Estos esfuerzos deberían incluir a todos los niños y, por tanto, procurar cerrar la brecha de alfabetización digital entre el Norte Global y el Sur Global.
Se necesitará una mayor acción mundial para garantizar que el interés superior de los niños quede reflejado y se aplique en las políticas nacionales e internacionales, así como en el diseño y desarrollo de tecnologías de IA. No cabe duda de que la inteligencia artificial cambiará la manera en que los niños interactúan con su entorno, incluidos sus espacios de aprendizaje, juego y desarrollo. Sin embargo, es nuestra responsabilidad garantizar que este cambio se convierta en una fuerza positiva.
