Los juguetes inteligentes se están extendiendo rápidamente por todo el mundo, y presentan nuevos riesgos y oportunidades para la generación más joven.
Varias normativas emergentes establecen requisitos mínimos para los fabricantes de juguetes inteligentes en ámbitos como la ciberseguridad y la seguridad en línea.
Cuando la normativa puede tener limitaciones, iniciativas como los Smart Toy Awards incentivan activamente a los desarrolladores de juguetes inteligentes a dar prioridad absoluta al bienestar y las necesidades de desarrollo de los niños en el diseño de sus interacciones.
Los juguetes inteligentes con IA presentan una diversidad cada vez mayor, a un ritmo exponencial, y están presentes en los entornos sociales más habituales de los niños. El Market Research Future calcula, por ejemplo, que la cuota de mercado mundial de estos juguetes crecerá un 26% y alcanzará los 107.02 mil millones de USD para 2030. A medida que aumenta su interacción con los niños,su transferibilidad entre contextos, su conectividad con otros dispositivos con IA y las formas en quelos niños se vinculan inconscientemente con ellos, los juguetes con IA influyen habitualmente en lacrianza de la generación más joven.
Exposición a riesgos para la seguridad en línea con los juguetes inteligentes
Los juguetes inteligentes, como destaca la Generation AI Initiative del Foro Económico Mundial, pueden tener efectos muy positivos en el desarrollo de los niños si se diseñan de forma responsable. Sin embargo, las denuncias recibidas por la Comisión Federal de Comercio (FTC), así como una investigación de la Organización Noruega de Consumidores y abundante investigación académica investigación, también señalan los graves efectos que los juguetes inteligentes pueden tener en el desarrollo de los niños.
Las formas poco transparentes en que algunos juguetes inteligentes intercambian datos para su análisis algorítmico con otros dispositivos con IA, por ejemplo, mediante una conexión Bluetooth, muestran cómo unas funciones de ciberseguridad deficientes pueden vulnerar la privacidad de los niños y poner en peligro su seguridad. Los juguetes inteligentes pueden aumentar la exposición de los niños a riesgos para la seguridad en línea, como los riesgos de «contenido» (por ejemplo, la exposición a material perjudicial o inadecuado para su edad); los riesgos de «contacto» (por ejemplo, la exposición a contactos no solicitados de adultos); los riesgos de «conducta» (por ejemplo, el ciberacoso); y los riesgos de «contrato» (por ejemplo, la recopilación de datos, la presión comercial y las incitaciones a apostar), según la definición de la 5Rights Foundation.
En todo el mundo, los mecanismos legales regulan la proliferación de juguetes basados en IA y la mitigación de estos riesgos. La Ley de Ciberseguridad de la UE establece requisitos mínimos para los desarrolladores de juguetes inteligentes, que deben diseñar juguetes con sólidas funciones de ciberseguridad cuando comercializan sus productos en la UE. La Ley Europea de IA, cuya entrada en vigor está prevista para 2024, introduce un marco de riesgos de cuatro niveles para evaluar las tecnologías de inteligencia artificial y también exige a los innovadores de juguetes inteligentes que evalúen el impacto de sus sistemas de IA frente al «uso indebido razonablemente previsible». La normativa prohíbe de forma absoluta los juguetes inteligentes con IA que explotan a los niños. LaLey de Servicios Digitales de la UE también protege a los jóvenes al prohibir la publicidad dirigida habilitada por IA mediante la elaboración de perfiles de niños. Una ley federal de EE. UU., laLey de Protección de la Privacidad Infantil en Internet (COPPA), establece como requisito criterios de acceso adecuados a la edad e intercambio de contenidos en sitios web. La FTC también ha introducido recientemente un programa de etiquetado de ciberseguridad para proteger a los consumidores de las brechas en los sistemas de IA.
Proteger los intereses de la infancia y la juventud
Además de las leyes, las normas y los marcos de políticas también pueden influir positivamente en los desarrolladores de juguetes inteligentes. La Norma IEEE para un marco de servicios digitales apropiados para cada edades un instrumento internacional sólido que las empresas de juguetes inteligentes pueden cumplir. La Guía de políticas de UNICEF sobre IA para niños ofrece recomendaciones para elaborar políticas y sistemas de IA que respeten los derechos de la infancia. El AI for Children Toolkit del Foro Económico Mundial es otro medio para animar a las empresas a innovar con juguetes responsables basados en IA, protegiendo mejor los intereses de la infancia y la juventud. Aunque existen leyes y medidas que regulan la difusión de los juguetes inteligentes, quizá no basten para incentivar la innovación de productos orientados al desarrollo infantil.
UNICEF ha presentado varios estudios de caso sobre juguetes inteligentes que muestran las mejores prácticas actuales. Mattel, por ejemplo, colaboró con ToyTalk para publicar directrices que abordan las preocupaciones de los padres sobre la privacidad. Los padres pueden acceder a cualquier dato grabado en la cuenta en la nube de ToyTalk y eliminar cualquier información. ToyTalk también participa en elPrograma de sello KidSafe de la FTC, un programa de cumplimiento para servicios en línea dirigidos a niños.
A estas alturas, diversas innovaciones en juguetes con IA también han demostrado cómo los sistemas de IA pueden influir positivamente en el desarrollo infantil. NAO, un robot educativo es un ejemplo de juguete inteligente que enseña a los niños al permitirles detectar y corregir errores como parte de sus interacciones y formas de aprendizaje. PlayShifu, una empresa emergente de la India, ha pasado desde su fundación en 2016 a convertirse en una compañía global de juguetes inteligentes interactivos y diversos, alineados con la investigación educativa, el desarrollo infantil y las necesidades de los padres. El robot ROYBI es un compañero inteligente que introduce a los niños en la tecnología, las matemáticas, las ciencias y los idiomas, como el inglés, el mandarín y el español.
Los Smart Toy Awards
Los Smart Toy Awards, organizados conjuntamente en 2022 por el Foro Económico Mundial y la Dubai Future Foundation, son un ejemplo de un medio activo para incentivar a los desarrolladores de juguetes inteligentes de todo el mundo a priorizar las necesidades de desarrollo infantil al diseñar juguetes con IA. Los Smart Toy Awards ofrecen a los ganadores una ventaja competitiva única al mostrar cómo los fabricantes de juguetes inteligentes pueden ir más allá del cumplimiento legal y ofrecer a niños y padres experiencias seguras, enriquecedoras y lúdicas.
Además de la normativa pertinente, los criterios de evaluación de los Smart Toy Awards también se basan en los principios FIRST del AI for Children Toolkit. La herramienta anima a las empresas a demostrar que sus juguetes presentan características justas, inclusivas, responsables, seguras y transparentes, y ofrece orientación práctica para que empresas, padres y líderes comprendan mejor los beneficios y riesgos de los juguetes con IA.
Además de las evaluaciones del impacto en los derechos de la infancia, el uso de los principios FIRST como requisito para que las empresas participen en el concurso demuestra cómo este puede impulsar diversas innovaciones en juguetes inteligentes adaptados a los niños. Los ganadores de los Smart Toy Awards reciben una insignia honorífica que pueden utilizar en sus productos y que puede ayudar a los padres a comprender mejor qué hace falta para que un juguete muestre un comportamiento responsable de la IA al interactuar con los niños.
La innovación debe responder a las necesidades de desarrollo y al bienestar infantil
A medida que sigue creciendo la influencia de los juguetes inteligentes con IA en la generación más joven, es imperativo que la innovación en este ámbito responda a las necesidades de desarrollo de los niños. Las empresas que se comprometan voluntariamente a adoptar modelos de gobernanza centrados en la infancia serán referentes no solo entre los innovadores de IA, sino, sobre todo, entre los miembros de la generación más joven y sus padres.
