El mercado de los juguetes inteligentes se está expandiendo rápidamente y podría alcanzar los 18 000 millones de dólares en 2023.
Los juguetes inteligentes pueden ayudar en el aprendizaje, pero entrañan riesgos si no están diseñados para proteger los datos y la seguridad de los niños.
Muchas empresas desarrollan juguetes inteligentes de forma ética y responsable, y se alienta a los fabricantes de juguetes inteligentes con IA a presentar su candidatura a los Premios de Juguetes Inteligentes.
Imagine a un niño nacido este año que estará rodeado de tecnología en cada etapa de su infancia. Cuando Sophie cumpla tres años, sus padres le comprarán una muñeca inteligente que utiliza el reconocimiento facial y la inteligencia artificial (IA) para observarla, escucharla y aprender de ella.
Como muchos niños, Sophie llegará a querer mucho este juguete. Y, como las generaciones anteriores de niños con una muñeca o un osito de peluche favoritos, lo llevará consigo, hablará con él y dormirá a su lado durante muchos años.
Si la muñeca inteligente está diseñada de forma responsable, este juguete podría convertirse en su mejor amigo; si no lo está, será una herramienta de vigilancia que registrará cada uno de sus movimientos y cada palabra pronunciada en su presencia por ella, sus amigos e incluso sus padres.
Los juguetes inteligentes utilizan la IA para conocer al niño que los usa y personalizar la experiencia de juego o aprendizaje. Pueden aprender el color o la canción favoritos del niño, y reconocer a ese niño y a otras personas cercanas de su entorno. Aunque pueda parecer futurista, ya existen muchos juguetes inteligentes que ofrecen estas capacidades. El mercado de estos juguetes se está expandiendo rápidamente y alcanzará los 18 000 millones de dólares en 2023.
Para abordar este uso urgente de la IA, el Foro Económico Mundial lanzó recientemente los Premios de Juguetes Inteligentes para reconocer juguetes con IA diseñados de forma ética y responsable que crean una experiencia de juego innovadora y saludable para los niños.
Los juguetes inteligentes ofrecen una enorme promesa para los niños. Pueden personalizar el aprendizaje a partir de los datos que recopilan sobre ellos, enseñarles habilidades de programación informática y ayudar a los niños con discapacidades a desarrollar habilidades cognitivas, motoras y sociales.
Pero, al mismo tiempo, los juguetes inteligentes conllevan grandes riesgos potenciales si no están diseñados para proteger los datos, la seguridad y la ciberseguridad de los niños.
Una advertencia
El ejemplo de la muñeca inteligente de Sophie no es descabellado. En 2017, My Friend Cayla –un juguete inteligente pionero que utilizaba el reconocimiento facial y de voz– fue declarado herramienta de vigilancia ilegal en numerosos países.
Si la muñeca Cayla estaba conectada a un teléfono, los datos se enviaban al fabricante y a una empresa externa para su procesamiento y almacenamiento. Y cualquier persona que tuviera la aplicación My Friend Cayla en su teléfono a menos de 30 pies (unos 9 metros) de un juguete podía acceder a él y escuchar al niño que lo usaba.
Alemania emitió una “orden de destrucción” para la muñeca y exigió a los padres que la destruyeran “con un martillo”. Hoy en día, las únicas muñecas Cayla que sobreviven en Alemania se encuentran en el Museo del Espionaje de Berlín.
Los riesgos que plantean los juguetes inteligentes
Sophie solicita el ingreso a la universidad a los 18 años. Si su muñeca inteligente hubiera recopilado datos sobre ella desde los 3 hasta los 9 años, la empresa que fabricó el juguete podría conocerla mejor que sus padres. Sin protecciones de datos adecuadas, la empresa también podría vender estos datos a las universidades a las que Sophie solicita el ingreso u otros terceros.
Después de la universidad, Sophie solicita un empleo. Si el empleador comprara datos recopilados sobre Sophie cuando era niña, podría conocer sus fortalezas y debilidades. ¿Y si Sophie hubiera intimidado a su hermana menor, gritado a sus padres o se hubiera negado a hacer sus deberes cuando era niña? Todas estas acciones realizadas en la intimidad del hogar familiar podrían ser conocidas por la empresa y vendidas a terceros, que podrían utilizar esa información para discriminar a Sophie. La vida de la familia ya no es privada.
Hoy en día, los datos son oro, pero recopilar datos sobre niños es intrínsecamente problemático. A medida que una empresa recopila datos sobre niños a través de la muñeca de Sophie, es posible que tenga la responsabilidad de actuar o intervenir. Imagine que Sophie le cuenta a su muñeca que tiene pensamientos suicidas y de autolesión. ¿Debería la empresa estar obligada a alertar a los padres y llamar al 911?
Cuantos más datos recopile un juguete inteligente, más complejos serán los escenarios a los que probablemente se enfrentarán las empresas de juguetes inteligentes. Toda empresa que diseñe un juguete inteligente con capacidad para recopilar esta información debe tener en cuenta estos escenarios de peor caso al desarrollar juguetes que protejan la seguridad del niño que lo usa y la de quienes lo rodean.
Desarrollo de juguetes inteligentes responsables y éticos
Pese a estos riesgos significativos, se están desarrollando juguetes inteligentes éticos y responsables que . Los Premios de Juguetes Inteligentes han desarrollado cuatro criterios clave de gobernanza para las empresas que desarrollan juguetes con IA: privacidad de datos y ciberseguridad; accesibilidad y transparencia; idoneidad por edad; y juego saludable.
La muñeca inteligente de Sophie ilustra la importancia de una sólida privacidad de datos y de comunicar claramente a los adultos que compran el juguete qué hace la muñeca inteligente y cómo funciona. Esto debe comunicarse en las Condiciones del Servicio con un lenguaje comprensible para públicos sin conocimientos tecnológicos. Como mínimo, los juguetes inteligentes deben cumplir los requisitos de COPPA en Estados Unidos y del RGPD en la UE.
Los padres y tutores deben comprender con quién se comparten los datos de los niños y con qué finalidad. Las empresas deben facultar a padres, tutores y niños para que tomen sus propias decisiones sobre el uso de los datos de los niños. Y las empresas no deben vender los datos de los niños a terceros.
La privacidad de los datos es la base de los juguetes inteligentes éticos y responsables, pero también deben diseñarse para ser accesibles, transparentes, adecuados a la edad y fomentar el juego saludable y la salud mental de los niños.
El futuro de la infancia
La muñeca de Sophie no necesariamente le preocupa a ella ni a sus padres, y los datos recopilados sobre ella no obstaculizarán su futuro si se protegen cuidadosamente. En la UE, el RGPD reconoce el derecho al olvido, y una política similar podría permitir que niños como Sophie soliciten que todos los datos recopilados sobre ellos cuando eran niños por sus juguetes inteligentes se eliminen al cumplir 18 años, de modo que puedan empezar la edad adulta con un nuevo comienzo.
Sophie y todos los niños deberían tener una oportunidad justa en la infancia, la educación, las carreras y la vida. Los datos recopilados sobre ellos cuando eran niños no deberían utilizarse para discriminarlos en el futuro.
Los juguetes inteligentes como la muñeca de Sophie pueden desempeñar un papel fundamental en la infancia, estimulando la creatividad y el pensamiento crítico. Muchas empresas desarrollan juguetes inteligentes con una cuidadosa consideración de la ética y la responsabilidad. Instamos a las empresas a adoptar nuestros criterios de gobernanza al diseñar y desarrollar juguetes inteligentes.
La infancia es una etapa sagrada, y los padres harán todo lo posible por proteger las experiencias de sus hijos. Esto no será posible a menos que las partes interesadas trabajen juntas en los sectores privado, público y sin fines de lucro para desarrollar juguetes inteligentes éticos, responsables e innovadores que protejan y fomenten la esencia de la infancia.
Obtenga más información, presente su candidatura y vea los premios de juguetes inteligentes:
Los fabricantes de juguetes inteligentes con IA pueden presentar su candidatura a los Premios de Juguetes Inteligentes ahora mediante el enlace “Presentar candidatura” de nuestro sitio web hasta el 9 de abril de 2021.
Animamos a todas las personas interesadas en los juguetes inteligentes y la infancia a ver la gala de entrega de premios virtual retransmitida en directo el 22 de mayo de 2021, en la que se anunciarán los ganadores, con la participación especial del juez will.i.am.
