Los dispositivos IoT con IA en los hogares moldean y moldearán el desarrollo individual y social de la generación más joven.
Matter, el próximo estándar de interconectividad, permitirá conectar diversos dispositivos IoT en los hogares, pero sus riesgos inherentes afectarán sobre todo a los niños y pondrán a prueba los requisitos y estándares de diseño adecuados a cada edad.
Medidas como el preentrenamiento de sistemas de IA con datos sintéticos y el uso de grandes bases de datos de código abierto son componentes que podrían constituir pilares esenciales de un marco de gobernanza del IoT centrado en la infancia.
En 2048, dos refrigeradores inteligentes conectados conversan sobre cuál de los dos es más digno de confianza en los hogares a los que prestan servicio. El primero dice: «Los niños de casa confían en mí. Mientras tenga algo como Nutella en existencias, confían en mí».
El segundo refrigerador responde: «Confían en mí si los padres de casa saben que ofrezco a la familia alimentos equilibrados y saludables, que no comparto sus datos de consumo sin que lo sepan, que les aviso de los ciberataques, que tengo notificaciones de transparencia integradas sobre las prácticas abusivas de incitación al consumo y que mis electrodomésticos con IA funcionan con un modelo económico empresarial basado en las partes interesadasmodelo económico empresarial basado en las partes interesadas, consumo poca energía, la transmisión de mis datos en tiempo real no perjudica el desarrollo de los niños y funciono conforme a un marco de gobernanza del IoT conectado centrado en la infancia».
El primer refrigerador inteligente añade: «Si las configuraciones de ambos se consideran medidas aceptables de confiabilidad, ninguno de los dos podría ser verdaderamente digno de confianza. Entonces, ¿qué somos?, ¿qué deberíamos ser? ¿A quién deberíamos servir?».
Imaginar que los dispositivos IoT se plantean preguntas introspectivas exigiría resolver desafíos de décadas de la inteligencia artificial general que los académicos consideran indeseables. Por tanto, el escenario ficticio anterior solo pretende analizar los efectos a largo plazo de los dispositivos IoT conectados en el desarrollo de la generación más joven. El informe State of the Connected IoT prevé que, para 2025, 41.6 mil millones de dispositivos IoT recopilarán datos de las personas de forma relativamente continua.
El surgimiento de un estándar de conectividad sin precedentes, llamado Matter, que unifica a la industria permitirá la interoperabilidad entre distintas marcas y tipos de dispositivos IoT en los hogares. Nunca ha sido tan oportuno iniciar una conversación sobre cómo debería influir la proliferación de dispositivos IoT con IA en la generación más joven. La generación Z ya ha empezado a exigir anonimato ahora.
Riesgos inherentes del IoT conectado en el hogar desde la perspectiva de la infancia
Según el informe State of the Connected IoT los riesgos inherentes de los dispositivos IoT se relacionan con lo siguiente: omnipresencia, proximidad, granularidad, datos en tiempo real y vulnerabilidad a los ciberataques.
En cuanto a la proximidad, el informe señala que los dispositivos IoT pueden pasar desapercibidos como compañeros íntimos. Dado que los niños desarrollan vínculos estrechos con las personas, las cosas y los dispositivos durante sus primeros años de vida, la presencia de IoT conectados en espacios tan íntimos como el hogar solo aumentará la probabilidad de que se vinculen con ellos.
Al analizar los datos en tiempo real, Anders Raahauge destaca que las personas «pierden la oportunidad de comprobar la privacidad». En el caso de los niños, esto plantea graves desafíos en materia de protección de datos, derechos de la infancia y diseño responsable de IA. Aunque las Directrices sobre una IA fiable del grupo de expertos de alto nivel de la UEabogan por evaluar el impacto en los derechos humanos y los derechos de la infancia antes de diseñar sistemas de IA, la propuesta de Ley de IA europea no exige a los desarrolladores que lo hagan. Sin embargo, sigue siendo importante reunir prácticas eficaces y considerar de manera integral el impacto de la transmisión de datos en tiempo real entre dispositivos IoT conectados en el desarrollo de los niños.
En cuanto a la vulnerabilidad a los ciberataques, dado que el IoT es especialmente vulnerable a los ciberataques, estos dispositivos no solo agravan los riesgos para los derechos de la infancia en internet, sino que también pueden influir negativamente en el desarrollo moral, mental y de la identidad cívica de los niños.
Hacer que las iniciativas de IoT en el hogar sean seguras para la infancia
Ante estos riesgos, sigue siendo esencial elaborar orientaciones para el IoT conectado en los hogares desde una perspectiva centrada en la infancia. Esto debería incluir: a) mitigar los riesgos del IoT desde la perspectiva de los niños; b) mitigar los riesgos para la seguridad de los niños en internet y, sobre todo, c) definir criterios para la interoperabilidad de los dispositivos IoT con IA centrados en la infancia en las sociedades del futuro. La garantía de edad integrada en los sistemas de IA se ha considerado un requisito eficaz para proteger a los niños de los riesgos. Sin embargo, parece seguir siendo insuficiente en la era del IoT conectado en los hogares.
Una de las razones es que los requisitos de garantía de edad, plasmados en códigos jurídicos, son poderosos, pero están dispersos a escala internacional. La Ley de Servicios Digitales europea, por ejemplo, prohíbe los anuncios dirigidos a los niños. Este requisito presiona a las empresas de IoT para que determinen la edad de los usuarios, pero su alcance internacional es solo indirecto.
Otra razón es que las empresas interpretan de distintas maneras los requisitos de garantía de edad. La norma IEEE para un marco de servicios digitales adecuados a cada edad es un medio internacional sólido para cumplirlos. Sin embargo, sus requisitos plantean varios obstáculos a las empresas de IoT. En primer lugar, no existe una orientación estándar sobre cómo determinar y verificar quién es menor y quién no. En segundo lugar, las grandes plataformas suelen definir la edad de los usuarios según sus propios criterios. Algunas incorporan IA de detección que recopila datos de comportamiento para determinar la edad de los usuarios. En tercer lugar, sigue siendo difícil prever cuántas determinaciones no previstas o erróneas podrían producir las tecnologías de IA.
Medidas para diseñar un marco de gobernanza del IoT centrado en la infancia
En la era de Matter, cuando un refrigerador inteligente puede interactuar con otro, los sistemas IoT compartirán y analizarán por defecto grandes cantidades de información sobre la vida cotidiana de los niños. Por tanto, el diseño responsable de dispositivos IoT conectados para el hogar debe tener en cuenta el desarrollo de los niños. Esto requiere un enfoque integral para idear de forma responsable sobre los efectos interconectados del IoT con IA en los hogares.
Los efectos del IoT conectado son circulares para los niños. Su uso determinará: a) el desarrollo moral y psicológico de los niños; b) cómo pueden generar una prosperidad económica ampliamente compartida; y c) la sostenibilidad de nuestro planeta. Se necesita un diálogo que incluya de manera significativa a los jóvenes para definir cómo debería ser una gobernanza de la IA para el IoT conectado, centrada en la infancia y orientada al futuro.
Los métodos de preentrenamiento de algoritmos con datos sintéticos o las medidas para la transmisión de datos en tiempo real que recurren a bases de datos de código abierto como BLOOM podrían ayudar a mitigar mejor los sesgos.
Los dispositivos IoT que utilizan plataformas de IA basadas en un modelo económico empresarial basado en las partes interesadas, como el que ofrece Ecosia, podrían tener un efecto positivo en los niños y las comunidades locales. Los dispositivos IoT también podrían construirse con hardware de computación óptica para consumir poca energía. Su protección contra la ciberdelincuencia podría beneficiarse de una acción concertada que se vea reforzada por una mayor concienciación de los niños.
La combinación de medidas similares como pilares de un marco de gobernanza del IoT centrado en la infancia y orientado al futuro también puede beneficiarse de la Guía de políticas de UNICEF sobre IA y niñez y del Kit de herramientas del Foro Económico Mundial sobre IA para la infancia para avanzar. Un marco así puede dar lugar a dispositivos IoT que tengan en cuenta la perspectiva de los jóvenes y a una participación juvenil más significativa.
