La mayoría de los niños que usan internet experimenta alguna forma de daño sexual en línea.
La mayor parte de la protección infantil en línea se centra en salvaguardar la experiencia de los usuarios en la fase intermedia.
Se necesita un enfoque más integral, que incorpore las consecuencias posteriores.
Dado que uno de cada tres usuarios de internet es menor de 18 años, el abuso sexual infantil en línea se ha convertido en un problema mundial de seguridad pública y ha generado una generación de víctimas. La Alianza Mundial WeProtect estima que un asombroso 54 % de quienes usaban internet regularmente durante su infancia (y ahora tienen entre 18 y 20 años) fueron víctimas de al menos una forma de daño sexual en línea. El estigma que aún rodea a la explotación y los abusos sexuales infantiles hace probable que lo que sabemos sea solo la punta del iceberg, y que nuestras estadísticas subestimen la prevalencia del problema.
Aunque son sumamente alarmantes, la explotación y los abusos sexuales son solo una forma de contenido o conducta ilegal o dañina que afecta a los jóvenes en línea. El ciberacoso, la suplantación de identidad, el troleo, el hostigamiento, la exposición al discurso de odio, la incitación a autolesionarse, el robo de identidad y el phishing dirigido a niños también van en aumento. Las consecuencias van desde relatos aleccionadores hasta tragedias desgarradoras. Por ejemplo, Italia ordenó a TikTok bloquear a cualquier persona cuya edad no pudiera confirmarse, tras la muerte de un niño de 10 años que intentó un reto peligroso. Apenas estamos empezando a comprender que los jóvenes, independientemente de su género, son susceptibles a los trastornos alimentarios cuyas tendencias pueden verse amplificadas por las redes sociales.
Hacer que la web sea segura para los niños
Nunca antes la seguridad y la prevalencia de los peligros en línea habían ocupado un lugar tan visible y central en la escena mundial, tanto para los gobiernos como para la industria tecnológica, las fuerzas del orden y la sociedad civil. Desde las tragedias que afectan a jóvenes y familias de todo el mundo hasta las nuevas leyes y normativas, o las que se prevé aprobar en diversas jurisdicciones para evitar estos sucesos, la seguridad en línea ha llegado a un punto de inflexión. En conjunto, las empresas tecnológicas operan en una época de mayores expectativas de seguridad por parte de todos los sectores y actores interesados.
Australia fue pionera al crear la primera agencia gubernamental de «eSafety» del mundo; el Reino Unido (proyecto de ley sobre seguridad en línea) y la UE (Ley de Servicios Digitales y Ley de Mercados Digitales) ya han propuesto reformas legislativas de gran alcance, mientras que en Estados Unidos crece el impulso bipartidista a favor de diversas propuestas para reforzar la seguridad y la privacidad de los niños en línea. En Estados Unidos ya existen normativas destinadas a proteger a los menores en internet. La Ley de Protección de la Privacidad Infantil en Línea (COPPA) fue promulgada hace décadas por el presidente Bill Clinton, pero ahora se considera ampliamente insuficiente. Francia adoptó recientemente un protocolo diseñado para proteger a los menores de la exposición a contenido pornográfico. El Reino Unido ha aplicado su Código de Diseño Adecuado a la Edad, que muchas jurisdicciones de todo el mundo buscan emular, al menos en parte. Los legisladores alemanes introdujeron cambios de gran alcance en la Jugendschutzgesetz (Ley de Protección de la Juventud) del país y, en muchas de estas leyes y propuestas, las plataformas que no cooperen se exponen a multas de hasta millones de euros e incluso a penas de cárcel para sus directivos.
Algunas medidas y principios regulatorios, como la seguridad desde el diseño, ya han llevado a grandes actores del mercado como Snapchat, YouTube y TikTok a implementar controles adaptados a los jóvenes, y Instagram y Apple han seguido su ejemplo. Son medidas encomiables, pero los niños aún pueden eludir fácilmente las protecciones, por ejemplo, indicando una fecha de nacimiento anterior al registrarse.
El aprendizaje automático y la detección mediante inteligencia artificial, junto con la necesaria moderación humana, son fundamentales para proteger a los jóvenes del contenido y las actividades dañinos en línea. Sin embargo, probablemente esté fuera de lugar cualquier entusiasmo por las promesas inmediatas de estas herramientas. Por ejemplo, el filtrado de contenido al subirlo y la detección automatizada de contenido afrontan graves desafíos éticos , entre ellos, amenazas a la libertad de expresión. El metaverso también planteará, sin duda, nuevos desafíos de seguridad.
Ya es hora de diseñar un enfoque más inteligente que sitúe en el centro las experiencias en línea de los usuarios menores de edad. Hasta ahora, los reguladores y la industria tecnológica se han centrado principalmente en las etapas intermedias de las experiencias en línea de los jóvenes: subir contenido, acceder a él y detectarlo. Pero una de las claves para crear un entorno más seguro para los niños también puede estar en una etapa posterior: ¿qué ocurre después de que los menores encuentran contenido dañino en línea?
Seguridad de principio a fin
Una opción: un proceso integral para la seguridad de los niños como usuarios. Además de ayudar a quienes han sido víctimas y están en peligro, esto podría desincentivar desde el principio las conductas dañinas en línea. Para lograrlo, debemos reconocer que ayudar a los jóvenes que han sido víctimas de daños en línea es una responsabilidad compartida entre diversos actores, incluidas las plataformas tecnológicas, las familias, los padres, los cuidadores, los gobiernos, las fuerzas del orden, los educadores, la sociedad civil y los propios adolescentes y jóvenes. Todos los sectores tienen funciones específicas y, juntos, mediante la colaboración y las alianzas, podemos convertir internet en un entorno más seguro.
Una primera medida debería ser proporcionar a los niños herramientas y recursos para que puedan denunciar el ciberacoso o el contenido dañino al que hayan estado expuestos, protegiendo su privacidad y ofreciéndoles la asistencia adecuada. Los jóvenes deben conocer y saber cómo contactar las líneas telefónicas de ayuda de sus respectivos países, que pueden actuar en su nombre para retirar de las plataformas y los servicios el contenido que infrinja las normas y proporcionarles otros recursos. Entre ellas se encuentran el Centro Nacional para Niños Desaparecidos y Explotados de Estados Unidos, la Internet Watch Foundation del Reino Unido y Telefono Azzurro de Italia. En Francia, el 3018 es el número nacional francés contra la violencia en línea y el ciberacoso, gestionado por la ONG e-Enfance. e-Enfance lanzó recientemente una innovadora aplicación para teléfonos que funciona con una plataforma especializada de confianza y seguridad, diseñada específicamente para facilitar las denuncias de niños y víctimas. ONG internacionales como WeProtect e INHOPE podrían promover la disponibilidad de estos servicios en distintos países.
En segundo lugar, debemos tener presente que los usuarios más jóvenes suelen beneficiarse del apoyo de sus familias, padres, cuidadores, tutores, amigos y educadores. Por suerte, hay una gran variedad de materiales impresos y en línea, desde libros para colorear hasta planes de enseñanza en línea y recursos de aprendizaje electrónico, para apoyar las actividades de los menores en internet. Hay programas de filtrado de contenido y herramientas de supervisión en tiempo real que protegen la privacidad, como SafeToNet, para uso doméstico; las escuelas y los docentes pueden considerar herramientas como CyberSafeKids. Pero esto no basta. También es esencial invertir en la educación de los jóvenes para desarrollar su pensamiento crítico y sus aptitudes analíticas, y ayudarles así a evaluar eficazmente los riesgos y las oportunidades en línea.
En tercer lugar, el papel de las fuerzas del orden también es fundamental. Los servicios canadienses NeedHelpNow y CyberTip ya están en funcionamiento; el Reino Unido también ha puesto en marcha iniciativas. Todos contribuyen a proteger a los niños y jóvenes mientras crecen, literalmente, en línea.
Por último, los daños en línea no pueden combatirse únicamente en internet. El contacto humano en la vida real puede ayudar enormemente a los sobrevivientes. Iniciativas como Team HOPE de NCMEC —que conecta a las víctimas con voluntarios que han vivido el trauma de tener un hijo desaparecido o explotado sexualmente, o de haber sido ellos mismos un niño desaparecido o víctima de explotación sexual— pueden marcar la diferencia.
¿Qué está haciendo el Foro Económico Mundial para mejorar la inteligencia digital de los niños?
Integrar y coordinar los enfoques que ya están disponibles en un proceso integral de seguridad infantil para usuarios tiene un potencial considerable. La colaboración entre empresas, gobiernos y sociedad civil puede ayudar a mitigar los daños en línea, atender a quienes se ven afectados, fomentar la participación de los usuarios y unirnos a todos en una misión común: proteger y hacer crecer a una generación futura más sana, segura y equitativa.
