Ciberseguridad: Por qué los datos son vitales para proteger a los niños en Internet

Hoy en día, la vida de los niños es una red interconectada de experiencias presenciales y digitales que se alimentan y fusionan a la perfección. Si bien las tecnologías digitales han abierto a los niños nuevos mundos que difícilmente podríamos haber imaginado cuando crecíamos, al mismo tiempo estas tecnologías también los han expuesto a amenazas y peligros que van mucho más allá de la violencia infantil tradicional. Esto incluye el acoso y la violencia en línea, la exposición a contenidos nocivos en línea -como mensajes violentos, sexuales, de autolesión y de odio-, así como preocupaciones en torno al uso poco ético de sus datos digitales.

Sin embargo, una de las amenazas más graves para los niños es el alarmante crecimiento de la explotación y el abuso sexual infantil en línea.

Niñas y niños de todo el mundo son seducidos para compartir imágenes íntimas, obligados a realizar actos sexuales explícitos y a compartir en línea imágenes de sus abusos sexuales, todo lo cual causa un daño devastador en la vida de los niños y en las sociedades en general.

Disrupting Harm, un proyecto pionero de investigación multinacional a gran escala sobre las experiencias de los niños con la tecnología digital, destaca que entre el 1 y el 20% de los niños (de 12 a 17 años) fueron víctimas de explotación y abuso sexual en 2020 en 13 países de África Oriental y Meridional y del Sudeste Asiático. A escala de la población general de niños usuarios de Internet, estas estimaciones representan millones de niños en cada país. En un nuevo informe alarmante, la Internet Watch Foundation (IWF) afirma que las imágenes de abuso sexual de niños de primaria han aumentado un 1000% desde 2019.

La reciente oleada de medidas legislativas progresistas por parte de los líderes mundiales es un intento de responder a los retos existentes y emergentes de la nueva era digital. La propuesta de legislación de la UE para prevenir y combatir la explotación y abuso sexual infantil en línea, la Ley de Servicios Digitales de la UE, el proyecto de ley de seguridad en línea del Reino Unido, la Ley de Código de Diseño Adecuado a la Edad (Age-Appropriate Design Code Act) de California y el Comisionado de Seguridad Electrónica (e-Safety Commissioner) de Australia, que es la primera agencia gubernamental del mundo creada para mantener a la gente segura en línea, son esfuerzos para dar forma a los contornos de un mundo que cambia rápidamente. Establecen normas estrictas para proteger a los niños en línea a través de la acción política e incentivan a la industria tecnológica a dar prioridad a la seguridad infantil.

Como se expone en el libro blanco del Foro Económico Mundial "Principios Globales sobre Seguridad Digital", la creación de un ecosistema digital más seguro requiere un enfoque respetuoso con los derechos, que exija la adhesión a la legislación internacional sobre derechos humanos y equilibre derechos humanos como la seguridad, la privacidad y la libertad de expresión, entre otros.

Es vital reconocer que la seguridad digital requiere una serie de deliberaciones que equilibren consideraciones jurídicas, políticas, éticas, sociales y tecnológicas. Estas decisiones deben basarse en la legislación y los principios vigentes en materia de derechos humanos, que reconocen que los derechos humanos fundamentales son indivisibles.

Para crear un ecosistema digital más seguro, los reguladores deben colaborar con otros agentes del ecosistema, lo que requiere la cooperación de múltiples partes interesadas. Cualquier medida adoptada debe basarse en la necesidad, la proporcionalidad y la legalidad, y las decisiones deben tomarse con una comprensión global de los intereses y preocupaciones de las distintas partes interesadas.

El hecho es que la privacidad y la seguridad están intrínsecamente interconectadas y, la mayoría de las veces, se refuerzan mutuamente. En muchos casos, la privacidad de los usuarios es un requisito previo para la seguridad. Sin embargo, algunas medidas de privacidad pueden complicar la seguridad de los niños.

Por ejemplo, el polarizante debate sobre la encriptación de extremo a extremo (E2EE) de las comunicaciones digitales ignora a menudo las complejidades de la situación y el hecho de que existen preocupaciones legítimas a ambos lados de la "división E2EE". Si bien el debilitamiento de la E2EE podría poner en peligro la confidencialidad y la seguridad de las comunicaciones, también obstaculizaría gravemente los esfuerzos para controlar y eliminar el material de abuso sexual infantil en línea e identificar a los delincuentes.

Los esfuerzos por combatir la explotación y el abuso sexual de menores en línea y garantizar una experiencia segura y adecuada a la edad han llevado al desarrollo de nuevas tecnologías de protección de la intimidad -como el escaneado del lado de clientes, que escanea el contenido de las comunicaciones para identificar contenidos objetables, y diversas herramientas de estimación de la edad en los dispositivos. Pero su impacto en la privacidad de los usuarios sigue siendo motivo de preocupación. La cuestión clave es cómo equilibrar los esfuerzos por detectar y actuar sobre los contenidos nocivos e ilícitos y proteger la intimidad en caso de conflicto.

Los datos pueden ayudarnos a hacer frente a esta tensión: son un activo fundamental para impulsar la toma de decisiones con conocimiento de causa y deben tener prioridad sobre los planteamientos emocionales o ideológicos.

En primer lugar, necesitamos datos fiables sobre las experiencias de los niños en el mundo en línea, así como sobre los factores contextuales que los rodean, para garantizar que todas las partes de la sociedad, incluidos los gobiernos y la industria, puedan responder conjuntamente a las amenazas emergentes.

En la actualidad, no se sabe muy bien cómo se relacionan los niños con la tecnología digital en países de todo el mundo, y hay pocos datos sobre qué formas de abuso en línea sufren, quiénes son más vulnerables, quiénes son los delincuentes habituales y si los niños saben cómo reconocer y denunciar el abuso en línea. Los proyectos a gran escala como Disrupting Harm demuestran el papel de los datos y las pruebas en la generación de nuevas perspectivas vitales sobre la explotación sexual en línea, que son cruciales para abordar el problema.

En segundo lugar, necesitamos más datos sobre la prevención y la respuesta, en particular sobre los sistemas nacionales de protección de la infancia y la forma en que responden a la escala rápidamente creciente del problema, y si estas políticas y prácticas se adaptan a la era digital.

Por último, necesitamos datos que nos ayuden a aprovechar las tecnologías de vanguardia para superar las posturas polarizadas sobre privacidad y seguridad. Por ejemplo, la decisión sobre la aplicación de tecnologías de escaneado del lado del cliente para identificar material de abuso sexual infantil podría tomarse teniendo en cuenta datos objetivos como: i) los beneficios en términos de número de material nocivo identificado y eliminado; ii) la posibilidad de procesar los abusadores, evitando así la reincidencia de delitos; iii) la proporción de falsos positivos; y iv) los casos de uso no deseado de la tecnología.

Desafortunadamente, rara vez oirás a la gente utilizar estas métricas en los debates en torno a la privacidad y la seguridad, lo que dificulta aún más los avances en este ámbito.

Junto con sus socios, la iniciativa Safe Online de End Violence se propone abordar este problema. El reciente evento Safe Digital Futures: Data for Digital Rights, celebrado recientemente en el Parlamento Europeo, puso de relieve que la falta de una recopilación sistemática de datos y de infraestructuras para el análisis de los riesgos y daños para los niños en línea sigue siendo un obstáculo fundamental para garantizar una Internet segura para los más jóvenes. Los datos sólidos y las plataformas público-privadas de múltiples partes interesadas, como la Coalición Mundial para la Seguridad Digital del Foro, son fundamentales para impulsar el programa de seguridad infantil en línea.

El mundo observa con expectación las innovaciones que se avecinan en el horizonte tecnológico y que allanan el camino a cambios transformadores en el mundo en línea. Los retos del futuro pueden ser más complejos que los simples chatbots que profesan su amor por los humanos y pueden afectar a los niños de maneras que nunca imaginamos. Las nuevas tecnologías son apasionantes, pero no podemos permitirnos volver a ponernos al día.

La formulación de políticas por parte de los reguladores -así como las decisiones de las empresas sobre las características de los productos, la moderación de contenidos y conductas, y otras áreas- requiere una comprensión profunda de las implicaciones para todas las partes interesadas, especialmente los niños, respaldada por datos. Y la única manera de que esto ocurra es mediante la colaboración público-privada con una mentalidad abierta.