Este año, la World Wide Web celebra su 30.º aniversario. Durante este tiempo, internet ha transformado todas las facetas de nuestras vidas, desde la forma en que aprendemos y trabajamos hasta el impulso del crecimiento económico y el aumento del acceso a los mercados.
Este año también se cumple el 30.º aniversario de la Convención sobre los Derechos del Niño de la ONU, el tratado más ampliamente ratificado del mundo. Al conmemorar ambos aniversarios, es importante hacer balance de cómo esta tecnología transformadora afecta a los niños. Sus beneficios son numerosos: proporciona a los niños acceso a información, educación y entretenimiento, y constituye una excelente herramienta de comunicación. Pero, como cualquier tecnología, puede utilizarse indebidamente y exponer a los niños a riesgos y daños. Debemos preguntarnos: ¿es hoy el mundo digital un entorno seguro para los niños?
Hoy, más del 50 % de los niños del mundo sufren violencia cada año. En 2015, todas las naciones del mundo adoptaron los Objetivos de Desarrollo Sostenible (ODS), que representan un compromiso global con un futuro mejor para todos. La meta 16.2 de los ODS exige poner fin a todas las formas de violencia contra los niños para 2030; la meta 9.C pide ampliar la banda ancha para llegar a las personas no conectadas en el mundo en desarrollo, donde vive la mayoría de los niños del mundo.
Para alcanzar estas dos metas, necesitamos con urgencia dar prioridad a la seguridad de los niños en línea. Cada día, los niños están expuestos a más atrocidades en línea y observamos cómo la conectividad facilita la vulneración de los derechos de la infancia. Es nuestro deber encontrar la manera de mantener a nuestros niños más seguros en línea sin privarlos del acceso a los beneficios del mundo digital.
¿Qué estamos haciendo para que los niños estén más seguros en línea?
Algunos países han establecido un marco regulatorio para controlar el espacio en línea, similar a la regulación de los espacios fuera de internet. Reino Unido y Australia lideran la carrera por proteger a los niños en línea. Han desarrollado un código de seguridad desde el diseño y por defecto que las empresas deben cumplir, han creado condiciones de uso adaptadas a los niños y han designado comisionados especiales encargados de proteger los derechos de la infancia en el espacio digital.
Los expertos del sector han desarrollado diversas iniciativas y herramientas para orientar los procesos de toma de decisiones de los países y las empresas hacia un espacio en línea más seguro. Algunas de estas iniciativas son el marco del Modelo de Respuesta Nacional de WePROTECT y los Principios de Derechos del Niño y Empresa (CRBP, por sus siglas en inglés), desarrollados por Save the Children, UNICEF y el Pacto Mundial de la ONU, así como las directrices de Protección de la Infancia en Línea de la UIT, por citar solo algunas.
Empresas como NetClean han desarrollado herramientas que ayudan a detectar imágenes y vídeos de abuso sexual infantil en los equipos de los entornos empresariales. La ONG Thorn ha desarrollado una herramienta que puede desplegarse directamente en la plataforma de una empresa para identificar, eliminar y denunciar material de abuso sexual infantil (CSAM, por sus siglas en inglés). Thorn también organiza hackatones para combatir el abuso y la explotación sexual infantil. Otro producto, Griffeye, utiliza inteligencia artificial (IA) para analizar contenido no clasificado previamente, compararlo con las características de contenido CSAM conocido y señalar los elementos sospechosos para que un agente los revise, lo que contribuye a agilizar las investigaciones.
Por otra parte, Microsoft ha desarrollado PhotoDNA, una herramienta que genera valores hash de imágenes y los compara con una base de datos de valores hash ya identificados y confirmados como CSAM. Facebook, Snapchat, Twitter y Google trabajan estrechamente con las fuerzas del orden, los gobiernos y las ONG para desarrollar herramientas y enfoques que combatan el abuso y la explotación infantil en línea.
¿Estamos haciendo lo suficiente?
A principios de este año, The Economist Intelligence Unit lanzó el Índice Out of the Shadows para medir la respuesta de 60 países frente al abuso y la explotación sexual infantil. Esta nueva herramienta también analiza la respuesta de la industria de las TIC frente a la violencia sexual infantil en línea. El índice y la encuesta realizada a algunos de los comisionados de banda ancha indican que no estamos haciendo lo suficiente: ningún país cuenta con un sistema perfecto de protección infantil en línea.
La cantidad de material de abuso sexual infantil en internet crece cada año y, solo el año pasado, las empresas tecnológicas notificaron 45 millones de fotos y vídeos que representaban abusos contra menores. Ni siquiera sabemos qué proporción del total de imágenes representan.
Una investigación reciente de The New York Times sugiere que «muchas empresas tecnológicas no supervisaron adecuadamente las imágenes de abuso sexual en sus plataformas o no cooperaron lo suficiente con las autoridades cuando las detectaron». Lamentablemente, en la mayoría de los países no existe la obligación de denuncia para las empresas.
¿Qué podemos hacer para que el mundo digital sea más seguro para todos los niños?
Sobre la base de las recomendaciones del nuevo informe sobre seguridad infantil en línea, necesitamos:
un marco jurídico sólido, eficaz y exigible que proteja los derechos de la infancia;
una cultura empresarial que promueva activamente la seguridad infantil;
la educación de los niños sobre sus derechos en línea y fuera de línea;
la educación de los niños, los padres, la familia, los cuidadores, los educadores, los profesionales de la salud y los líderes comunitarios sobre cómo mantenerse seguros en el mundo digital;
productos y servicios en línea adecuados a la edad para mitigar los riesgos (esto incluye todas las soluciones que utilizan los niños).
Debemos tener presente que los niños y los autores de delitos no son virtuales, sino personas reales. También debemos apoyar a los organismos encargados de la aplicación de la ley con soluciones tecnológicas y financiación, para que puedan rescatar a más niños y detener a más autores de delitos con la mayor rapidez posible.
Necesitamos un enfoque multifacético para mejorar la seguridad infantil en línea, con la cooperación de todas las partes interesadas. También se requieren más apoyo, inversión, compromiso y conocimientos técnicos por parte del sector privado.
Tenemos la oportunidad y la obligación de salvar a millones de niños de sufrimientos innecesarios. Si no lo hacemos, nuestras sociedades no podrán aprovechar al máximo la transformación digital. Un entorno en línea más seguro solo existirá si todos cumplen su papel.
