Con más de 175 000 niños conectándose a internet cada día en todo el mundo, un mayor número de menores experimentará los beneficios y riesgos de navegar por la red.
Existen importantes lagunas en la lucha contra el material de abuso sexual infantil en las plataformas digitales.
Con motivo del Día de Internet Segura 2023 (7 de febrero), analizamos las prácticas de las empresas que podrían mejorar la seguridad de los niños en línea.
Con más de 175 000 niños conectándose a internet cada día en todo el mundo, un mayor número de niños experimentará tanto los beneficios como los riesgos de navegar por la red. Un estudio de Common Sense Media revela que los niños a partir de 8 años utilizan las redes sociales más que nunca. El aumento del uso de internet entre los niños se ha visto acompañado paralelamente por un aumento del abuso y la explotación de menores en línea; sorprendentemente, se ha producido un aumento del 360 % de las imágenes abusivas «autogeneradas» desde marzo de 2020, según la Internet Watch Foundation. Dado que es poco probable que esta tendencia se revierta si la industria y los gobiernos no adoptan medidas adicionales, es urgente crear mecanismos de rendición de cuentas, proactividad y transparencia en las prácticas existentes para abordar este abuso.
En virtud de la Ley de Seguridad en Línea de Australia de 2021, los proveedores de servicios en línea están obligados a informar sobre cómo aplican las Expectativas Básicas de Seguridad en Línea (BOSE) cada vez que el Comisionado de eSafety solicite dichos informes. Sobre la base del primer conjunto de respuestas de la industria, publicado por eSafety en diciembre de 2022, ahora conocemos mejor las medidas que adoptan las plataformas para proteger a los niños del abuso y la explotación en internet.
Con motivo del Día de Internet Segura, el 7 de febrero de 2023, destacamos algunas de las principales lagunas en la lucha contra el material de abuso sexual infantil (CSAM) en las plataformas digitales, así como algunas de las posibles soluciones para cerrar estas brechas:
¿Cómo garantiza el Foro Económico Mundial el desarrollo ético de la inteligencia artificial?
Detección de nuevo CSAM
Si bien muchas empresas utilizan tecnologías de coincidencia de hash (hash matching) para detectar CSAM existente CSAM, menos proveedores detectan nuevo material. Las herramientas de coincidencia de hash solo pueden impedir el intercambio continuo de contenidos previamente identificados y confirmados. Por otro lado, la inteligencia artificial («clasificadores») puede utilizarse para identificar posibles contenidos que probablemente representen el abuso de un menor, buscando marcadores clave. De este modo, el uso de la IA puede ayudar a impedir la difusión del CSAM en el momento de su creación, antes de que se clasifique o registre en cualquier base de datos. El valor de esto es inmenso.
Herramientas como el clasificador de Thorn (que, según informa Thorn, organización sin ánimo de lucro centrada en la protección infantil, tiene una tasa de precisión del 99 %) es un ejemplo de tecnología capaz de detectar nuevo CSAM. Los clasificadores de este tipo pueden ayudar a priorizar los casos para su revisión y verificación humanas, como parte del proceso general de lucha contra este material ilegal.
Detección de CSAM en transmisiones en directo y contenidos de vídeo
Los proveedores de servicios en línea todavía están desarrollando procesos, herramientas y medidas para detectar el abuso y la explotación sexual infantil en transmisiones en directo o videollamadas/videoconferencias. Investigación de WeProtect Global Alliance y Technology Coalition ha revelado que solo el 30 % de las empresas encuestadas utiliza clasificadores de CSAM basados en vídeo. Y solo el 22 % utiliza clasificadores para detectar CSAM en contextos de transmisión en directo.
En el caso del contenido sexual para adultos, se utilizan tecnologías innovadoras para ayudar a detectar contenidos infractores en vídeos. Teleperformance, por ejemplo, emplea una herramienta que puede medir automáticamente la duración y el alcance de la desnudez en un clip de vídeo, para ayudar a los moderadores a tomar decisiones más eficaces sobre si el nivel de exposición infringe las políticas establecidas de la plataforma.
La adopción de tecnologías de moderación para contenidos de audio y vídeo en transmisiones en directo y videoconferencias puede tener un enorme impacto en la lucha contra el CSAM y otro material ilegal, dada la explosiva expansión de este formato de contenido.
Detección del grooming
El grooming hace referencia a las «tácticas que los abusadores despliegan a través de internet para explotar sexualmente a los niños.» En una entrada de blog, Thorn describe cómo «El grooming se basa en explotar las inseguridades y la confianza, y en un entorno en línea la confianza puede generarse mediante diversos métodos». Además, explica que «cualquier contenido producido como resultado del grooming puede utilizarse después para amenazar y chantajear a un niño, aprovechando el miedo del menor a meterse en problemas, para obligar a la víctima a realizar más actos, que pueden volverse cada vez más explícitos».
En lo que respecta a la detección de conductas depredadoras, incluido el grooming, solo el 37 % de las empresas encuestadas utiliza clasificadores de IA para detectar de forma proactiva esta actividad en sus plataformas. Dadas las diversas formas y la gravedad de las prácticas de grooming, puede resultar más difícil definir umbrales para marcar y revisar dicho contenido de manera escalable.
La detección podría reforzarse mediante mecanismos claros de denuncia que permitan a los usuarios señalar dichos contenidos infractores. «Son fundamentales para la seguridad desde el diseño y para las Expectativas Básicas de Seguridad en Línea las formas fácilmente localizables de denunciar abusos. Si no se detecta y no puede denunciarse, nunca podremos comprender realmente la verdadera magnitud del problema», afirma Julie Inman Grant, comisionada australiana de eSafety.
Más allá de las tecnologías de detección del grooming o del CSAM, los proveedores también podrían aprovechar la tecnología de verificación de edad para ayudar a evitar contactos no deseados entre adultos y menores. Además, las indicaciones de seguridad que ofrecen vías de ayuda para quienes puedan estar buscando este material constituyen una forma de abordar este comportamiento desde la prevención: un chatbot desarrollado recientemente por la IWF y The Lucy Faithfull Foundation pretende precisamente eso. Según la información publicada en WIRED, existen «algunas pruebas de que este tipo de intervención técnica puede marcar la diferencia para desviar a las personas de posibles materiales de abuso sexual infantil y reducir el número de búsquedas de CSAM en línea». Este tipo de innovaciones son fundamentales para impulsar la reforma de conductas y aplicar enfoques centrados en la seguridad desde el diseño. Estas intervenciones, centradas en abordar la causa fundamental de dicho comportamiento, son cruciales para prevenir la victimización y la revictimización de los niños.
No se puede exagerar la importancia de abordar de forma proactiva los daños en línea; cuanto más eficaz y rápidamente se puedan identificar y gestionar correctamente los contenidos que vulneran la seguridad infantil u otras políticas de las plataformas, menor será probablemente el impacto negativo para la víctima. El reciente liderazgo intelectual producido por MIT Technology Review Insights, «Humans at the center of effective digital defense», en colaboración con Teleperformance, destacó la creciente importancia de la confianza y la seguridad. Mientras que la investigación de Gartner sugiere que casi un tercio (30 %) de las grandes empresas considerará los servicios de moderación de contenidos generados por los usuarios una prioridad máxima para 2024.
Para innovar en este ámbito, es fundamental que la tecnología y las personas trabajen más estrechamente juntas. En el contexto de la moderación de contenidos, el documento de MIT Technology Review Insights pone de relieve cómo las personas ayudan a cerrar el «bucle de retroalimentación del aprendizaje automático» al señalar contenidos que escapan al algoritmo. A continuación, la IA utiliza esos datos para tomar decisiones más precisas en el futuro. Julie Owono, directora ejecutiva de Internet Sans Frontières (Internet sin Fronteras) y afiliada del Berkman Klein Center for Internet & Society de Harvard, predice en el documento de MIT Technology Review Insights: «Las normas y prácticas de moderación de contenidos, que incluyo bajo el paraguas de la gobernanza de contenidos, evolucionarán. Bajo la creciente presión de usuarios, anunciantes y gobiernos en favor de espacios en línea seguros, es posible que veamos surgir normas más comunes y, quizás, procedimientos comunes. Esto requerirá un enfoque multipartito en el que la industria, la sociedad civil, los gobiernos y el mundo académico colaboren».
Proteger a los niños en línea es el punto de partida en el que puede comenzar esta colaboración para trazar el camino hacia una mejor gobernanza de contenidos y un enfoque proactivo de la confianza y la seguridad.
Con motivo del Día de Internet Segura 2023, Teleperformance se suma a la creciente lista de partes interesadas que trabajan para mejorar la seguridad digital, con el poder de sus personas, su tecnología y su excelencia en procesos. Porque sabemos que cada interacción importa.
Descubra más sobre este tema con la Coalición del Foro Económico Mundial para la Seguridad Digital
