En 2021 se encontraron más de 250.000 URL que contenían o anunciaban material de abuso sexual infantil, un aumento del 64 % respecto de 2020.
Se han desarrollado diversas tecnologías para combatir los daños en línea.
Al adoptar estas tecnologías más recientes, las empresas pueden dar prioridad a la confianza y la seguridad de sus usuarios en línea.
La magnitud de los daños en línea está creciendo y los actores maliciosos se están volviendo más sofisticados al perpetrarlos. La Internet Watch Foundation (IWF), que trabaja para combatir el material de abuso sexual infantil (CSAM, por sus siglas en inglés) en línea, encontró 252.194 URL que contenían o anunciaban CSAM en 2021, un aumento del 64 % respecto de 2020.
En cuanto al contenido terrorista, se han utilizado plataformas para retransmitir en directo atentados terroristas como los de la masacre de Christchurch, la sinagoga de Halle y, más recientemente, la matanza de Buffalo. También ha habido un preocupante aumento del ciberacoso, y Estados Unidos registra la tasa más alta de acoso racista en línea.
¿Qué está haciendo el Foro Económico Mundial para mejorar la seguridad en línea?
Al mismo tiempo, aumenta el tiempo que se pasa en línea, lo que puede incrementar la exposición a los riesgos para la seguridad digital. Por ejemplo, el regulador británico Ofcom descubrió que el 67 % de las personas de entre 13 y 24 años había visto contenido potencialmente dañino en línea, aunque solo el 17 % lo había denunciado. La tecnología para detectar estos daños de forma proactiva y prevenir la exposición está cobrando cada vez más importancia, dada la considerable brecha entre las personas expuestas a este contenido y quienes lo denuncian en las plataformas. A continuación se presentan algunas de las tendencias tecnológicas más recientes que están dando forma al futuro de la seguridad digital:
1. Análisis en el dispositivo del cliente
El análisis en el dispositivo del cliente (CSS, por sus siglas en inglés)se refiere, en términos generales, a sistemas que analizan el contenido de los mensajes (por ejemplo, imágenes, texto o vídeo) para buscar coincidencias con una base de datos de contenido ilegal u objetable antes de que el mensaje se envíe al destinatario previsto a través de un canal cifrado. Un ejemplo de ello es el software antivirus que se utiliza para evitar que el ordenador se infecte con malware.
En los debates recientes sobre la lucha contra el CSAM y otros materiales ilegales, el CSS se ha convertido en un tema candente, ya que algunas personas lo consideran una forma de encontrar este material sin alterar la tecnología que sustenta el cifrado de extremo a extremo (E2EE, por sus siglas en inglés). Hay dos métodos principales de CSS: el primero se realiza en el dispositivo y el segundo, en un servidor remoto.
Ian Stevenson, director ejecutivo de Cyacomb y presidente de la Online Safety Tech Industry Association (OSTIA), afirma: «En los últimos meses hemos visto exploraciones de muy buena calidad sobre las posibilidades de las tecnologías de análisis en el dispositivo y de computación dividida o multipartita. Esta tecnología no altera la parte cifrada del sistema, por lo que mantiene intactas todas sus protecciones. No existe ninguna “puerta trasera”. En cambio, estas tecnologías actúan como un control fronterizo del contenido que entra y sale del ámbito cifrado, y lo hacen de una manera que protege la privacidad del usuario. Ningún tercero puede identificar, rastrear ni cotejar el contenido que se envía o se recibe».
Sin embargo, muchas organizaciones, como Access Now y la Internet Society, han expresado su preocupación por el CSS. Access Now escribió una carta a la Comisión Europea para señalar los riesgos para la privacidad, la seguridad y la libertad de expresión. Stevenson y otros expertos (incluidos los responsables de GCHQ y NCSC) no comparten estas preocupaciones. Stevenson afirma que estas capacidades técnicas para cotejar y bloquear CSAM conocido ofrecen una excelente protección de la privacidad de los usuarios, y sostiene que la filtración de metadatos de las aplicaciones E2EE de uso generalizado representa una amenaza para la privacidad mucho mayor que estos sistemas de reciente desarrollo.
Al abordar los temores de que ciertos gobiernos pudieran utilizar tecnologías CSS para restringir la libertad de expresión o identificar a disidentes, sugiere que estos riesgos deben considerarse en el contexto de las amenazas existentes, y no de forma aislada. «Es poco probable que a los gobiernos autocráticos empeñados en bloquear cierto contenido les preocupe demasiado proteger la privacidad y, por tanto, podrían imponer fácilmente el uso de varias soluciones que ya existen. El riesgo adicional que supone desplegar estas nuevas tecnologías es muy pequeño, y el beneficio potencial para la sociedad, enorme», afirma.
La comisionada de eSafety de Australia, Julie Inman Grant, sostiene que es necesario considerar la seguridad, la privacidad y la protección como los tres pilares de la confianza digital. «Es importante equilibrar la seguridad con la privacidad y la protección: no son excluyentes, y las tensiones saludables entre estas prioridades pueden conducir a resultados mucho mejores... Pero seguir contraponiendo la privacidad a la seguridad, como si fueran valores incompatibles, es no entender en absoluto la cuestión: en muchos de los casos que nos han comunicado, sobre todo en el ámbito del abuso mediante imágenes, la privacidad y la seguridad se refuerzan mutuamente», afirma.
2. Modelos de inteligencia artificial y procesamiento del lenguaje natural (PLN)
Los sistemas de inteligencia artificial (IA) pueden ayudar a aumentar la velocidad y la escalabilidad de la moderación de contenidos mediante la automatización de los procesos de moderación, así como la detección de diversos tipos de contenido dañino mediante modelos de procesamiento del lenguaje natural (PLN). Sin embargo, según Bertie Vidgen, director ejecutivo y cofundador de Rewire, uno de los principales obstáculos para su avance es que cada plataforma es diferente: tiene distintos usuarios, tipos de contenido, medios, peligros y normas. Esto supone un gran problema para los desarrolladores, porque el enfoque tradicional de «una solución única para todos» en el desarrollo de software sencillamente no funciona.
«En los últimos dos años hemos visto surgir modelos increíblemente potentes capaces de aprender “con cero ejemplos” y “con pocos ejemplos”. En la práctica, estos avances permiten que el software alcance un rendimiento muy alto con relativamente pocos datos. Aún queda camino por recorrer, pero esto ha abierto nuevas y emocionantes posibilidades para crear IA escalable, totalmente adaptada a cada plataforma, sin los enormes costes y plazos de desarrollo que de otro modo serían necesarios», afirma Vidgen.
Algunas personas todavía se muestran escépticas y desconfían del uso de la IA para la seguridad en línea, ya que muchos programas han tenido dificultades para abordar cuestiones como los matices, la intención, el contexto y las bromas. Mejorar la fiabilidad, la flexibilidad, la rentabilidad y la precisión de la IA, junto con la supervisión humana para crear ciclos de retroalimentación eficaces, contribuirá a que se adopte más.
Justin Davis, director ejecutivo y cofundador de Spectrum Labs, destaca que una mejor detección del comportamiento tóxico abre camino a herramientas de medición y transparencia que ayudan a las plataformas en línea a tomar mejores decisiones normativas y a ofrecer mejores experiencias a los usuarios. «Cuando esto se combina con la capacidad de identificar y fomentar comportamientos saludables, los equipos de confianza y seguridad pueden coordinarse con los equipos de experiencia del cliente y de producto, basándose en datos, para reforzar los principios de #SafetyByDesign», afirma Davis.
Considera que invertir hoy en herramientas de PLN e IA ayudará al sector a anticiparse a las amenazas emergentes y a impulsar el crecimiento de comunidades más saludables en línea.
3. Reconocimiento de imágenes y vídeos
El hash de imágenes busca, en esencia, crear una huella digital que permita encontrar imágenes duplicadas; es el proceso de utilizar un algoritmo para asignar un valor hash único a una imagen. Como las copias de una imagen tienen el mismo valor hash, esta técnica permite detectar y eliminar CSAM conocido sin necesidad de una evaluación humana adicional.
Cuando apareció esta tecnología, si una imagen sufría pequeñas modificaciones, como un recorte o un cambio de color, cada versión editada obtenía un valor hash distinto, lo que reducía su eficacia. Sin embargo, en 2009, Microsoft colaboró con el Dr. Hany Farid de Dartmouth College para desarrollar PhotoDNA. Esta tecnología se basa en el hash, pero puede reconocer cuándo se ha editado una imagen y, por tanto, asignarle el mismo valor hash. Esto dificulta que los delincuentes eludan la detección al distribuir CSAM.
Las listas de hashes almacenadas en la nube, como las que mantiene la IWF, pueden impedir que se cargue CSAM, y no es posible aplicar ingeniería inversa a los hashes para reconstruir las imágenes. Una nueva tecnología de la IWF permite añadir metadatos contextuales a los hashes y posibilita su compatibilidad con múltiples jurisdicciones legales de todo el mundo.
4. Verificación de edad e identidad: biometría y análisis facial
La capacidad de autenticar a los usuarios de manera segura y precisa cuando se necesita verificar la identidad de una persona para acceder a determinados productos, servicios o experiencias en línea es fundamental para la seguridad en línea. Una tendencia creciente es el uso de datos biométricos —como escaneos de voz e iris— para verificar la identidad. FaceID de Apple supuso un gran avance en su adopción.
En el futuro, a medida que muchas empresas empiecen a considerar la seguridad y la protección en el metaverso, descentralizar la infraestructura de verificación de identidad, en lugar de centralizarla en las grandes plataformas tecnológicas, proporcionará a los usuarios más control o una identidad autosoberana (SSI). Así, los usuarios podrán elegir qué conjunto de datos identificativos únicos compartir con una empresa y reducir al mínimo la cantidad y la sensibilidad de los datos compartidos para cumplir los requisitos de acceso. Ante la preocupación por los bots, los suplantadores de identidad, el fraude y la tergiversación, verificar la identidad —o al menos determinar cuándo se ha comprobado que un avatar o una identidad corresponde a una persona real— será fundamental para ofrecer experiencias seguras en línea.
En el ámbito de las citas en línea, Tinder y Bumble ya han incorporado opciones para verificar perfiles y fomentar la confianza y la seguridad. En los videojuegos, la posibilidad de verificar los logros y los activos digitales de un usuario generaría confianza en los avatares y en el entorno en su conjunto.
Además, la verificación de edad es fundamental para garantizar contenido y experiencias adecuados para cada edad. Sin embargo, muchos métodos actuales de verificación, como introducir la fecha de nacimiento, se eluden fácilmente. La tecnología de análisis facial para verificar la edad está ganando popularidad. Este software busca un rostro en una imagen y luego analiza la información que necesita —como arrugas, manchas solares, canas, etc.— para estimar la edad del usuario. Esto es distinto del reconocimiento facial, cuyo objetivo es identificar a la persona de la fotografía y recopilar información sobre ella. Yoti, una de las empresas que trabajan con análisis facial para verificar la edad, destaca que su IA lee cada píxel y analiza rasgos faciales individuales que indican la edad, y subraya que el modelo no puede identificar ni reconocer a los usuarios.
Julie Dawson, directora de políticas y regulación de Yoti, afirma: «La verificación de edad desempeñará un papel fundamental en la protección de los jóvenes y en la oferta de experiencias en línea adecuadas para cada edad. Una vez que se conoce la edad de un menor, se pueden cumplir los requisitos del Código de la Infancia o de los Códigos de Diseño Adecuado a la Edad. Se puede ofrecer contenido apropiado para su edad, evitar que los menores encuentren contenido explícito o accedan a bienes o servicios sujetos a restricciones de edad, garantizar que la comunidad en línea se encuentre dentro del mismo umbral de edad y desactivar las notificaciones excesivas».
Las alianzas con Yubo e Instagram reflejan la creciente demanda de que las plataformas de redes sociales verifiquen la edad de los usuarios con mayor precisión. En las futuras etapas de evolución de internet, la restricción de acceso por edad cobrará importancia, ya que nuevas experiencias en el metaverso, como apostar o ver una película en un cine virtual, deberán estar sujetas a límites de edad.
Inman Grant afirma que ha llegado el momento de aplicar prácticas de seguridad desde el diseño y medidas de protección para estas nuevas aplicaciones, mientras aún están en desarrollo. «Es más fácil y eficaz incorporar medidas de seguridad desde el principio que intentar añadirlas o adaptar soluciones después de que se produzcan daños. Además de minimizar los daños y generar confianza, aplicar sistemáticamente una perspectiva de seguridad desde el diseño debe considerarse un factor facilitador que puede ayudar a las empresas a elevar los estándares generales de seguridad y mejorar su cumplimiento de los marcos regulatorios australianos y de otros países en materia de seguridad en línea».
¿Y ahora qué?
Cabe preguntarse si los avances tecnológicos se están adoptando con suficiente rapidez para hacer frente a estos daños. La confianza en estas tecnologías —y su eficacia— será una de las herramientas clave en el trabajo continuo para aumentar la seguridad en línea. Justin Davis afirma: «La dirección ejecutiva debe dar prioridad a la confianza y la seguridad para que las empresas impulsen la adopción de tecnología y asignen recursos suficientes a la seguridad en línea. La forma más eficaz de lograr que los directivos apoyen la confianza y la seguridad es demostrar cuantitativamente su impacto en los ingresos y el crecimiento».
Del mismo modo, Vidgen señala: «La realidad es que la confianza y la seguridad siempre estarán sometidas a una fuerte presión presupuestaria, al menos hasta que las plataformas las consideren una fuente de ingresos —es decir, una parte integral de la manera en que atraen y retienen a sus usuarios— en lugar de un centro de costes». Mientras tanto, reducir el coste de estas tecnologías y, a la vez, aumentar su eficacia y la confianza pública en ellas será fundamental para su adopción.
«La innovación en seguridad se produce constantemente, pero no ocurre en el vacío. Deben existir las políticas y los marcos regulatorios adecuados, y es necesario encontrar el equilibrio correcto entre las distintas prioridades que intervienen en la garantía de la confianza digital, incluida la seguridad y la privacidad», afirma Inman Grant.
La Global Coalition for Digital Safety trabaja con las principales partes interesadas para promover una serie de principios, tecnologías, herramientas y marcos de políticas que ofrecen un enfoque integral para mejorar la seguridad en línea. Los avances tecnológicos son una forma fundamental y tangible de empezar a ver progresos en la mejora de los espacios digitales para los usuarios de todo el mundo.
