Poner fin a los daños en línea requiere una acción mundial coordinada por parte de los reguladores y las empresas tecnológicas.
Pero, para trabajar juntos, todos los agentes necesitan un lenguaje común para describir los problemas.
Ahora, la Coalición Mundial para la Seguridad Digital del Foro Económico Mundial ha elaborado un lenguaje fundamental para definir los daños en línea.
¿Con qué frecuencia ha experimentado algo perjudicial en línea? Y, en caso afirmativo, ¿sabe cómo describir lo que ha encontrado de una manera que permita a las empresas de internet y a los reguladores tomar medidas para proteger a otras personas?
Las personas se encuentran con daños en línea con más frecuencia de lo que se podría pensar. Una investigación del regulador británico Ofcom reveló que el 62 % de los adultos y un alarmante 81 % de los usuarios de internet de entre 12 y 15 años tuvieron al menos una experiencia perjudicial en línea al año.
Los adultos declararon principalmente casos de fraude, estafas y noticias falsas, pero más de una cuarta parte de los usuarios más jóvenes había sufrido acoso en línea y solicitudes de amistad no deseadas. Casi dos quintos de los adolescentes afirmaron haber visto lenguaje ofensivo y algo menos de una cuarta parte había sido víctima de trolling.
La esencia del mundo en línea es que es global, lo que crea la posibilidad de malentendidos y falta de comprensión entre personas de distintas naciones y culturas. Se necesitan definiciones claras de lo que constituye contenido perjudicial.
La Ley de Servicios Digitales (DSA) de la Unión Europea, que entrará plenamente en vigor en febrero de 2024, avanza en parte hacia su objetivo declarado de crear un espacio digital más seguro en el que se protejan los derechos fundamentales de los usuarios
Pero, a escala mundial, la ausencia de definiciones acordadas dificulta la adopción de medidas multiinstitucionales y transfronterizas. Por ello, la Coalición Mundial para la Seguridad Digital del Foro Económico Mundial Coalición Mundial para la Seguridad Digital ha elaborado una tipología de daños en línea, que define el contenido perjudicial en seis categorías diferenciadas.
“La DSA destaca como una de las normativas recientes en todo el mundo que buscan configurar un ecosistema digital más seguro”, afirmó Agustina Callegari, responsable de proyecto de la Coalición. “Al exigir responsabilidades a las plataformas y promover medidas proactivas, establece la norma en materia de seguridad en línea.
“La Coalición Mundial para la Seguridad Digital ha presentado recientemente el marco de alto nivel para comprender y evaluar los riesgos de seguridad digital, que puede ayudar a las partes interesadas a adaptarse a los nuevos requisitos normativos.”
El “lenguaje fundamental común” que ha definido la Coalición reconoce que “si bien internet es de carácter global, los daños pueden ser muy locales o depender del contexto: pueden surgir riesgos específicos en distintos países o regiones o en diferentes comunidades.
“En este contexto, es importante reconocer que la seguridad digital requiere una compleja gama de deliberaciones, que equilibren consideraciones jurídicas, normativas, éticas, sociales y tecnológicas… las decisiones deben basarse en marcos internacionales de derechos humanos.”
Estas son las seis categorías de la tipología y los resúmenes de las definiciones que contienen:
1. Amenazas a la seguridad personal y comunitaria
Material de abuso sexual infantil
La tipología sugiere que esta definición es más clara y menos susceptible de generar confusión que el término “pornografía infantil”, de uso generalizado en las leyes de muchos países.
Material de explotación sexual infantil
Se define como contenido que sexualiza a menores, independientemente de que implique o no un abuso sexual real.
Material terrorista
Contenido que defiende, promueve o alienta actos terroristas, o que proporciona instrucciones para llevarlos a cabo. El elogio del terrorismo también entra en esta definición cuando pueda tener el efecto de llevar a una persona a participar en un acto terrorista.
Contenido que elogia, promueve, glorifica o apoya a organizaciones o personas extremistas
Contenido destinado a reclutar personas para organizaciones extremistas violentas o criminales, incluido el uso de símbolos, logotipos, banderas, eslóganes, uniformes, saludos y música.
Contenido gráfico violento
Contenido que promueve, proporciona instrucciones o representa actos como asesinato, tortura, violación y secuestro. La tipología matiza esta definición con la necesidad de eximir el material que documenta abusos de derechos humanos o que condena dichos actos.
Contenido que incita, promueve o facilita la violencia
Incluye contenido que contiene amenazas directas e indirectas de violencia e intimidación.
Contenido que promueve, incita o instruye en conductas físicas peligrosas
Actividades que, si se llevan a cabo en un contexto no profesional, pueden provocar lesiones graves o la muerte del usuario o de miembros del público.
2. Daños a la salud y al bienestar
Material que promueve el suicidio, la autolesión y los trastornos alimentarios – incluye cualquier contenido que anime o represente la autolesión o el suicidio, o que anime y enseñe a las personas a participar en trastornos alimentarios o en retos de medición corporal poco saludables.
Contenido inadecuado para la edad – incluye facilitar a los menores el acceso a material pornográfico y violento.
3. Odio y discriminación
Discurso de odio
Cualquier tipo de comunicación o comportamiento que ataque o utilice un lenguaje despectivo o discriminatorio en referencia a una persona o un grupo por sus características protegidas inherentes, como la religión, la etnia, la nacionalidad, la raza, el color, la ascendencia o el género.
Discriminación algorítmica
Una restricción que da lugar a la exclusión de los usuarios de servicios como los préstamos, la vivienda, los seguros, la educación o las oportunidades de empleo. Los algoritmos pueden diseñarse para negar incluso bienes básicos como los alimentos y el agua. No obstante, la definición reconoce que determinadas prácticas, como las restricciones por edad, pueden ser adecuadas como medidas de protección.
4. Vulneración de la dignidad
Acoso y hostigamiento en línea
El uso de la tecnología para acosar a alguien con el fin de dañarlo social, emocional, psicológica o incluso físicamente. Puede incluir mensajes de texto y correos electrónicos abusivos; mensajes, imágenes o vídeos hirientes; la difusión de rumores perjudiciales, o la creación de cuentas falsas para engañar o humillar a alguien.
Extorsión sexual
También denominada “sextorsión”, consiste en chantajear a una persona con ayuda de imágenes que ella misma ha generado, con el fin de obtener de ella favores sexuales, dinero u otros beneficios, amenazando con difundir el material más ampliamente.
5. Invasión de la privacidad
Doxing
La exposición deliberada en línea de la identidad, los datos personales o la información sensible de una persona sin su consentimiento y con la intención de exponerla a un riesgo de daño.
Abuso basado en imágenes
Compartir, o amenazar con compartir, una imagen o vídeo íntimo sin el consentimiento de la
persona que aparece en ellos. Una “imagen o vídeo íntimo” es aquel que muestra desnudez, poses sexuales, actividad privada
pero también puede incluir mostrar a alguien sin la vestimenta religiosa o cultural que normalmente usaría en público.
6. Engaño y manipulación
Desinformación y información errónea
La tipología distingue entre la información errónea, que consiste en difundir hechos incorrectos, y la desinformación, que define como la difusión deliberada e intencionada de información falsa diseñada para inducir a error a otras personas. La definición incluye la desinformación de género que se dirige específicamente contra mujeres líderes políticas, periodistas y otras figuras públicas para perpetuar estereotipos y misoginia.
Medios sintéticos engañosos
Contenido que ha sido generado o manipulado mediante procesos algorítmicos (como la inteligencia artificial o el aprendizaje automático) para aparentar que se basa en la realidad.
Suplantación de identidad
Hacerse pasar por una persona, grupo u organización existente de forma confusa o engañosa.
Estafas
Esquemas deshonestos que buscan manipular y aprovecharse de las personas para obtener beneficios como dinero o acceso a datos personales.
Phishing
El envío de mensajes fraudulentos, haciéndose pasar por organizaciones o personas de confianza para el destinatario, con el fin de robar datos como credenciales de banca en línea, datos de tarjetas de crédito y contraseñas.
Catfishing
Uso de las redes sociales para crear una identidad falsa, normalmente con el fin de defraudar o estafar a alguien. Quienes practican el catfishing suelen inventar antecedentes, empleos o amistades falsos para hacerse pasar por otra persona. A veces, el catfishing se utiliza para engañar a alguien y llevarlo a una relación sentimental en línea antes de pedirle dinero, regalos o imágenes de desnudos.
