La seguridad digital evoluciona rápidamente, impulsada por el auge de la IA generativa y por el complejo debate en torno a la libertad de expresión y la moderación de contenidos.
Mientras tanto, la IA generativa está revolucionando la creación de contenidos digitales, pero su uso indebido ha intensificado rápidamente la creación y difusión de contenidos perjudiciales.
Alinear estos sistemas con los principios de derechos humanos y eliminar los sesgos será fundamental para recuperar y mantener la confianza pública.
Al iniciar 2025, el panorama de la seguridad digital está experimentando una rápida transformación, influida en gran medida por el auge de la IA generativa (IA generativa) y por el creciente y complejo debate en torno a la libertad de expresión y la moderación de contenidos.
Desde la proliferación de contenidos perjudiciales hasta los desafíos regulatorios y el reciente anuncio de Meta de reducir sus esfuerzos de moderación de contenidos y de verificación de datos en Estados Unidos, el ámbito de la seguridad digital se enfrenta a un momento crucial que exige atención urgente y acción colaborativa.
En este contexto, es legítimo preguntarse: ¿es posible alcanzar la seguridad digital en 2025?
Proliferación de contenidos perjudiciales en la era de la IA
La IA generativa está revolucionando la creación de contenidos, ofreciendo nuevas oportunidades de creatividad e innovación. Sin embargo, su uso indebido ha intensificado rápidamente la creación y difusión de contenidos perjudiciales. El auge de los ultrafalsos (deepfakes), los medios manipulados y los contenidos sintéticos explícitos está difuminando los límites de la realidad, amplificando la desinformación y socavando la confianza en los ecosistemas en línea.
Este aumento de los contenidos sintéticos plantea importantes desafíos para los sistemas de moderación de contenidos, que ahora deben gestionar niveles sin precedentes de contenidos generados y de complejidad. La erosión de la confianza va más allá de las plataformas digitales y los medios de comunicación, y afecta incluso a las comunicaciones y relaciones personales.
A medida que esto crece, las partes interesadas y los usuarios exigen cada vez más transparencia sobre la forma en que los algoritmos de IA toman decisiones, especialmente en la moderación de contenidos. En 2025, alinear estos sistemas con los principios de derechos humanos y eliminar los sesgos será fundamental para recuperar y mantener la confianza pública, en consonancia con los debates en torno a la libertad de expresión.
El recientemente publicado Informe sobre Riesgos Globales 2025 del Foro Económico Mundial destaca la creciente preocupación por los efectos adversos de las tecnologías de IA. En el informe, la desinformación y la información errónea ocuparon el primer lugar por segundo año consecutivo, y los daños en línea ocuparon el puesto 14.
“Una visión completa de la relación entre los sistemas automatizados y la seguridad en línea requiere una comprensión adecuada de cómo la IA ayuda a los equipos de confianza y seguridad a combatir el abuso en línea. Aumentar la comprensión pública de la IA como factor de riesgo y, al mismo tiempo, como medio de mitigación de riesgos será crucial para mantener la confianza en los servicios digitales en 2025”, afirma David Sullivan, director ejecutivo de la Digital Trust & Safety Partnership.
Quizás lo más preocupante sea el auge del material sintético de explotación infantil generado por IA. La Internet Watch Foundation informó de que más de 20 000 imágenes generadas por IA circulaban en un foro de la red oscura en tan solo un mes, lo que subraya la urgente necesidad de intervenciones integrales para combatir esta creciente amenaza. A medida que estas amenazas evolucionan, 2025 exigirá soluciones innovadoras y colaboración mundial para proteger los espacios en línea y salvaguardar a las poblaciones vulnerables.
Libertad de expresión frente a moderación de contenidos
A comienzos de 2025, el panorama de la seguridad digital afronta un cambio decisivo en las prácticas de moderación de contenidos, en particular por el reciente anuncio de Meta de eliminar los esfuerzos de moderación de contenidos en sus plataformas en Estados Unidos y confiar, en cambio, en que los usuarios añadan notas a las publicaciones.
Este enfoque refleja una tendencia más amplia observada en el sector, en particular con la implementación por parte de Twitter de su sistema de notas comunitarias, que también depende de las aportaciones de los usuarios en lugar de una moderación centralizada para abordar contenidos potencialmente engañosos o perjudiciales.
No obstante, existen algunas preocupaciones de que la decisión de Meta de reducir sus iniciativas de verificación de datos y moderación de contenidos pueda exponer, sin pretenderlo, a grupos vulnerables a una mayor variedad de contenidos perjudiciales, incluidas la desinformación, el discurso de odio y el ciberacoso.
Los críticos han argumentado que este enfoque corre el riesgo de amplificar narrativas perjudiciales y de crear un entorno digital menos seguro. En respuesta, Meta ha afirmado que la solución frente al discurso «malo» no es bloquearlo, sino fomentar el discurso «bueno» para contrarrestarlo, lo que favorece un diálogo comunitario más abierto y autorregulado. La compañía ha sostenido que una menor moderación de contenidos promovería una expresión más libre y permitiría un diálogo más abierto.
El enfoque de Meta pone de relieve un dilema más amplio sobre el equilibrio entre la moderación de contenidos y la libertad de expresión. El gran reto de 2025 será encontrar un punto intermedio en el que la libertad de expresión y la seguridad digital puedan coexistir, garantizando que el auge de los contenidos perjudiciales no erosione la confianza en las plataformas digitales.
Implantación de nuevas normativas de seguridad digital
La normativa seguirá dando forma al ecosistema de seguridad digital, con leyes en evolución que marcan un cambio en el modo de abordar la seguridad en línea. Incluso con una tendencia hacia un entorno regulatorio más firme, persisten disparidades regionales y nacionales en el enfoque; por ejemplo, Estados Unidos es más reacio a regular la expresión en línea que muchos países europeos.
La Ley de Servicios Digitales (DSA) de la Unión Europea y la Ley de Seguridad en Línea (OSA) del Reino Unido han establecido normas importantes en materia de moderación de contenidos, responsabilidad de las plataformas y protección infantil. No obstante, su aplicación varía según las jurisdicciones, lo que pone de manifiesto la complejidad de armonizar los enfoques regulatorios.
Las plataformas en línea del Reino Unido se enfrentarán pronto a nuevas obligaciones en virtud de la OSA. Ofcom tiene previsto publicar sus Códigos de Buenas Prácticas sobre Protección de la Infancia y una guía actualizada de evaluación de riesgos antes de abril de 2025. Esto precisará las responsabilidades de las plataformas para proteger a los usuarios, especialmente a los menores.
Australia también ha dado un paso audaz al introducir restricciones de edad para determinados servicios de redes sociales para menores de 16 años, lo que señala un cambio global hacia la priorización de la seguridad infantil en el espacio digital. La medida hará que la eSafety Commissioner trabaje con el gobierno, la industria, los jóvenes y la comunidad en general para aplicar la restricción de edad.
Reino Unido y España están entre otros países que estudian políticas similares, lo que refuerza el compromiso internacional de proteger a los jóvenes en línea.
A medida que evolucionan estos marcos regulatorios, 2025 será decisivo en el impulso mundial para reforzar la seguridad digital. La Red Global de Reguladores de la Seguridad en Línea, creada en octubre de 2024, lanzó el Índice Regulatorio de Seguridad en Línea, una herramienta valiosa para comparar y evaluar los estándares de seguridad en distintas regiones, que ayudará a orientarse en el complejo entorno regulatorio.
“El plan de eSafety para aplicar y hacer cumplir de forma eficaz la nueva legislación sobre restricciones de edad en redes sociales en 2025 es un componente de nuestra labor que complementará nuestra estrategia integral vigente para garantizar que las plataformas y los servicios apliquen de forma más eficaz Safety by Design, al tiempo que mejora las prácticas y procesos de seguridad para todos los australianos”, afirma Julie Inman Grant, Comisionada de eSafety de Australia.
“Nuestras normas industriales pioneras en el mundo, diseñadas para exigir a los gigantes tecnológicos mundiales que aborden los contenidos en línea más perjudiciales, incluido el material de abuso sexual infantil y los contenidos terroristas, son otro elemento importante e interconectado de nuestro enfoque multidimensional para mantener a los niños seguros en línea. Esto incluye la alfabetización digital continua para los niños y el empoderamiento de los padres.
“Asimismo, nuestros códigos y facultades de transparencia pueden respaldar las restricciones de edad en redes sociales para ofrecer una cobertura protectora a los niños y jóvenes.”
Intervenciones en materia de seguridad digital
La magnitud de los desafíos de la seguridad digital es preocupante; sin embargo, las empresas, las organizaciones de la sociedad civil y otras partes interesadas están aplicando numerosas intervenciones y soluciones para hacer frente a estos daños.
Las intervenciones tecnológicas, como el aprovechamiento de la inteligencia artificial y el aprendizaje automático, también son fundamentales para detectar y mitigar los contenidos perjudiciales. No obstante, las estrategias eficaces deben ir más allá de la tecnología.
Se requieren mejoras integrales en las políticas, la promoción de comportamientos positivos en línea y la educación de los usuarios para crear un entorno digital más seguro. Esta complejidad se deriva de que los problemas de seguridad digital no son únicamente tecnológicos, sino que están profundamente interrelacionados con dinámicas culturales, sociales y sistémicas.
Ante los desafíos que se avecinan, capacitar a los usuarios con conocimientos sobre los riesgos digitales y las prácticas seguras es igualmente importante para crear plataformas en línea en las que los usuarios puedan expresarse. Las campañas de sensibilización que mejoran la alfabetización digital son esenciales, ya que permiten a las personas desenvolverse en los espacios en línea de manera responsable y favorecen un ecosistema digital más seguro e inclusivo.
Para maximizar el impacto de estos esfuerzos, es fundamental evaluar de forma continua las estrategias de intervención y las medidas de mitigación, identificando qué funciona y qué no, en línea con el debate sobre la libertad de expresión y la seguridad. Este análisis permanente es esencial para perfeccionar los enfoques y garantizar la eficacia sostenida de las iniciativas de seguridad digital.
Daños futuros que amenazan la seguridad digital
En seguridad digital, no anticipar las prioridades emergentes suele dar lugar a un enfoque reactivo, en el que las respuestas solo se activan después de que se hayan producido consecuencias y daños significativos. Implementar medidas proactivas para abordar las amenazas potenciales antes de que se agraven es fundamental para mitigar los perjuicios y garantizar la resiliencia.
Investigación de WeProtect Alliance y Thorn subraya el valor de la exploración periódica del horizonte. Este enfoque permite evaluar con rapidez tanto las tecnologías actuales como las emergentes que podrían alterar el panorama de la explotación sexual infantil facilitada por la tecnología. Estas iniciativas con visión de futuro deben convertirse en una práctica estándar para la protección infantil frente a todos los daños en línea, a medida que las tecnologías y los comportamientos de los usuarios evolucionan rápidamente.
En 2025 es esencial un cambio de paradigma, y los desarrolladores y responsables políticos deben colaborar estrechamente e integrar la prevención de daños en el desarrollo tecnológico. Este cambio exige equilibrar seguridad e innovación, fomentando soluciones que protejan a los usuarios y sus voces sin frenar el progreso. Al priorizar las estrategias proactivas, podemos construir un entorno digital que anticipe y mitigue eficazmente los riesgos futuros.
Cooperación y gobernanza mundiales
La naturaleza interconectada de los desafíos de la seguridad digital exige una respuesta mundial unificada. Abordar estas cuestiones de manera eficaz requiere alianzas sólidas entre gobiernos, entidades del sector privado y organizaciones de la sociedad civil. Estas iniciativas de colaboración son esenciales para fomentar la innovación, compartir las mejores prácticas e impulsar avances significativos.
En el frente intergubernamental, el Pacto Digital Mundial de las Naciones Unidas está llamado a establecer normas internacionales para el mundo digital, con un firme llamamiento a la seguridad digital. A medida que se despliegue su aplicación en 2025, se observará de cerca su capacidad para abordar los desafíos de seguridad transfronterizos y alinear los esfuerzos mundiales con objetivos compartidos.
Desde una perspectiva multilateral, la Coalición Mundial para la Seguridad Digital, convocada por el Foro Económico Mundial, desempeña un papel fundamental. Proporciona una plataforma para que las partes interesadas colaboren en las mejores prácticas, intercambien conocimientos y promuevan los principios de seguridad desde el diseño.
Cómo el Foro ayuda a los líderes a conectar las tecnologías de frontera con los desafíos del mundo real
El Centro para las Tecnologías de Frontera y la Innovación reúne a científicos, responsables políticos y líderes empresariales para comprender las tecnologías emergentes y sus implicaciones en el mundo real.
Al posibilitar la colaboración y la experimentación, el Centro ayuda a los socios a traducir la innovación de la investigación en aplicaciones prácticas que abordan desafíos globales compartidos.
Más adelante este año, la coalición publicará un informe que cartografía las intervenciones en materia de seguridad digital y presentará un marco integral para abordar la desinformación a lo largo de todo su ciclo de vida.
En el sector privado, la Coalición para la Procedencia y Autenticidad de los Contenidos (C2PA) está dando pasos significativos para combatir la desinformación. Mediante el establecimiento de normas técnicas para verificar el origen y el historial de los contenidos multimedia, la C2PA pretende reforzar la confianza y la rendición de cuentas en los espacios digitales.
“Un mundo digital más seguro exige no solo innovación normativa y tecnológica, sino también un cambio cultural que dé prioridad a las prácticas éticas y anticipe los riesgos futuros. Con esfuerzos conjuntos, podemos transformar el panorama de la seguridad digital en uno que empodere a los usuarios y los proteja en medio de estos desafíos complejos y cambiantes”, afirma Daniel Dobrygowski, director de Gobernanza y Confianza del Foro Económico Mundial.
Lograr la seguridad digital requerirá equilibrar la libertad de expresión con la protección de los usuarios en un panorama en línea cada vez más complejo. Mediante la colaboración mundial, la regulación transparente, la innovación tecnológica y el compromiso con los derechos humanos y los principios éticos, en 2025 se pueden lograr avances significativos.
