Legislación sobre deepfakes: Dinamarca avanza para proteger la identidad digital

Los deepfakes pueden ser desde divertidos y absurdos hasta manipuladores y peligrosos.

En Dinamarca, el gobierno está tomando medidas para reforzar su legislación sobre derechos de autor y prevenir la creación y el intercambio de deepfakes generados por IA. La enmienda, considerada la primera de su tipo en Europa, está diseñada para proteger los derechos de las personas sobre su identidad, incluyendo su apariencia y voz. Con el apoyo de todos los partidos, el gobierno espera presentar la enmienda en otoño, lo que sugiere que prevenir los deepfakes se considera urgente.

Entonces, ¿cuán amenazantes son los deepfakes y qué pueden hacer los legisladores al respecto?

Los deepfakes utilizan tecnología de inteligencia artificial (IA) para crear imágenes, vídeos y grabaciones de audio falsos de gran realismo. El término proviene de "aprendizaje profundo" y "falsificación" y describe tanto la tecnología de IA utilizada como el contenido resultante.

Los deepfakes alteran contenido existente (como reemplazar el rostro de Michael J. Fox por el de Tom Holland en los clips de Regreso al Futuro) o generan contenido nuevo que muestra a alguien diciendo o haciendo algo que no hizo.

Aunque la superposición de rostros en una escena cinematográfica pueda parecer inocua a primera vista, sigue poniendo en entredicho el derecho de las personas a su imagen. Los actores y actrices estadounidenses se declararon en huelga por este derecho en 2023, paralizando las producciones de cine y televisión y asegurando el compromiso de la industria de que, en el futuro, cualquier uso de las imágenes de los actores por parte de la IA requeriría su consentimiento.

Un uso más preocupante de los deepfakes es la difusión de noticias falsas, como en el caso de los deepfakes del expresidente estadounidense Joe Biden y del presidente ucraniano Volodymyr Zelenskyy. Esto otorga a los mensajes un alto nivel de credibilidad al hacer que parezcan provenir de una fuente confiable.

Pero no todos los ataques con deepfakes tienen motivaciones políticas: el fraude financiero y el ciberdelito son otras áreas en fuerte crecimiento, según una investigación reciente de Resemble.ai. Si bien el 41 % de los objetivos son figuras públicas —celebridades, políticos y líderes empresariales—, el 34 % son personas privadas, principalmente mujeres y niños, y el 18 % organizaciones.

Un ejemplo es Arup, una empresa de ingeniería del Reino Unido, que fue víctima de una importante estafa con deepfakes cuando delincuentes usaron un clon generado por IA de un alto directivo para convencer a un empleado del área financiera, durante una videollamada, de transferir 25 millones de dólares a ciberdelincuentes.

Un intento de fraude contra Ferrari, usando la voz generada por IA del CEO Benedetto Vigna, fue frustrado por poco gracias a que un empleado hizo una pregunta complicada que solo el verdadero CEO podía responder.

Una periodista de la BBC logró burlar el sistema de identificación por voz de su banco usando una versión sintética de su propia voz.

En su informe sobre seguridad frente a los deepfakes (segundo trimestre de 2025), Resemble.ai —una empresa especializada en la detección de deepfakes dañinos— reportó 487 ataques con deepfakes divulgados públicamente en el segundo trimestre de 2025, un aumento del 41 % respecto al trimestre anterior y de más del 300% en comparación con el año anterior. Las pérdidas financieras directas por estafas con deepfakes han alcanzado casi los 350 millones de dólares, y los ataques con deepfakes se duplican cada seis meses, según la empresa.

Según Resemble, el fraude con deepfakes es un problema global, concentrado principalmente en regiones tecnológicamente avanzadas, aunque los mercados emergentes se ven cada vez más afectados. Estados Unidos encabeza la lista de incidentes reportados, pero los casos de deepfakes también están muy extendidos en Asia-Pacífico y Europa, y crecen rápidamente en África.

Los responsables políticos están tomando medidas frente a los deepfakes, siendo la Take It Down Act en Estados Unidos una de las iniciativas más significativas hasta ahora. Esta ley exige que los deepfakes dañinos sean eliminados en un plazo de 48 horas e impone sanciones penales federales por su distribución. Los sitios web públicos y las aplicaciones móviles deben establecer mecanismos para reportar y eliminar este tipo de contenido. Legisladores estatales en Tennessee, Luisiana y Florida también han aprobado leyes sobre deepfakes.

En Europa, la Ley de Servicios Digitales de la Unión Europea (Digital Services Act o DSA), que entró en vigor en 2024, está diseñada para “prevenir actividades ilegales y dañinas en línea y la difusión de desinformación”. Los proveedores de servicios en línea están ahora bajo una supervisión más estricta por parte de la UE, y ya se han iniciado varias investigaciones formales por incumplimiento. El Reino Unido adoptó un enfoque similar a principios de 2025 con la Online Safety Act.

La enmienda danesa actualmente en estudio permitiría a las personas afectadas por contenido generado con deepfakes solicitar su eliminación, y a los artistas reclamar una compensación por el uso no autorizado de su imagen. Este derecho se extendería durante 50 años después de la muerte del artista. Plataformas en línea como Meta y X podrían enfrentarse a multas considerables si el proyecto de ley es aprobado tal como se propone. Aunque el proyecto no prevé directamente compensaciones ni cargos penales, sentaría las bases legales para reclamar daños y perjuicios conforme a la legislación danesa.

Con Dinamarca ocupando actualmente la presidencia del Consejo de la Unión Europea, el país ha expresado una clara ambición de colocar a los medios y la cultura en el centro de la democracia europea, promoviendo iniciativas como el Escudo Europeo de la Democracia (European Democracy Shield). Por lo tanto, su reciente enmienda a la ley nacional de derechos de autor probablemente enviará señales políticas contundentes tanto a Bruselas como al conjunto de la UE.

Al subrayar la necesidad de una cooperación interregional para hacer del mundo digital un lugar más seguro, la Coalición Global para la Seguridad Digital del Foro Económico Mundial busca acelerar la colaboración público-privada para abordar contenido dañino, incluidos los deepfakes. También promueve el intercambio de buenas prácticas en regulación de seguridad en línea y respalda los esfuerzos para mejorar la alfabetización mediática digital.