Meta lanzará en India una línea de ayuda para detectar contenido deepfake en WhatsApp.
El primer ministro de India ha advertido del daño potencial que podría causar la IA.
El Coalición Global para la Seguridad Digital del Foro trabaja para mejorar la alfabetización digital.
Meta ha anunciado que lanzará una nueva línea de ayuda y un servicio de verificación de datos en India para prevenir la difusión de contenido «deepfake» generado por IA en su servicio de mensajería WhatsApp.
Esta intervención llega en un momento oportuno. En 2024, la mitad de la población mundial votará en elecciones. Las elecciones más importantes de todas tendrán lugar en India, donde casi 987 millones de personas están inscritas para votar en unos comicios que se celebrarán en abril y mayo.
El primer ministro indio, Narendra Modi, ha advertido de que los vídeos deepfake y otros contenidos manipulados podrían suponer un grave riesgo para la sociedad de su país, la democracia más grande del mundo.
Al hablar con estudiantes en diciembre de 2023, dijo: «Estos vídeos parecen muy reales y, por lo tanto, debemos tener mucho cuidado antes de creer que un vídeo o una imagen son auténticos».
Antes, en septiembre de 2023, Modi aprovechó un discurso en la Cumbre del G20 para pedir regulaciones mundiales para la IA. India también ha emitido advertencias directas a las empresas tecnológicas, recordándoles su responsabilidad de impedir la publicación y distribución de contenido deepfake.
¿Cómo funcionará la línea de ayuda de Meta contra los deepfakes?
Meta se ha asociado con la Alianza para Combatir la Desinformación de India (MCA, por sus siglas en inglés) para gestionar la línea de ayuda.
Los usuarios de WhatsApp podrán denunciar contenido sospechoso mediante un chatbot en la aplicación. La línea de ayuda ofrecerá asistencia en varios idiomas: inglés, hindi, tamil y telugu, lo que permitirá que una amplia representación de la población india acceda al servicio.
En el centro del servicio está la Unidad de Análisis de Deepfakes, un equipo especializado de la MCA que gestionará todos los mensajes señalados a través de la línea de ayuda de WhatsApp. Esta unidad trabajará con 11 organizaciones de verificación de datos, socios del sector y laboratorios digitales para examinar y refutar la desinformación presente en contenido deepfake.
¿Cómo aborda el Foro los desafíos mundiales de ciberseguridad?
El Centro de Ciberseguridad ofrece una plataforma de confianza donde los líderes se reúnen para comprender los riesgos cibernéticos cambiantes y sus implicaciones sistémicas. Se centra en generar comprensión y confianza en un mundo digital cada vez más interconectado.
Al facilitar la colaboración intersectorial y el intercambio de conocimientos, el Centro ayuda a sus socios a reforzar la resiliencia cibernética y a abordar los desafíos que requieren respuestas colectivas.
Meta y la MCA han creado el sistema con el compromiso de alcanzar cuatro objetivos: detección, prevención, denuncia y concienciación. Esta estrategia busca no solo combatir la difusión de deepfakes, sino también educar al público sobre los peligros de la desinformación generada por IA.
Bharat Gupta, presidente de la Alianza para Combatir la Desinformación, afirma que el servicio desempeñará un papel crucial en la defensa de la democracia india.
«La Unidad de Análisis de Deepfakes (DAU, por sus siglas en inglés) será una intervención crucial y oportuna para frenar la difusión de desinformación facilitada por la IA. Con el apoyo de Meta… esperamos que la DAU se convierta en un recurso de confianza para que el público pueda distinguir entre los medios auténticos y los generados por IA».
Cómo detectar un deepfake
Para alertar sobre posibles deepfakes, la línea de ayuda de Meta depende de que los usuarios de WhatsApp puedan distinguir el contenido sintético del real. Esto supone un desafío, dado lo realistas que pueden parecer y sonar los deepfakes.
Sin embargo, hay indicios que conviene buscar al intentar determinar si un contenido es auténtico o un deepfake. Algunas características de los deepfakes pueden delatarlos, según la empresa de ciberseguridad Norton. Entre ellas figuran los movimientos oculares y las expresiones faciales poco naturales, la falta de emoción y un tono de piel anormal.
Mejorar la alfabetización en medios digitales
El aumento del contenido deepfake pone de relieve la necesidad de mejorar la alfabetización en medios digitales. Crear conciencia sobre la existencia de los deepfakes y los riesgos que plantean contribuirá a garantizar un entorno en línea más seguro para todos.
La Coalición Global para la Seguridad Digital (GCDS, por sus siglas en inglés) del Foro busca acelerar la cooperación entre los sectores público y privado para combatir el contenido dañino en línea, y servirá para intercambiar buenas prácticas sobre nuevas regulaciones de seguridad en línea.
La GCDS está desarrollando, en el marco de cuatro pilares centrales, un conjunto de principios sobre seguridad digital, un conjunto de herramientas para el diseño seguro de productos y la innovación, un marco de evaluación de riesgos de seguridad digital y buenas prácticas para desarrollar programas de alfabetización mediática.
La línea de ayuda contra los deepfakes de Meta en India demuestra que existen soluciones técnicas para mejorar la seguridad en línea y proteger la democracia de quienes distorsionarían la realidad mediante la IA.
Pero todos tendremos que informarnos a medida que entramos en una era en la que la IA puede difuminar la línea entre los hechos y la ficción de maneras que nunca antes habíamos visto.
