A medida que la tecnología avanza con rapidez, surgen con la misma celeridad historias apocalípticas. No pasa un día sin alguna profecía sobre cómo la tecnología nos arrastrará a las profundidades de un caos oscuro, anónimo, de criptofalsedades, inteligencia artificial y basado en blockchain.
Sin embargo, voces disidentes intentan difundir mensajes alternativos. Durante el siglo pasado, una tecnología cada vez más eficiente y el avance del conocimiento han abordado desafíos globales como la pobreza mundial, las muertes por delitos violentos, la mortalidad infantil, las enfermedades prevenibles y la esperanza de vida humana - a una escala nunca vista antes.
Por razones obvias, tales avances pueden considerarse entre los mayores logros de la humanidad; sin embargo, también vemos cómo la tecnología facilita la desinformación en línea, los ciberataques globales y las campañas mediáticas terroristas sin precedentes que inspiran a miles de terroristas en potencia.
“La tecnología es una fuerza que convierte en abundante lo que antes era escaso”, escriben Peter Diamandis y Steven Kotler en Abundance: The Future is Better than You Think. Sin duda, esta es la piedra angular de la Cuarta Revolución Industrial. Pero en un mundo de recursos finitos, cuando algo se vuelve “abundante”, a menudo es a expensas de otra cosa que se vuelve escasa.
La comunidad criminal global se beneficia enormemente del crecimiento exponencial de la tecnología y de las promesas de esta revolución. ¿Acaso la abundancia de tecnología, al alimentar nuevos modelos delictivos, crea escasez en las capacidades de las fuerzas del orden? Por otro lado, ¿la abundancia de datos hace escasa la información? ¿La multiplicación de interfaces que captan la atención hace escasa la privacidad? ¿La adopción generalizada del cifrado de extremo a extremo y de los modelos de conocimiento cero hace escasa la atribución? ¿La proliferación de falsificaciones en línea y la desinformación masiva hacen escasas las pruebas? ¿La globalización de la comunicación en tiempo real hace escasa la jurisdicción?
En definitiva, ¿la abundancia de tecnología crea escasez u oportunidades para las fuerzas del orden?
Escasez de veracidad, abundancia de falsificaciones
Según informó Europol, en la última década ha habido una explosión de datos disponibles para las fuerzas del orden, lo que afecta a la capacidad de los servicios de seguridad para comprender y analizar estos datos con rapidez y a gran escala. Pero el problema ya no consiste en encontrar la aguja en el pajar; ahora el reto es encontrar la aguja disfrazada de paja.
La confianza en los datos es una condición esencial de los procedimientos policiales y judiciales. Si no podemos evaluar la veracidad de los datos recopilados o de las pruebas electrónicas incautadas, se socava el propio fundamento del sistema judicial. ¿Cómo puede un tribunal confiar en lo que se presenta en la sala cuando tanto la defensa como la acusación podrían aportar registros de cámaras de vigilancia digitalmente convincentes pero distintos, extractos de actividad en redes sociales o registros de coordenadas GPS que difieren entre sí sobre el mismo hecho? La convergencia de tecnologías exponenciales está acelerando la aparición de una amenaza importante: la escasez de veracidad de los datos y, con ella, la escasez de confianza.
A finales de 2017, una comunidad de desarrolladores publicó en Reddit un experimento bajo el nombre en clave DeepFake. Estaban orgullosos de su último éxito: manipular vídeos pornográficos y sustituir los rostros de las actrices por los de estrellas de Hollywood. Desde entonces, la comunidad de deepfakes ha crecido enormemente y han surgido nuevos avances tecnológicos, como la nueva tecnología de inteligencia artificial de Samsung, para crear deepfakes,
Este es solo un ejemplo que demuestra el poder de la abundancia de tecnologías convergentes, especialmente cuando se combinan con una red descentralizada de talento y un acceso económico a la capacidad algorítmica y al poder computacional. La publicación abierta de un algoritmo de IA (TensorFlow), la enorme disponibilidad de datos personales, la conexión repentina de una comunidad orgánica de innovadores y la extensa producción de conocimiento libre convergieron para dar lugar a un modelo de negocio con el potencial de amenazar la veracidad de los datos a escala global.
Manipular la veracidad de los datos va más allá de la creación de medios con apoyo de IA; generar falsificaciones no serviría de nada sin la capacidad de introducirlas al público. Esto ocurre no solo mediante la generación y distribución de narrativas falsas (a través de texto, medios y tácticas de difusión dirigida), sino también mediante la elaboración de perfiles de ciudadanos. Se trata de desinformación de precisión que influye en las creencias o el comportamiento de los ciudadanos mediante falsificaciones dirigidas.
¿Qué pueden hacer las fuerzas del orden?
Dada la amplia disponibilidad de datos, la convergencia de la IA y la elaboración de perfiles a gran escala facilitan la generación de falsificaciones; las fuerzas del orden deberían examinar con atención los datos que poseen. Invertir en IA para analizar datos históricos recopilados en la era previa a los deepfakes y a las noticias falsas generaría patrones y firmas contra los que se podría evaluar una posible manipulación. Actualmente, diversos sectores intentan aprovechar al máximo los datos oscuros, en particular obtener información valiosa de datos históricos. En un mundo en el que los datos recién generados son propensos a la manipulación, los conjuntos de datos históricos, en su mayor parte recopilados manualmente, son más valiosos en cuanto a veracidad.
Otra forma de usar la IA sería imitar las mejores prácticas existentes para generar falsificaciones. Suele decirse que las industrias del porno y del entretenimiento son las precursoras de las tecnologías de los medios. Mientras que los aficionados al porno fueron los primeros en invertir en deepfakes, Hollywood ya genera actores falsos para engañar al ojo humano, en particular mediante el uso de redes generativas antagónicas (GAN) basadas en IA. El concepto implica dos IA opuestas: una que genera la falsificación y otra que evalúa su calidad. Las fuerzas del orden podrían invertir en un proceso similar de generación y detección.
También podría ser beneficiosa una mayor inversión en la tecnología blockchain, creada para garantizar la transparencia y la trazabilidad de los datos. Uno de los objetivos de los servicios basados en blockchain es crear un libro mayor colaborativo de la verdad que sea prácticamente imposible de manipular (al menos hasta que la computación cuántica se generalice). Esto constituye el núcleo de la identidad autosoberana, una posible respuesta global al robo de identidad o a la creación de identidades falsas, y la tecnología podría ayudar a las fuerzas del orden a devolver los datos potencialmente alterados a su estado original.
El conocimiento es fundamental
Las fuerzas del orden deben desarrollar una comprensión profunda de cómo los ciudadanos son vulnerables a las falsificaciones. Del mismo modo que combatir los robos, los hurtos o las drogas ilícitas exige comprender cómo los delincuentes se dirigen a su mercado, contrarrestar las falsificaciones requiere una buena comprensión de las vulnerabilidades cognitivas del público. Las fuerzas del orden necesitan desarrollar conocimientos sobre qué tipo de datos recogen, entre otros, los sensores de las ciudades inteligentes, el Internet de las cosas, las redes sociales y los coches autónomos, y cómo podrían los grupos criminales utilizar esos datos como arma contra el público.
La amenaza a la veracidad de los datos surge de la convergencia de tecnologías disruptivas y de la digitalización masiva de los servicios. Las fuerzas del orden pueden afrontar este desafío mediante otra convergencia: la fusión de una alfabetización tecnológica de vanguardia y una comprensión profunda del sesgo de los datos. Esto permitirá a las fuerzas del orden no solo comprender la abundancia de tecnología, sino también cómo transformar los datos en nuevas soluciones y acciones policiales en beneficio de la comunidad a la que sirven.
