Las bandas criminales utilizan cada vez más tecnologías basadas en IA en operaciones de estafa a gran escala, lo que pone de relieve la necesidad de reforzar las salvaguardias para proteger a las personas vulnerables y desarticular las redes criminales.
La histórica encíclica del papa León XIV sobre la rendición de cuentas en materia de IA se suma a un debate global cada vez más amplio sobre cómo desarrollar e implementar la IA de manera que proteja a las personas más vulnerables.
El rápido avance de las capacidades de la IA brinda a los gobiernos, las empresas y la sociedad civil la oportunidad de reforzar los marcos de gobernanza y establecer salvaguardias eficaces contra el uso indebido.
La advertencia del papa León XIV de que la inteligencia artificial debe desarrollarse con mecanismos de rendición de cuentas, expresada mediante una encíclica histórica, llegó en un momento llamativo. A medida que las capacidades de la IA se vuelven más accesibles, los actores criminales las incorporan a formas ya existentes de fraude, trata y explotación en línea. Estos avances ponen de relieve la importancia de garantizar que la innovación vaya acompañada de salvaguardias eficaces y mecanismos de rendición de cuentas.
La advertencia del papa refleja una preocupación más amplia que comparten responsables de políticas públicas, líderes empresariales y organizaciones de la sociedad civil: la gobernanza y la rendición de cuentas deben evolucionar al ritmo de las capacidades tecnológicas.
En medio de la euforia por la IA, el desafío consiste en garantizar que el enorme potencial de esta tecnología para generar beneficios económicos y sociales se corresponda con esfuerzos igual de sólidos para prevenir su uso indebido y proteger a las comunidades vulnerables.
Toda herramienta de IA capaz de impulsar enormemente el crecimiento y la productividad de empresas legítimas y bienintencionadas puede hacer exactamente lo mismo por empresas brutales y abusivas, y ya se están utilizando herramientas de IA con ese fin.
Las señales de alarma son muy claras para mí. Como fundador y director ejecutivo de International Justice Mission (IJM), llevo 30 años trabajando con equipos que colaboran con sistemas de justicia de todo el mundo para proteger de la violencia y los abusos a las personas más vulnerables. Nuestro trabajo nos mantiene inquietantemente cerca de conductas criminales atroces y nos ofrece una perspectiva única de cómo la IA ya está potenciando las actividades criminales más brutales.
Cómo se utiliza la IA para disparar la actividad criminal
Gracias a nuestros equipos en el Sudeste Asiático, sabemos que el año pasado las bandas criminales utilizaron tecnologías potenciadas por la IA para robar entre 50.000 y 80.000 millones de dólares a personas desprevenidas de todo el mundo mediante operaciones de estafa en línea a escala industrial impulsadas por la esclavitud moderna. Miles de víctimas de trata están confinadas en recintos vigilados, donde se apiñan frente a sus puestos de trabajo en turnos ininterrumpidos de 24 horas al día, 7 días a la semana, para llevar a cabo estafas en línea sin parar. IJM ha apoyado a miles de supervivientes de estos recintos, quienes nos cuentan que sufrían palizas, inanición, descargas eléctricas y agresiones sexuales si no cumplían sus cuotas de estafas.
El año pasado, estas operaciones de estafa generaron ganancias muy superiores a los presupuestos nacionales combinados de los gobiernos de Myanmar, Camboya y Laos, países donde se concentran principalmente estas operaciones. Las tecnologías potenciadas por la IA dieron un impulso enorme a estas empresas criminales gracias a capacidades como las herramientas de traducción automática, la clonación de voz, los videos deepfake y las tecnologías de reclutamiento de escala masiva.
Otra empresa criminal brutal y en plena expansión que se sirve de la tecnología es la explotación sexual infantil transmitida en directo, un delito que la IA vuelve aún más grave. Delincuentes sexuales en países como Estados Unidos y el Reino Unido pagan a un «facilitador» para que dirija en directo el abuso sexual de un niño frente a una cámara web al otro lado del mundo. Una investigación reciente de IJM reveló que medio millón de niños en Filipinas sufrió abusos sexuales en plataformas en línea durante un solo año.
La IA también está transformando y acelerando el reclutamiento de víctimas por parte de los tratantes para someterlas a trabajos forzados en todo el mundo. Los anuncios de empleo fraudulentos generados con IA ahora pueden traducirse incluso a los idiomas más desconocidos, lo que permite captar a personas a las que antes nunca se habría llegado. Los chatbots basados en IA crean a gran escala ofertas de trabajo falsas que parecen convincentes y adaptan los mensajes engañosos a grupos demográficos específicos.
Cómo responder a la advertencia del papa León sobre la IA
La buena noticia es que sabemos qué hacer. El llamado del papa León en su encíclica a establecer «marcos jurídicos sólidos, supervisión independiente, usuarios informados y un sistema político que no eluda su responsabilidad» es el impulso inicial que necesitamos como ciudadanos del mundo. En todas las épocas han surgido nuevas tecnologías que podían acelerar la productividad y el florecimiento humano, pero también utilizarse indebidamente para destruir vidas. Los productos farmacéuticos, la energía nuclear y el transporte de alta velocidad son ejemplos evidentes. En cada época, los líderes hicieron dos cosas para proteger con éxito el futuro: asumieron la responsabilidad por los peligros que se estaban creando y establecieron mecanismos de rendición de cuentas para quienes no lo hacían.
Los líderes empresariales deben asumir su responsabilidad. A medida que los líderes tecnológicos crean herramientas de IA y amplían sus capacidades, deben asumir la responsabilidad de entender cómo las utilizarán los criminales, consultar con las fuerzas del orden y mostrar tanta creatividad y compromiso para mitigar sus abusos como para maximizar su uso.
También deberían comprometerse a cumplir estándares de «seguridad desde el diseño» para los dispositivos que fabrican, a fin de impedir la explotación antes de que ocurra. Por ejemplo, la tecnología de detección integrada en el dispositivo y basada en IA puede detectar cuando se intenta grabar en él a un niño prepúber sometido a explotación sexual e impedir que llegue a crearse ese contenido, ilegal en todo el mundo.
Los gobiernos deben establecer mecanismos de rendición de cuentas. Nunca se ha permitido a ninguna otra industria lanzar al público cualquier producto potente que desee sin que, tarde o temprano, se le impongan salvaguardias regulatorias frente a los graves daños que su uso indebido, abuso o uso criminal puede causar al público. Los remordimientos perdurables de la historia se deben a vidas inocentes destruidas y desperdiciadas mientras se descuidaban esas salvaguardias. No hay ninguna razón sensata para conceder al sector de la tecnología de IA una exención excepcional de esta lección histórica de sentido común. De hecho, sin requisitos regulatorios, los líderes empresariales reconocen en privado que las dinámicas del mercado conducirán a eliminar las salvaguardias, incluso las que protegen a los niños.
Una responsabilidad compartida en la gobernanza de la IA
La verdad es que sabemos más que suficiente para asumir nuestra responsabilidad ahora.
Como investigador jefe de la ONU sobre el genocidio de Ruanda, sé lo que se siente al llegar demasiado tarde para impedir una catástrofe.
Esa experiencia me enseñó la importancia de actuar ante las primeras señales de alarma. La IA ofrece oportunidades extraordinarias para el progreso humano, pero también está creando nuevas vías de explotación. El desafío que tenemos por delante es garantizar que la gobernanza, la rendición de cuentas y la protección avancen al ritmo de la innovación.
La lección de Ruanda no es la inevitabilidad, sino la prevención. Las sociedades son más fuertes cuando reconocen los riesgos emergentes a tiempo y responden con urgencia, cooperación y previsión. La rápida evolución de la IA nos brinda la oportunidad de hacer precisamente eso.
Creo que algún día la historia convocará un tribunal de nuestros nietos, y ellos simplemente nos preguntarán: ¿dónde estaban cuando se tomaban las decisiones cruciales para el futuro de la IA y de la humanidad? Espero que podamos decir que estuvimos allí para asumir nuestra responsabilidad y establecer mecanismos de rendición de cuentas que aseguren su futuro. Y que llegamos a tiempo.
