A medida que evolucionan las tecnologías de inteligencia artificial (IA), lograr un equilibrio entre la innovación y la seguridad se ha vuelto esencial.
Los profesionales de confianza y seguridad que trabajan con miembros de la comunidad de IA serán clave para abordar la complejidad de la seguridad en línea y de la IA.
Mediante debates abiertos y la aplicación de medidas de seguridad sólidas, podemos garantizar que las tecnologías de IA se utilicen de forma responsable en beneficio de todos.
A medida que evolucionan rápidamente las tecnologías de inteligencia artificial (IA), en particular los grandes modelos de lenguaje, lograr un equilibrio entre la innovación y la seguridad se ha vuelto crucial.
Los profesionales de confianza y seguridad (T&S) llevan mucho tiempo dedicados a proteger las comunidades y plataformas en línea de diversos daños, por lo que la intersección entre los expertos en T&S y la comunidad de IA es clave para abordar la complejidad de la seguridad en línea y de la IA.
Para lograr este equilibrio, los debates abiertos sobre confianza y seguridad, especialmente en lo relativo al contenido nocivo, son esenciales.
El crecimiento de la comunidad digital de confianza y seguridad
En los últimos 10 años, la comunidad de T&S ha logrado grandes avances, adquiriendo valiosa experiencia práctica y conocimientos.
Este avance ha estado estrechamente ligado al auge de las redes sociales, que han ampliado rápidamente el entorno digital y han traído nuevos retos para la gestión de la seguridad en línea y de los datos de los usuarios.
Normativas más estrictas, como el Reglamento europeo General de Protección de Datos (RGPD) han aumentado la presión sobre las empresas para proteger los datos de los usuarios. Más recientemente, normativas específicas de seguridad en línea, como la Ley de Seguridad en Línea de Australia de 2021, la Ley de Seguridad en Línea de Singapur de 2022, la Ley de Seguridad en Línea del Reino Unido de 2023, y la Ley de Servicios Digitales (DSA) de la Unión Europea exigen a las plataformas identificar, evaluar, mitigar y divulgar los posibles riesgos de sus servicios en línea.
La reciente tercera edición de la Conferencia TrustCon24 reflejó bien este crecimiento. El evento, celebrado en San Francisco del 22 al 24 de julio, fue organizado por la Trust and Safety Professional Association y tuvo como objetivo fomentar una comunidad global de práctica entre los profesionales de T&S.
A lo largo de la conferencia se debatió ampliamente sobre el potencial de los sistemas de IA para generar o amplificar contenido nocivo. Por ejemplo, las tecnologías de IA pueden utilizarse indebidamente para crear material falso realista, que puede contribuir a la desinformación, la difamación y la explotación.
Además, la IA puede facilitar el ciberacoso y el acoso, por ejemplo, mediante bots automatizados que envían mensajes abusivos a gran escala y la creación de ultrafalsificaciones (deepfakes) o medios sintéticos para difamar.
La proliferación de material de abuso sexual infantil (CSAM) generado por IA se identificó como otro reto importante. La calidad avanzada y el fotorrealismo de este tipo de material dificultan que las fuerzas del orden evalúen y aborden los riesgos de manera eficaz.
Con más de 15.000 millones de imágenes generadas por IA que circularon solo en 2023 y en aumento, la magnitud de este problema es abrumadora. La Internet Watch Foundation, por ejemplo, identificó 20.254 imágenes generadas por IA publicadas en un sitio de CSAM de la darknet en un solo mes, lo que subraya la urgente necesidad de actuar.
Tender puentes entre la seguridad de la IA y T&S
Si bien los retos de la seguridad de la inteligencia artificial requieren una sólida colaboración, la comunidad de T&S y las comunidades de IA y de aprendizaje automático (ML) se han desarrollado de forma algo independiente.
La sesión de TrustCon24 ‘Trust & Safety x Responsible AI: Bridging the Gap’ se centró en esta separación. Dave Willner, miembro (Fellow) del Stanford Cyber Policy Center, destacó cómo los vínculos entre las comunidades se han fortalecido en los últimos años y meses, pero que aún existen importantes desajustes y lagunas en las prácticas de seguridad.
Por su parte, la directora ejecutiva de Humane Intelligence, Rumman Chowdhury, se refirió no solo a la cantidad de investigaciones sobre la IA y la seguridad de la IA, sino también a la todavía escasa experiencia práctica sobre cómo los productos de inteligencia artificial podrían explotarse para causar daño.
Por ejemplo, los equipos de IA que trabajan con conjuntos de datos podrían no estar familiarizados con los protocolos de T&S establecidos para gestionar contenido ilegal. Del mismo modo, los equipos de ingeniería de ML pueden carecer de experiencia en la elaboración de políticas y en procedimientos regulatorios. Esta desconexión dificulta la aplicación efectiva de medidas de seguridad y el desarrollo de estrategias coherentes para abordar los problemas relacionados con la IA.
Algunas lecciones clave de TrustCon24, así como de las reuniones de la Coalición Global para la Seguridad Digital del Foro Económico Mundial, que reunieron a destacados profesionales de confianza y seguridad de todos los sectores, incluyen:
Lenguaje común: La comunicación eficaz entre las comunidades de IA y de T&S es esencial, ya que los malentendidos a veces se han debido a una comunicación deficiente. Desarrollar una terminología unificada es crucial para garantizar que ambas comunidades puedan trabajar juntas de forma eficaz. La Tipología de Daños en Línea de la Coalición Global para la Seguridad Digital es un intento de construir un lenguaje básico en torno a los daños en línea.
Evaluaciones de riesgos: Las normativas de seguridad digital, como la Ley de Servicios Digitales de la UE y la Ley de Seguridad en Línea del Reino Unido, ya mencionadas, han empezado a exigir evaluaciones de riesgos para gestionar activamente los posibles daños. Sin embargo, persisten lagunas, en particular en la comprensión matizada de los riesgos específicos de la IA. La Ley de IA de la UE pretende cubrir estas lagunas estableciendo normas exhaustivas para los sistemas de inteligencia artificial, garantizando que se desarrollen e implanten de forma segura. La experiencia de los profesionales de T&S en evaluación de riesgos puede servir de base para marcos de evaluación exhaustivos de los sistemas de IA, aportando competencias inestimables para identificar amenazas y comprender las interacciones entre humanos e IA, con el fin de integrar consideraciones de seguridad en todo el desarrollo de la IA.
Seguridad desde el diseño: El concepto de «seguridad desde el diseño» implica integrar medidas de seguridad en cada etapa del desarrollo de productos y servicios. Este enfoque proactivo, utilizado por los profesionales de T&S, puede aplicarse a los sistemas de IA para anticipar y mitigar los riesgos desde el principio. En la práctica, tal como se analizó durante el panel mencionado, esto podría significar que un sistema de IA se niegue a realizar una petición que pueda afectar a los menores.
Medición de la seguridad: Medir con precisión la seguridad de la IA sigue siendo un reto fundamental. A pesar de las complejidades inherentes, es esencial esforzarse por lograr una medición eficaz. Iniciativas existentes como el Instituto Nacional de Estándares y Tecnología (NIST) AI Risk Management Framework desempeñan un papel crucial en la medición y gestión de los riesgos de la IA. Además, el informe de la Coalición Global para la Seguridad Digital «How to Measure Digital Safety Effectively to Reduce Risks Online» ofrece una clasificación de métricas. Por ejemplo, la categoría de métricas de proceso abarca el enfoque, la implementación y los resultados de los sistemas relacionados con la seguridad digital, lo que también puede informar las evaluaciones de seguridad de la IA y fomentar una comprensión común entre los expertos.
Aunque hay lecciones aprendidas de ambos lados, es importante reconocer que no todas las lecciones de las prácticas de T&S se trasladarán directamente a la seguridad de la IA. Como destacó Henry Ajder, un destacado experto en IA, durante una de las últimas reuniones de la Coalición Global, “las lecciones que sí se trasladan podrían ayudarnos a evitar cometer errores fundacionales similares en el desarrollo de la IA a los que vimos con el auge de las grandes plataformas digitales, en particular las redes sociales”.
Por último, cabe destacar que, durante la conferencia TrustCon24, hubo un gran interés por la colaboración, con profesionales de diversos sectores, como empresas de IA, expertos e investigadores, lo que subraya la necesidad de una colaboración interdisciplinar para construir ecosistemas digitales más seguros y fiables.
Trabajo del Foro Económico Mundial en torno a la seguridad de la IA
El Foro Económico Mundial, a través de su Alianza para la Gobernanza de la IA (AIGA) y la Coalición Global para la Seguridad Digital ya están impulsando este enfoque colaborativo.
Como señaló Daniel Dobrygowski, director de Confianza y Seguridad del Foro Económico Mundial, “la seguridad es intrínsecamente un asunto transversal. Independientemente de la tecnología o el ámbito, la seguridad de los usuarios ayuda a generar confianza en la tecnología subyacente, algo especialmente vital en tecnologías emergentes y de rápida aceleración como la IA.”
El trabajo del Foro en la AIGA impulsa el desarrollo de una IA fiable, promoviendo el uso responsable y fomentando la innovación. Sus esfuerzos específicos se centran en integrar de forma responsable las tecnologías de IA en todos los sectores, desarrollar marcos regulatorios sólidos y avanzar en el consenso técnico en torno a sistemas de IA seguros y protegidos.
¿Cómo está creando el Foro Económico Mundial barreras de protección para la inteligencia artificial?
El Centro de Excelencia en IA conecta a líderes de todos los sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Apoya un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculadas a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a los socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
Por su parte, la Coalición Global para la Seguridad Digital, integrada por destacados profesionales de confianza y seguridad, busca acelerar la cooperación público-privada para abordar el contenido nocivo en línea. Esto incluye compartir las mejores prácticas para las nuevas normativas de seguridad en línea, emprender acciones coordinadas para minimizar los riesgos en línea e impulsar la colaboración en programas para mejorar la alfabetización digital en la lucha contra la desinformación.
Ambas comunidades tienen conocimientos y aprendizajes valiosos que pueden potenciar sus esfuerzos colectivos. Fomentando debates abiertos entre las comunidades y aplicando medidas de seguridad sólidas, podemos afrontar la complejidad del desarrollo de la IA y garantizar que estas tecnologías transformadoras se utilicen de forma responsable y ética en beneficio de todos.
