Este artículo forma parte de la plataforma de Geoestrategia del Foro Económico Mundial Geoestrategia
El debate sobre el sesgo inconsciente en la inteligencia artificial suele centrarse en algoritmos que, sin pretenderlo, causan daños desproporcionados a amplios sectores de la sociedad, como los que predicen erróneamente que los acusados negros cometerán delitos en el futuro, o las tecnologías de reconocimiento facial desarrolladas principalmente con fotos de hombres blancos, que identifican mal a las mujeres y a las personas de piel más oscura.
Pero el problema podría ser mucho más profundo. La sociedad debería estar alerta ante otra vuelta de tuerca: la posibilidad de que actores malintencionados intenten atacar los sistemas de inteligencia artificial introduciendo deliberadamente sesgos en ellos, camuflados dentro de los datos que ayudan a esos sistemas a aprender. Esto podría añadir una nueva dimensión preocupante a los ciberataques, las campañas de desinformación o la proliferación de noticias falsas.
Según un estudio del Gobierno de Estados Unidos sobre macrodatos y privacidad (PDF), los algoritmos sesgados podrían facilitar el encubrimiento de prácticas discriminatorias en la concesión de préstamos, la contratación u otras prácticas empresariales cuestionables. Los algoritmos podrían diseñarse para aprovechar factores aparentemente inocuos que pueden ser discriminatorios. Emplear técnicas existentes, pero con datos o algoritmos sesgados, podría facilitar la ocultación de intenciones malintencionadas. Los corredores de datos comerciales recopilan y conservan todo tipo de información, como los hábitos de navegación o de compra en línea, que podría utilizarse de este modo.
Los datos como cebo
Los datos sesgados también podrían servir de cebo. Las empresas podrían publicar datos sesgados con la esperanza de que los competidores los utilicen para entrenar algoritmos de inteligencia artificial, lo que provocaría que estos redujeran la calidad de sus propios productos y la confianza de los consumidores en ellos.
Los ataques basados en sesgos algorítmicos también podrían utilizarse para impulsar más fácilmente agendas ideológicas. Si los grupos de odio o las organizaciones de defensa política quieren atacar o excluir a personas por motivos de raza, género, religión u otras características, los algoritmos sesgados podrían darles la justificación o medios más avanzados para hacerlo directamente. Los datos sesgados también podrían desempeñar un papel en los procesos de redistritación que consolidan la segregación racial («redlining») o restringen los derechos de voto.
Por último, las amenazas a la seguridad nacional procedentes de actores extranjeros podrían utilizar ataques de sesgo deliberado para desestabilizar sociedades, socavando la legitimidad del gobierno o agudizando la polarización pública. Esto encajaría de forma natural con las tácticas que, según se informa, buscan explotar las divisiones ideológicas mediante publicaciones en redes sociales y la compra de anuncios en línea diseñados para avivar las tensiones raciales.
Introducir sesgos deliberados en la toma de decisiones algorítmica podría ser devastadoramente sencillo y eficaz. Esto podría implicar reproducir o acelerar factores preexistentes que generan sesgos. Muchos algoritmos ya se alimentan de datos sesgados. Los atacantes podrían seguir utilizando estos conjuntos de datos para entrenar algoritmos, conociendo de antemano los sesgos que contienen. La negación plausible que esto permitiría es lo que hace que estos ataques sean tan insidiosos y potencialmente eficaces. Los atacantes aprovecharían la ola de atención centrada en los sesgos del sector tecnológico, exacerbando la polarización en torno a las cuestiones de diversidad e inclusión.
Algoritmos envenenados
La idea de «envenenar» algoritmos manipulando los datos de entrenamiento no es del todo nueva. Altos funcionarios de inteligencia de Estados Unidos han advertido (PDF) que los ciberatacantes podrían acceder de forma encubierta y luego alterar los datos para comprometer su integridad. Demostrar la intención maliciosa sería un reto importante, tanto para abordarla como para disuadirla.
Pero la motivación podría ser lo de menos. Cualquier sesgo es motivo de preocupación, una debilidad estructural en la integridad de la infraestructura de la sociedad. Los gobiernos, las empresas y las personas recopilan y utilizan datos cada vez más, de formas diversas, que pueden introducir sesgos.
Esto sugiere que el sesgo es un reto sistémico, que requiere soluciones integrales. Las soluciones propuestas para el sesgo no intencionado en la inteligencia artificial buscan avanzar en la diversidad de la fuerza laboral, ampliar el acceso a datos de entrenamiento diversificados e incorporar la transparencia algorítmica (la capacidad de ver cómo los algoritmos producen resultados).
Ya se han dado algunos avances para poner en práctica estas ideas. Los académicos y los observadores del sector han pedido una supervisión legislativa que aborde el sesgo tecnológico. Las empresas tecnológicas se han comprometido a combatir el sesgo inconsciente en sus productos diversificando sus plantillas y ofreciendo formación sobre sesgos inconscientes.
Al igual que los avances tecnológicos a lo largo de la historia, debemos seguir examinando cómo implementamos los algoritmos en la sociedad y qué resultados producen. Identificar y abordar los sesgos tanto en quienes desarrollan los algoritmos como en los datos utilizados para entrenarlos contribuirá en gran medida a garantizar que los sistemas de inteligencia artificial nos beneficien a todos, y no solo a quienes pretendan explotarlos.
El sesgo intencionado es otra forma en que la inteligencia artificial podría perjudicarnos, Douglas Yeung, RAND Corporation
