Si la inteligencia artificial dirigiera el mundo, no sería tan malo: podría tomar decisiones de forma objetiva sobre exactamente el tipo de cosas en las que los humanos tienden a meter la pata. Pero si vamos a ceder las riendas a la IA, tiene que ser justa. Y hasta ahora, no lo es. La IA entrenada con conjuntos de datos anotados o seleccionados por personas tiende a aprender los mismos sesgos racistas, sexistas u otros sesgos intolerantes de esas personas.
Poco a poco, los programadores parecen estar corrigiendo estos sesgos. Pero incluso si logramos mantener nuestros propios prejuicios fuera de nuestro código, parece que la IA ya es capaz de desarrollarlos por sí sola.
Una nueva investigación publicada el miércoles en Scientific Reports muestra cómo una red de agentes de IA desarrolló de forma autónoma no solo una preferencia por el grupo propio hacia otros agentes similares a ellos, sino también un sesgo activo contra aquellos que eran diferentes. De hecho, los científicos concluyeron que se necesita muy poca capacidad cognitiva para desarrollar estos sesgos, lo que significa que podrían aparecer en código por todas partes.
A los agentes de IA se les configuró para que pudieran donar dinero virtual a otros agentes, con el objetivo de obtener la mayor cantidad posible a cambio. En esencia, tenían que decidir cuánto compartir y con qué otros agentes hacerlo. Los investigadores del experimento observaron dos tendencias: los agentes de IA eran más propensos a donar a otros que tenían etiquetas de rasgos similares (indicados por un valor numérico arbitrario) y mostraban un prejuicio activo contra quienes eran diferentes. Los agentes de IA parecían haber aprendido que donar al grupo propio daba lugar a más reciprocidad, y que donar a otros acarrearía activamente una pérdida para ellos.
Se trata de una forma de prejuicio más abstracta que la que vemos en el mundo real, donde los algoritmos se utilizan para atacar y oprimir específicamente a personas negras. Los agentes de IA no desarrollaron un desprecio específico hacia un grupo minoritario concreto, como lo hacen algunas personas. En cambio, se trata de un prejuicio contra un vago «otro», contra cualquier cosa diferente de ellos mismos. Y, sí, es una forma de prejuicio que se limita a esta simulación en particular.
Pero la investigación tiene grandes implicaciones para las aplicaciones en el mundo real. Si no se controla, algoritmos como este podrían dar lugar a un racismo y un sexismo institucionalizados aún mayores e, incluso, quizá en algún escenario muy improbable, a un sesgo totalmente antihumano, a pesar de nuestros mejores esfuerzos por evitarlo.
Según el artículo, existen formas de corregir esto. Por ejemplo, los investigadores descubrieron que podían reducir los niveles de prejuicio obligando a los agentes de IA a participar en lo que denominaron aprendizaje global, es decir, interactuando con agentes de IA diferentes fuera de su propia burbuja. Además, cuando las poblaciones de agentes de IA tenían más rasgos en general, los niveles de prejuicio también disminuían, simplemente porque había más diversidad incorporada. Los investigadores establecieron un paralelismo con la exposición de personas prejuiciosas a otras perspectivas en la vida real.
Del artículo:
Estos factores reflejan de forma abstracta el pluralismo de una sociedad, al estar influidos por cuestiones que van más allá del individuo, como la política social, el gobierno, los conflictos históricos, la cultura, la religión y los medios de comunicación.
De forma más amplia, esto significa que absolutamente no podemos dejar la IA a su suerte y dar por hecho que todo saldrá bien. En su próximo libro, “Hello World: Being Human in the Age of Algorithms”, un extracto del cual se publicó en The Wall Street Journal, La matemática Hannah Fry nos insta a ser más críticos y más escépticos con los algoritmos que moldean nuestras vidas. Y, como demuestra este estudio, no es mal consejo.
Por mucho que nos gustaría creer que los sistemas de IA son máquinas objetivas e imparciales, debemos aceptar que siempre puede haber fallos en el sistema. Por ahora, eso significa que debemos vigilar estos algoritmos y cuidarnos a nosotros mismos.
