Tres de las aplicaciones de inteligencia artificial (IA) de más rápido crecimiento en la actualidad son manifestaciones de estereotipos patriarcales: la pujante industria de los sexbots, la proliferación de sistemas de armas autónomos y la creciente popularidad de asistentes virtuales y cuidadores con voces mayoritariamente femeninas. Es probable que las máquinas del futuro sean misóginas, violentas o serviles.
Sophia, el primer robot al que se concedió la ciudadanía, ha reclamadolos derechos de las mujeres en Arabia Saudita y ha declarado su deseo de tener un hijo, todo en el plazo de un mes. Otros robots no son más que receptáculos para el abuso.
The Guardian informó en 2017 que se estima que la industria de la tecnología sexual, que incluye juguetes sexuales inteligentes y pornografía de realidad virtual, tiene un valor asombroso de 30.000 millones de dólares. Esto es solo el comienzo. La industria está a punto de lanzar robots sexuales femeninos con genitales hechos a medida e incluso sistemas de calefacción, todo con el objetivo de crear una experiencia sexual satisfactoria.
La llegada de máquinas sexualmente obedientes —diseñadas para no decir nunca que no— es problemática no solo por la suposición de que las mujeres pueden ser reemplazadas, sino también porque quienes las crean y usan suelen ser hombres heterosexuales. La noticia de que el año pasado manosearon, rompieron y ensuciaron un robot sexual en un festival de electrónica en Austria no debería sorprender a nadie.
Aunque podría argumentarse que el uso de sexbots reduciría el abuso y la violación de mujeres en la vida real, es innegable que estas máquinas se crean para satisfacer las necesidades perversas de algunos hombres. La máquina representa una nueva ola de cosificación que podría exacerbar la violencia contra las mujeres reales.
La llegada de sistemas de armas autónomos letales (LAWS, por sus siglas en inglés), o «robots asesinos», por otro lado, amenaza con deshumanizar tanto a las víctimas masculinas como a las femeninas de la guerra.
Por un lado, las armas autónomas podrían reducir el número de personas involucradas en el combate e incluso disminuir las bajas. A la larga, los robots asesinos podrían reducir el costo humano de las guerras. Por otro lado, podrían restar importancia a las consecuencias humanas del combate —y, de hecho, de la violencia misma— y rebajar el umbral para los conflictos armados.
Varios Estados piden una prohibición preventiva de los robots asesinos, ante el temor de que puedan desencadenar una carrera armamentista de IA y aumentar el riesgo de un enfrentamiento violento. ¿Debería permitirse que las máquinas tomen decisiones de vida o muerte? ¿O debería quedar esta elección en manos de los seres humanos, por falibles que sean?
Por último, el desarrollo de asistentes de voz y dispositivos del Internet de las cosas (IoT) para cuidar a niños y personas mayores es un mercado que se espera que crezca rápidamente en la próxima década. La suposición de que las máquinas no pueden recurrir a la inteligencia emocional que poseen los trabajadores del cuidado se cuestiona cada vez más con la aparición de dispositivos inteligentes de seguimiento y monitores de salud capaces de observar y predecir comportamientos.
Sin duda, estas innovaciones comparten su tecnología subyacente con otras plataformas activadas por voz, como los asistentes virtuales: plataformas a menudo diseñadas para imitar la servilidad y la sumisión. No es casualidad que los asistentes de voz suelan diseñarse para sonar y actuar de forma femenina: basta pensar en Siri de Apple (en su versión original) y Alexa de Amazon. La aparición más reciente de una opción «masculina» para los asistentes de voz no cambia el panorama general de dominación masculina y servidumbre femenina en la IA.
Cuando los chatbots y los asistentes de voz se alimentan de datos recopilados por programadores hombres, las máquinas perpetúan las desigualdades del mundo real. Esto puede tener consecuencias imprevistas.
Dada la incertidumbre general sobre el impacto de la IA en el mundo real, merece aún más atención la responsabilidad de quienes la crean y de las comunidades en general.
Hoy, las máquinas reflejan ideas retrógradas y patriarcales que han demostrado ser perjudiciales para la sociedad. Si esto continúa, es posible que la tecnología deje de conducirnos a un mundo posgénero. De hecho, al igual que todas las doctrinas perniciosas que han frenado a las comunidades, los códigos sesgados podrían institucionalizar comportamientos dañinos.
Quizá la participación de más mujeres y comunidades marginadas en la creación de agentes de IA podría aportar la equidad que deseamos en las máquinas del futuro y evitar el desarrollo de tecnología más patriarcal. Si la máquina es patriarcal, ¿eliminamos la condición más sistémica del patriarcado o reducimos por completo nuestra dependencia de la máquina? Ambas cosas son más fáciles de decir que de hacer.
Para construir un mundo equitativo, habitado por mujeres, hombres y máquinas, la comunidad mundial debe establecer hoy normas sobre el propósito fundamental de la IA, sus principios de diseño y la ética de su implementación.
Los sistemas autónomos no pueden estar impulsados por el determinismo tecnológico que asola Silicon Valley; su diseño debe basarse, en cambio, en una ética multiétnica, multicultural y con diversidad de género. Y, más aún, la IA y su evolución deben estar al servicio de colectivos mucho más amplios, con acceso universal a sus beneficios.
La gestión de las aplicaciones de IA no puede dejarse únicamente en manos del mercado. La experiencia nos dice que el mercado suele fallar y se ve comprometido con frecuencia por la perversión y la codicia. La historia nos enseña que, cuando los gobiernos controlan, limitan y restringen la innovación, producen resultados aberrantes que distan mucho de ser ideales. En cambio, las normas elaboradas por las comunidades ofrecen una alternativa. Debemos promover normas que rijan estas tecnologías, las pongan a disposición de quienes más las necesitan y garanticen un desarrollo con perspectiva de género en este ámbito, liderado por una comunidad de múltiples partes interesadas que incluya voces ajenas al consenso atlántico.
