El cortometraje Slaughterbots retrata un futuro cercano en el que enjambres de microdrones asesinan a miles de personas por sus creencias políticas. Estrenado en noviembre de 2017 por académicos y activistas que advierten de los peligros de la inteligencia artificial (IA) avanzada, se viralizó rápidamente, superando hasta la fecha las 3 millones de visualizaciones. Ayudó a encender un debate público sobre el futuro de las armas autónomas y presionó a los diplomáticos reunidos en las Naciones Unidas Convención sobre Armas Convencionales.
Pero este tipo de narrativa especulativa de ciencia ficción no solo sirve para atraer la atención. Quienes diseñan y desarrollan tecnologías avanzadas pueden usar historias para considerar las consecuencias de su trabajo y asegurar que se utilice para el bien. Y creemos que este tipo de “prototipado de ciencia ficción” o “ficción de diseño” podría ayudar a evitar que los sesgos humanos se incorporen a las nuevas tecnologías, afianzando aún más los prejuicios e injusticias de la sociedad.
Un sesgo puede llevar a la preferencia arbitraria de algunas categorías (de resultados, personas o ideas) sobre otras. Por ejemplo, algunas personas pueden tener un sesgo en contra de contratar a mujeres para puestos directivos, sean o no conscientes de ello o no.
La tecnología construida a partir de datos que registran dicho sesgo puede terminar reproduciendo el problema. Por ejemplo, un software de contratación diseñado para seleccionar los mejores currículos para un puesto concreto podría programarse para buscar características que reflejen un sesgo inconsciente hacia los hombres. En tal caso, el algoritmo terminaría favoreciendo los currículos de los hombres. Y esto no es teórico: en realidad le ocurrió a Amazon.
Diseñar algoritmos sin considerar las posibles implicaciones negativas se ha comparado con médicos que “escriben sobre los beneficios de un determinado tratamiento e ignoran por completo los efectos secundarios, por graves que sean”.
Algunas empresas tecnológicas e investigadores están tratando de abordar el problema. Por ejemplo, Google elaboró un conjunto de principios éticos para orientar su desarrollo de la IA. Y académicos del Reino Unido han puesto en marcha una iniciativa llamada Not-Equal que pretende fomentar una mayor equidad y justicia en el diseño y el uso de la tecnología.
El problema es que, públicamente, las empresas tienden a presentar solo una visión positiva de las posibles consecuencias de las tecnologías del futuro cercano. Por ejemplo, los coches sin conductor suelen presentarse como la solución a todos nuestros problemas de transporte, en cuanto a coste y seguridad, ignorando el mayor peligro de los ciberataques o el hecho de que podrían animar a las personas a caminar o ir en bicicleta menos.
La dificultad para comprender cómo funcionan las tecnologías digitales, especialmente aquellas que dependen en gran medida de algoritmos opacos, también dificulta que las personas tengan una visión compleja e integral de los problemas. Esta situación genera una tensión entre una narrativa positiva tranquilizadora y la vaga sospecha de que los sesgos están incrustados, en cierta medida, en las tecnologías que nos rodean. Aquí es donde creemos que la narración a través de la ficción de diseño puede resultar útil.
Las historias son un método natural para pensar en posibilidades y situaciones complejas, y las hemos escuchado toda la vida. La ciencia ficción puede ayudarnos a especular sobre el impacto de las tecnologías del futuro cercano en la sociedad, como hace Slaughterbots. Esto puede incluir incluso cuestiones de justicia social, como la forma en que ciertos grupos, como los refugiados y los migrantes, pueden quedar excluidos de las innovaciones digitales.
Revelar el futuro (posible)
Las historias de ficción de diseño ofrecen a diseñadores, ingenieros y futuristas (entre otros) una forma novedosa de pensar el impacto de la tecnología desde una perspectiva humana y vincularlo con las posibles necesidades futuras. Con una mezcla de lógica e imaginación, la ficción de diseño puede revelar aspectos de cómo puede adoptarse y utilizarse la tecnología, iniciando conversaciones sobre sus repercusiones futuras.
Por ejemplo, el relato corto “Crime-sourcing” explora lo que podría ocurrir si la IA utilizara información recopilada de forma colectiva y una base de datos delictiva para predecir quién podría cometer un asesinato. Los investigadores descubrieron que, como la base de datos estaba llena de personas de minorías étnicas que, por razones sociales, tenían estadísticamente más probabilidades de reincidir, el modelo de “crime-sourcing” tenía más probabilidades de sospechar erróneamente de las minorías que de las personas blancas.
No hace falta ser un escritor de talento ni producir una película de gran calidad para crear ficción de diseño. Las actividades de lluvia de ideas con tarjetas y guiones gráficos se han utilizado para desarrollar la ficción de diseño y ayudar a elaborar el proceso narrativo. Hacer que los talleres que empleen este tipo de herramientas sean más habituales permitiría que más ingenieros, emprendedores y responsables políticos utilicen este método de evaluación. Y poner a disposición pública el trabajo resultante ayudaría a detectar posibles sesgos en las tecnologías antes de que afecten a la sociedad.
Animar a los diseñadores a crear y compartir más historias de este modo garantizaría que la narrativa que sustenta las nuevas tecnologías no presente solo una imagen positiva, ni una extremadamente negativa o distópica. En cambio, las personas podrán apreciar ambos aspectos de lo que sucede a nuestro alrededor.
