Históricamente, los humanos tardan mucho tiempo en confiar en la última ola de tecnología de máquinas.
En situaciones que implican daño físico, las personas tienden a considerar que las máquinas son más dañinas que los humanos que realizan las mismas acciones.
Es importante que combinemos nuestro interés por cómo deben comportarse las máquinas con una comprensión y de cómo las juzgamos.
Recientemente, las máquinas de votación han sido objeto de controversia. Y, sin embargo, el rechazo de las personas hacia las máquinas no es nada nuevo.
Hace unos 500 años, la imprenta era demonizada como un dispositivo satánico. El equivalente actual —la inteligencia artificial— es criticada habitualmente como fuente de desempleo y sesgo.
Pero ¿está justificada cada parte de esa ira?
Los académicos que estudian las reacciones de las personas ante las máquinas están empezando a comprender cuándo y por qué juzgamos de forma diferente a humanos y máquinas.
Imaginemos un coche que se desvía para evitar un árbol que cae y, al hacerlo, atropella a un peatón. ¿Juzgan las personas esta acción de forma distinta si creen que fue realizada por un coche autónomo en lugar de por un humano?
En mi último libro, How Humans Judge Machines, mis coautores y yo pedimos a más de 6.000 estadounidenses que reaccionaran a escenarios como este, utilizando la configuración de un ensayo clínico.
La mitad de nuestros sujetos solo vio escenarios que implicaban acciones humanas, mientras que la otra mitad evaluó únicamente escenarios que implicaban acciones de máquinas. Esto nos permitió explorar cuándo y por qué las personas juzgan de forma diferente a humanos y máquinas.
Máquina mala, humano bueno
En el accidente de coche mencionado, las personas juzgan la acción del coche autónomo como más dañina e inmoral, aunque la acción realizada por el humano fue exactamente la misma.
En otro escenario, consideramos un sistema de respuesta de emergencia que reacciona ante un tsunami. A algunas personas se les dijo que la ciudad había sido evacuada con éxito. A otras se les dijo que el esfuerzo de evacuación había fracasado.
Nuestros resultados mostraron que, en este caso, las máquinas también salieron perdiendo. De hecho, si el esfuerzo de rescate fracasaba, las personas evaluaban negativamente la acción de la máquina y positivamente la del humano.
Los datos mostraron que las personas calificaron la acción de la máquina como significativamente más dañina y menos moral, y también declararon querer contratar al humano, pero no a la máquina.
¿Siempre salen perdiendo las máquinas?
Desde hace mucho tiempo, los académicos saben que las personas sienten aversión por los algoritmos. Incluso cuando los algoritmos predicen mejor que los humanos, las personas tienden a elegir a predictores humanos. Este fenómeno se conoce como aversión algorítmica, y puede resultar costoso en un mundo en el que las pequeñas diferencias en la precisión predictiva son importantes.
En un artículo reciente, Berkeley Dietvorst, Joseph Simmons y Cade Massey exploraron las aversiones algorítmicas mediante cinco experimentos en los que las personas podían vincular una recompensa monetaria a predicciones hechas por ellas mismas, por otra persona o por un modelo.
Si bien es necesario que las máquinas sean transparentes, debe complementarse con la comprensión de que la transparencia puede acabar sesgando a las personas en contra de las máquinas.
César A. Hidalgo
En algunos experimentos, las personas conocían el rendimiento agregado de las predicciones, y estas tendían a favorecer a las máquinas. En otros, las personas también podían observar las predicciones reales.
La conclusión: las personas tendían a evitar más los algoritmos cuando presenciaban sus errores. Es decir, la preferencia de las personas por las máquinas disminuía cuando veían los errores además del resultado agregado.
Este hallazgo resulta interesante en un mundo en el que las personas exigen con frecuencia la transparencia como pilar fundamental de una IA ética.
Si bien es necesario que las máquinas sean transparentes, debe complementarse con la comprensión de que la transparencia puede acabar sesgando a las personas en contra de las máquinas. Si no tenemos en cuenta este matiz, la transparencia podría llevarnos a rechazar máquinas que, en realidad, son una fuente de mejora.
Máquinas injustas
Pero hay casos en los que las personas valoran a las máquinas por encima de los humanos, aunque solo ligeramente. Se trata de escenarios morales que implican violaciones de la equidad y la lealtad, y que también se perciben como muy intencionales cuando los realiza un humano.
Consideremos un robot frente a un humano, ambos escribiendo letras para una discográfica. Imaginemos que una investigación descubre que estas letras plagian obras de artistas menos conocidos. Cuando presentamos este escenario a las personas, comprobamos que juzgaban la acción del humano como más dañina y menos moral que la de la máquina.
Obtuvimos resultados similares en otros escenarios relacionados con la equidad, como los procesos de selección de recursos humanos sesgados y los sistemas de admisión universitaria.
Ciertamente, a las personas no les gustan los humanos ni las máquinas sesgadas, pero cuando ponemos a prueba experimentalmente su rechazo, las personas califican los sesgos humanos como ligeramente más dañinos y menos morales que los de las máquinas.
Estamos pasando de una era de imponer normas al comportamiento de las máquinas a otra de descubrir leyes que no nos dicen cómo deben comportarse las máquinas, sino cómo las juzgamos. Y la primera regla es poderosa y sencilla: las personas juzgan a los humanos por sus intenciones y a las máquinas por sus resultados.
Entonces, ¿podemos confiar en las máquinas? ¿Realmente queremos hacerlo? Una respuesta general a preguntas tan ambiciosas quizá no sea posible, pero la investigación actual empieza a ofrecernos algunas orientaciones.
César A. Hidalgo es autor de How Humans Judge Machines, un libro revisado por pares publicado por MIT Press que se puede leer gratuitamente en judgingmachines.com. Ocupa una cátedra en el Instituto Artificial and Natural Intelligence (ANITI) de la Universidad de Toulouse, y tiene cargos en la Universidad de Manchester y en la Universidad de Harvard.
