Un nuevo libro sostiene que un algoritmo capaz de predecir con un 97 % de precisión qué pasajeros sobrevivieron al desastre del Titanic de 1912 demuestra tanto el poder como las limitaciones de la inteligencia artificial.
Este hallazgo demuestra que la IA puede acertar, pero por motivos completamente equivocados.
Meredith Broussard, profesora de periodismo en la Universidad de Nueva York, expone esta paradoja en su nuevo libro Artificial Unintelligence: How Computers Misunderstand the World (MIT Press, 2018). Broussard lleva al lector por una serie de aventuras poco convencionales en el ámbito de la programación informática, incluida una mirada cercana a lo que realmente implica «hacer» inteligencia artificial.
El cálculo sobre el Titanic tiene en cuenta varias variables —como el género, la edad y la clase del billete— para crear un método que prediga qué pasajeros sobrevivieron y cuáles perecieron. Además de alcanzar una precisión del 97 %, el algoritmo reveló que el precio que pagó cada pasajero era el factor más importante para determinar si sobrevivió al desastre del Titanic: quienes viajaban en primera clase tenían más probabilidades de sobrevivir que quienes iban en segunda o tercera.
«A menudo, esto sorprende a quienes se dedican a las matemáticas; a las mujeres, las personas pobres y las personas pertenecientes a minorías no les sorprende».
Sin embargo, pese a la precisión relativa de esta herramienta informática, Broussard señala que «nuestra predicción estadística de quién sobrevivió y quién murió en el Titanic nunca tendrá una precisión del 100 %: ninguna predicción estadística puede tenerla ni la tendrá jamás, porque los seres humanos no son ni serán nunca estadísticas». Por ejemplo, relata las acciones de dos pasajeros cuyo destino no tuvo nada que ver con el género, la edad o el precio del billete, sino con la distancia que saltaron al huir del barco que se hundía.
La distinción es fundamental, observa, y ofrece una advertencia para el mundo actual, que, por supuesto, depende más de la tecnología y los datos que el de 1912.
«Nuestro modelo del Titanic podría utilizarse para justificar que se cobre menos a los pasajeros de primera clase por el seguro de viaje, pero eso es absurdo: no deberíamos penalizar a las personas por no ser lo bastante ricas para viajar en primera clase», escribe Broussard, profesora adjunta del Arthur L. Carter Journalism Institute de la Universidad de Nueva York y antigua científica informática en AT & T Bell Labs y el MIT Media Lab.
«Sobre todo, a estas alturas ya deberíamos saber que hay cosas que las máquinas nunca aprenderán y que el juicio, el refuerzo y la interpretación humanos siempre son necesarios».
A través de su ejemplo del Titanic, Broussard aborda el auge del tecnochauvinismo —la creencia de que la tecnología siempre es la solución— y sostiene que la era digital no resolverá los persistentes problemas sociales. De hecho, plantea que el aprendizaje automático podría agravarlos.
«Si creamos algoritmos de precios basados en cómo es el mundo, inevitablemente se cobrará más a las mujeres, las personas pobres y los clientes pertenecientes a minorías», observa.
«A menudo, esto sorprende a quienes se dedican a las matemáticas; a las mujeres, las personas pobres y las personas pertenecientes a minorías no les sorprende. La raza, el género y la clase social influyen en los precios de muchas formas evidentes y solapadas. A las mujeres se les cobra más que a los hombres por los cortes de pelo, la limpieza en seco, las maquinillas de afeitar e incluso el desodorante. Los estadounidenses de origen asiático tienen el doble de probabilidades de que se les cobre más por los cursos de preparación para el SAT. Los camareros afroamericanos reciben menos propinas que sus compañeros blancos».
Concluye que lo que necesitamos no son tecnologías nuevas y mejoradas, sino comprender los límites de lo que podemos hacer con la tecnología. Así podremos tomar mejores decisiones sobre cómo utilizarla para mejorar el mundo para todos.
