Las preocupaciones en torno a la IA incluyen que amplifique sesgos y estereotipos potencialmente dañinos, afirma un experto en ética tecnológica.
Ella afirma que la “deuda ética” puede acumularse si no se consideran las posibles consecuencias negativas o los daños sociales de la IA.
La única manera de reducir la deuda ética es dedicar tiempo a anticipar lo que podría salir mal, pero esto no es algo que se enseñe necesariamente a los tecnólogos, añade.
A medida que crece la preocupación pública por las implicaciones éticas y sociales de la inteligencia artificial, podría parecer que es hora de frenar. Sin embargo, dentro de las propias empresas tecnológicas la opinión es justo la contraria. Mientras la carrera de la IA de las grandes tecnológicas se intensifica, sería un “error absolutamente fatal en este momento preocuparse por cosas que se pueden corregir más tarde”, escribió un ejecutivo de Microsoft en un correo electrónico interno sobre la IA generativa, como informó The New York Times.
En otras palabras, es hora de “avanzar rápido y romper cosas”, citando el antiguo lema de Mark Zuckerberg. Por supuesto, cuando se rompen cosas, puede que haya que arreglarlas más tarde, y eso tiene un costo.
En el desarrollo de software, el término “deuda técnica” se refiere al costo implícito de realizar correcciones futuras como consecuencia de elegir soluciones más rápidas y menos cuidadosas en el presente. Lanzar productos al mercado con prisa puede significar publicar software que no está listo, sabiendo que, una vez en el mercado, se descubrirán cuáles son los errores y, con suerte, podrán corregirlos entonces.
Sin embargo, las noticias negativas sobre la IA generativa tienden a no referirse a este tipo de errores. En cambio, gran parte de la preocupación gira en torno a sistemas de IA que amplifican sesgos y estereotipos dañinos y estudiantes que usan la IA de manera engañosa. Se habla de preocupaciones sobre la privacidad, personas engañadas por la desinformación, explotación laboral y temores sobre la rapidez con la que pueden ser reemplazados los empleos humanos, por mencionar algunos. Estos problemas no son fallos de software. Darse cuenta de que una tecnología refuerza la opresión o el sesgo es muy distinto de descubrir que un botón de una página web no funciona.
Como docente e investigador en ética de la tecnología, he reflexionado mucho sobre este tipo de “errores”. Lo que se acumula aquí no es solo deuda técnica, sino deuda ética. Así como la deuda técnica puede derivar de pruebas limitadas durante el proceso de desarrollo, la deuda ética surge de no considerar posibles consecuencias negativas o daños sociales. Y, en el caso particular de la deuda ética, quienes la contraen rara vez son quienes terminan pagándola.
Y comienza la carrera
Tan pronto como ChatGPT, de OpenAI, se lanzó en noviembre de 2022, el disparo de salida de la actual carrera por la IA, imaginé que el registro de deudas empezaría a llenarse.
En cuestión de meses, Google y Microsoft lanzaron sus propios programas de IA generativa, que parecían salir al mercado con prisa para no quedarse atrás. El precio de las acciones de Google cayó cuando su chatbot Bard proporcionó con seguridad una respuesta incorrecta durante una demostración de la propia empresa. Cabría esperar que Microsoft fuera especialmente cautelosa con los chatbots, teniendo en cuenta Tay, su bot basado en Twitter que fue desactivado casi de inmediato en 2016 tras difundir mensajes misóginos y supremacistas blancos. Sin embargo, las primeras conversaciones con Bing, impulsado por IA, dejaron inquietos a algunos usuarios, y ha repetido desinformación conocida.
Cuando llegue el momento de pagar la deuda social de estos lanzamientos apresurados, espero que se hable de consecuencias no intencionadas o imprevistas. Después de todo, incluso con directrices éticas vigentes, no es como si OpenAI, Microsoft o Google pudieran ver el futuro. ¿Cómo puede alguien saber qué problemas sociales podrían surgir antes de que la tecnología esté siquiera completamente desarrollada?
La raíz de este dilema es la incertidumbre, un efecto secundario común de muchas revoluciones tecnológicas, pero magnificado en el caso de la inteligencia artificial. Después de todo, parte de la esencia de la IA es que sus acciones no se conocen de antemano. Es posible que la IA no esté diseñada para producir consecuencias negativas, pero sí para producir lo imprevisto.
Sin embargo, sería poco sincero sugerir que los tecnólogos no pueden especular con precisión sobre cuáles podrían ser muchas de estas consecuencias. Hasta ahora, han existido innumerables ejemplos de cómo la IA puede reproducir sesgos y agravar desigualdades sociales, pero las propias empresas tecnológicas rara vez identifican públicamente estos problemas. Fueron investigadores externos quienes detectaron sesgos raciales en los sistemas comerciales de análisis facial de uso generalizado, por ejemplo, y en un algoritmo de predicción de riesgos médicos que se aplicaba a unos 200 millones de estadounidenses. Académicos y organizaciones de defensa o de investigación, como la Algorithmic Justice League y el Distributed AI Research Institute realizan gran parte de este trabajo: identificar daños a posteriori. Y es poco probable que este patrón cambie si las empresas siguen despidiendo a especialistas en ética.
Especular – con responsabilidad
A veces me describo como un optimista tecnológico que piensa y se prepara como un pesimista. La única forma de reducir la deuda ética es dedicar tiempo a anticipar lo que podría salir mal, pero esto no es algo que se enseñe necesariamente a los tecnólogos a hacer.
El científico y emblemático escritor de ciencia ficción Isaac Asimov dijo en una ocasión que los autores de ciencia ficción “prevén lo inevitable, y aunque los problemas y las catástrofes pueden ser inevitables, las soluciones no lo son”. Por supuesto, los escritores de ciencia ficción no suelen encargarse de desarrollar estas soluciones, pero en este momento quienes tienen esa tarea son los tecnólogos que desarrollan la IA.
Entonces, ¿cómo pueden los diseñadores de IA aprender a pensar más como los escritores de ciencia ficción? Uno de mis proyectos de investigación actuales se centra en desarrollar formas de apoyar este proceso de especulación ética. No me refiero a diseñar pensando en guerras lejanas de robots, sino a la capacidad de considerar las consecuencias futuras en general, incluso en un futuro muy cercano.
Es un tema que he venido explorando en mi docencia desde hace tiempo, animando a los estudiantes a analizar las implicaciones éticas de la tecnología de ciencia ficción para prepararlos a hacer lo mismo con la tecnología que puedan crear. Un ejercicio que desarrollé se llama Black Mirror Writers Room, en el que los estudiantes especulan sobre posibles consecuencias negativas de tecnologías como los algoritmos de las redes sociales y los coches autónomos. Con frecuencia, estos debates se basan en patrones del pasado o en el potencial de actores malintencionados.
Doctorando Shamika Klassen y yo evaluamos este ejercicio didáctico en un estudio de investigación y encontramos que animar a los estudiantes de informática a imaginar lo que podría salir mal en el futuro, y después a idear cómo podríamos evitar ese futuro desde el principio, tiene beneficios pedagógicos.
Sin embargo, el propósito no es preparar a los estudiantes para esos futuros lejanos, sino enseñar la especulación como una habilidad que puede aplicarse de inmediato. Esta habilidad es especialmente importante para ayudar a los estudiantes a imaginar daños a otras personas, ya que los daños tecnológicos a menudo afectan de manera desproporcionada a grupos marginados que están subrepresentados en las profesiones de la informática. Los próximos pasos de mi investigación consisten en trasladar estas estrategias de especulación ética a equipos reales de diseño tecnológico.
¿Es hora de hacer una pausa?
En marzo de 2023, una carta abierta con miles de firmas abogaba por pausar el entrenamiento de sistemas de IA más potentes que GPT-4. Sin control, el desarrollo de la IA “podría eventualmente superarnos en número, superarnos en inteligencia, volvernos obsoletos y reemplazarnos”, o incluso provocar una “pérdida de control de nuestra civilización”, advirtieron sus autores.
Como las críticas a la carta señalan, este enfoque en riesgos hipotéticos ignora los daños reales que ocurren hoy. No obstante, creo que hay poco desacuerdo entre los especialistas en ética de la IA en que el desarrollo de la IA debe ralentizarse: que los desarrolladores se encojan de hombros y aludan a “consecuencias no intencionadas” no bastará.
Solo llevamos unos pocos meses de una “carrera por la IA” que está cobrando un impulso considerable, y creo que ya está claro que las consideraciones éticas están quedando relegadas. Pero la deuda llegará a su vencimiento tarde o temprano, y la historia sugiere que los ejecutivos y los inversores de las grandes tecnológicas quizá no serán quienes la paguen.
