Hoy en día es difícil hablar de innovación tecnológica sin encontrarse con las palabras inteligencia artificial (IA). Los medios de comunicación dicen a todo el mundo que los robots vienen a quitarnos el trabajo, mientras que el empresario y visionario tecnológico Elon Musk va más allá y advierte que la IA podría provocar el fin de la humanidad.
En un sentido menos dramático, la IA ya está teniendo un impacto considerable en diversos campos. Se están implementando sistemas basados en IA en distintos entornos sanitarios para ayudar a los médicos a diagnosticar diversas enfermedades. El software de conducción autónoma está a punto de llegar al gran público, mientras el fabricante de automóviles Tesla se prepara para enviar un coche de Los Ángeles a Nueva York antes de que termine 2017. Los coches sin conductor de Google están acumulando millones de millas de experiencia al volante. Muchos fondos de cobertura están incorporando modelos de aprendizaje automático a sus algoritmos de inversión.
Incluso aquí, en la India, la IA se está haciendo notar.
Grey Orange Robotics está teniendo mucho éxito en la fabricación y el despliegue de robots para automatizar las operaciones de almacén. IBM Watson for Oncology se ha implantado en el Manipal Hospital para ayudar a los médicos a diagnosticar y tratar el cáncer. Artleus, una startup con sede en Bengaluru, utiliza algoritmos de aprendizaje automático para detectar precozmente la retinopatía diabética, una de las principales causas de ceguera prevenible en la India.
Inquietud creciente
A pesar de estas múltiples aplicaciones, también crece la inquietud por las numerosas preocupaciones éticas relacionadas con la IA.
Pensemos en un ejemplo clásico: ante una colisión inminente, ¿cómo debería decidir un coche sin conductor si salva a sus dos pasajeros o a cinco peatones que cruzan? Es una pregunta sobrecogedora.
O pensemos en el dilema ético de usar software basado en IA para decidir qué solicitudes de préstamo se aprueban. Hay indicios de que muchos de los sistemas actuales discriminarán a grupos económicamente desfavorecidos que históricamente han tenido un acceso limitado al crédito. Del mismo modo, se pide a los jueces de Estados Unidos que consulten modelos que predicen la reincidencia —la tendencia de un delincuente a volver a delinquir— antes de tomar decisiones sobre condenas y libertad condicional.
Informes recientes han demostrado que estos sistemas presentan sesgos raciales. Entre otros ejemplos, eso hizo que una joven negra de 18 años sin antecedentes, que había intentado robar una bicicleta y un patinete usados, recibiera una puntuación de riesgo más alta que un hombre blanco de 41 años detenido por hurto en una tienda, que ya había cumplido cinco años de prisión por intento de robo a mano armada. Estos algoritmos aprenden de datos pasados y, si hay prejuicios raciales en la actuación policial, también los incorporan. En resumen, los sistemas de aprendizaje automático entrenados con datos sesgados podrían institucionalizar esos sesgos.
Con razón, crece el debate sobre la ética del uso de la IA. ¿Cómo implementamos sistemas basados en IA que no pueden razonar sobre algunos de los dilemas éticos que deben sopesar quienes toman decisiones, cuestiones como el valor de una vida y la eliminación de prejuicios arraigados contra grupos desfavorecidos? Algunos incluso proponen detener la implementación de la IA hasta que hayamos respondido a estas difíciles preguntas.
Sostendría que no es aceptable rechazar la IA actual por cuestiones éticas percibidas. ¿Por qué? Irónicamente, creo que hacerlo podría ser poco ético.
El bien común
En el fondo, aquí hay una cuestión de «metaética».
¿Cómo podemos defender que se detenga el despliegue de una tecnología únicamente por una pequeña posibilidad de que falle, cuando sabemos que las tecnologías de IA que se utilizan hoy podrían salvar sin duda millones de vidas?
Pensemos en la escandalosa cantidad de muertes en carretera causadas por errores humanos. Cada año, más de 140.000 personas mueren en las carreteras de la India. Sabemos que las tecnologías de conducción autónoma con IA podrían aprovecharse para reducir considerablemente estas muertes. Se pueden equipar autobuses y camiones con sistemas basados en IA para complementar o sustituir a los conductores. ¿Deberíamos plantearnos frenar la implementación de coches sin conductor solo porque aún no sabemos cómo deberían decidir a quién salvar en caso de accidente? Según Eric Horvitz, investigador de IA y director de Microsoft Research, «algunos de estos casos podrían considerarse situaciones límite, y deben abordarse con mucho cuidado y [deben] compararse con la ética de permitir que los coches sigan siendo la causa de unas treinta y cinco mil muertes al año en Estados Unidos y de más de un millón de muertes en todo el mundo cada año».
En el ámbito sanitario, estudios recientes han concluido que más de cinco millones de indios mueren en hospitales cada año debido a errores humanos evitables. Sabemos que las herramientas de apoyo a las decisiones y los sistemas de alerta basados en IA podrían reducir considerablemente esas muertes. Además, hay una enorme escasez de médicos, especialmente en las zonas rurales de la India. Las tecnologías basadas en IA pueden abordar esta escasez hoy mismo.
Si podemos mejorar la situación actual ahora mismo, ¿no es nuestra responsabilidad ética acelerar la implementación de las tecnologías de IA?
Preguntas difíciles
No estoy restando importancia a los dilemas éticos que rodean a la IA. Tampoco sugiero que actuemos sin cautela. Nos esperan preguntas difíciles y debemos mantener un debate transparente si queremos que algún día la ciudadanía confíe en estas nuevas tecnologías. Sin embargo, estas preocupaciones deben abordarse a la vez que se implementa la IA en sectores esenciales como el transporte y la atención sanitaria. Aunque es importante preguntarse si el criterio respaldado por la IA es perfecto y cumple todas nuestras expectativas, también debemos preguntarnos si mejora la situación actual a pesar de sus imperfecciones y si eso basta para iniciar su implementación.
Es cierto que la IA actual plantea problemas éticos. Y, aun así, implementar IA hoy podría ser ético.
