Hoy resulta difícil imaginar una tecnología tan fascinante y aterradora como el aprendizaje automático. Aunque la cobertura mediática y los artículos de investigación destacan constantemente el potencial del aprendizaje automático para convertirse en el mayor motor de cambios positivos en las empresas y la sociedad, la pregunta que persiste en la mente de todos es: «Bueno, ¿y si todo sale terriblemente mal?»
Durante años, los expertos han advertido de los efectos imprevistos de la inteligencia artificial (IA) general en la sociedad. Ray Kurzweil predice que, para 2029, las máquinas inteligentes podrán superar en astucia a los seres humanos. Stephen Hawking sostiene que «una vez que los seres humanos desarrollen una IA completa, esta despegará por sí sola y se rediseñará a un ritmo cada vez mayor». Elon Musk advierte que la IA puede constituir un «riesgo fundamental para la existencia de la civilización humana». Los medios están repletos de opiniones alarmistas sobre el aterrador potencial de la IA general.
Con frecuencia, estas profecías distópicas han dado lugar a llamamientos a implementar los sistemas de IA de forma más ética, como si los ingenieros debieran imbuir de algún modo en los sistemas autónomos un sentido de la ética. Según algunos expertos en IA, podemos enseñar a nuestros futuros amos robóticos a distinguir el bien del mal, como si fueran una «IA buen samaritana» que siempre actuará con justicia por iniciativa propia y ayudará a las personas en apuros.
Aunque ese futuro aún está a décadas de distancia, hoy existe mucha incertidumbre sobre cómo alcanzaremos este nivel de inteligencia general de las máquinas, si es que llegamos a hacerlo. Pero ahora mismo es aún más crucial prestar atención urgente a cómo toman decisiones morales incluso las aplicaciones de IA estrecha que existen hoy en situaciones prácticas de la vida cotidiana. Por ejemplo, esto es relevante cuando los algoritmos deciden quién puede acceder a préstamos o cuando los vehículos autónomos deben calcular el valor de una vida humana en situaciones peligrosas.
Enseñar moralidad a las máquinas es difícil porque los seres humanos no pueden transmitirla objetivamente mediante métricas medibles que un ordenador pueda procesar con facilidad. De hecho, cabe incluso cuestionar si, como seres humanos, comprendemos realmente la moralidad de una manera sólida y en la que todos podamos estar de acuerdo. Ante los dilemas morales, tendemos a confiar en la intuición en lugar de realizar cálculos complejos de costes y beneficios. Las máquinas, en cambio, necesitan métricas explícitas y objetivas que puedan medirse y optimizarse con claridad. Por ejemplo, una IA puede destacar en juegos con reglas y límites claros aprendiendo a optimizar la puntuación mediante partidas repetidas.
Tras sus experimentos con aprendizaje profundo por refuerzo en videojuegos de Atari, DeepMind, de Alphabet, logró vencer a los mejores jugadores humanos de Go. Mientras tanto, OpenAI acumuló «toda una vida» de experiencia para vencer a los mejores jugadores humanos en el torneo de Dota 2 de Valve, una de las competiciones de deportes electrónicos más populares del mundo.
Sin embargo, en situaciones reales, los problemas de optimización son mucho más complejos. Por ejemplo, ¿cómo se enseña a una máquina a maximizar algorítmicamente la equidad o a superar los sesgos raciales y de género presentes en sus datos de entrenamiento? No se puede enseñar a una máquina qué es justo si los ingenieros que diseñan el sistema de IA no tienen una concepción precisa de la justicia.
Esto ha llevado a algunos autores a temer que una aplicación ingenua de algoritmos a problemas cotidianos puedaamplificar la discriminación estructural y reproducir los sesgos presentes en los datos en que se basan. En el peor de los casos, los algoritmos podrían denegar servicios a las minorías, perjudicar las oportunidades laborales de las personas o hacer que el candidato político equivocado sea elegido.
A partir de nuestra experiencia en aprendizaje automático, creemos que hay tres maneras de empezar a diseñar máquinas más alineadas con la ética:
1. Definir el comportamiento ético
Los investigadores de IA y los especialistas en ética deben formular los valores éticos como parámetros cuantificables. En otras palabras, deben proporcionar a las máquinas respuestas explícitas y reglas de decisión para cualquier dilema ético potencial que puedan encontrar. Esto exigiría que los seres humanos se pusieran de acuerdo sobre la conducta más ética en cada situación, una tarea difícil, pero no imposible. Por ejemplo, la Comisión de Ética alemana sobre la conducción automatizada y conectada ha recomendado programar específicamente valores éticos en los vehículos autónomos para priorizar por encima de todo la protección de la vida humana. En caso de accidente inevitable, el vehículo debería tener «prohibido compensar a unas víctimas con otras». En otras palabras, si una colisión es inevitable, el vehículo no debería poder decidir si mata a una persona basándose en características individuales como la edad, el género o la constitución física o mental.
2. Recabar la opinión colectiva sobre nuestra moralidad
Los ingenieros deben recopilar suficientes datos sobre medidas éticas explícitas para entrenar adecuadamente los algoritmos de IA. Incluso después de definir métricas específicas para nuestros valores éticos, un sistema de IA podría tener dificultades para aprenderlas si no hay suficientes datos imparciales con los que entrenar los modelos. Obtener datos adecuados es difícil porque las normas éticas no siempre pueden estandarizarse con claridad. Cada situación exige un enfoque ético distinto y, en algunos casos, puede que no exista una única conducta ética posible. Basta pensar en las armas autónomas letales que se están desarrollando actualmente para uso militar. Una forma de abordar este problema sería recabar, mediante colaboración abierta, posibles soluciones a dilemas morales de millones de personas. Por ejemplo, el proyecto Moral Machine del MIT muestra cómo los datos obtenidos mediante colaboración colectiva pueden servir para entrenar eficazmente a las máquinas y ayudarlas a tomar mejores decisiones morales en el contexto de los vehículos autónomos.
3. Hacer transparente la IA
Los responsables políticos deben aplicar directrices que aumenten la transparencia de las decisiones de la IA en materia ética, especialmente en lo que respecta a las métricas y los resultados éticos. Si los sistemas de IA cometen errores o tienen consecuencias indeseadas, no podemos aceptar «lo hizo el algoritmo» como excusa válida. Pero también sabemos que exigir una transparencia algorítmica total es técnicamente inviable y, francamente, poco útil. Las redes neuronales son sencillamente demasiado complejas para que las examinen inspectores humanos. En su lugar, debería haber más transparencia sobre cómo cuantificaron los ingenieros los valores éticos antes de programarlos, así como sobre los resultados que produjo la IA como consecuencia de esas decisiones. En el caso de los vehículos autónomos, por ejemplo, esto podría implicar conservar en todo momento registros detallados de todas las decisiones automatizadas para garantizar su rendición de cuentas ética.
Creemos que estas tres recomendaciones deben considerarse un punto de partida para desarrollar sistemas de IA alineados con la ética. Si no incorporamos la ética a los sistemas de IA, podríamos situarnos en la peligrosa posición de permitir que los algoritmos decidan qué es lo mejor para nosotros. Por ejemplo, en una situación de accidente inevitable, los vehículos autónomos tendrán que tomar alguna decisión, para bien o para mal. Pero si sus diseñadores no especifican un conjunto de valores éticos que sirvan de guía para decidir, el sistema de IA podría encontrar una solución que cause más daño. Esto significa que no podemos limitarnos a negarnos a cuantificar nuestros valores. Al abandonar este debate ético crucial, estamos tomando una decisión moral implícita. Y a medida que la inteligencia de las máquinas se vuelva cada vez más omnipresente en la sociedad, el coste de la inacción podría ser enorme: podría afectar negativamente a la vida de miles de millones de personas.
No podemos dar por sentado que las máquinas sean intrínsecamente capaces de comportarse moralmente. Los seres humanos deben enseñarles qué es la moralidad y cómo puede medirse y optimizarse. Para los ingenieros de IA, esto puede parecer una tarea abrumadora. Al fin y al cabo, definir los valores morales es un desafío con el que la humanidad ha lidiado a lo largo de toda su historia. Sin embargo, el estado actual de la investigación en IA exige que por fin definamos la moralidad y la cuantifiquemos en términos explícitos. Los ingenieros no pueden crear una «IA buen samaritana» si carecen de una fórmula para definir al ser humano buen samaritano.
