Cuando el escritor de ciencia ficción Isaac Asimov formuló sus Tres leyes de la robótica, pensaba en androides. Imaginó un mundo en el que estos robots humanoides actuarían como sirvientes y necesitarían un conjunto de reglas de programación para evitar que causaran daño. Pero en los 75 años transcurridos desde la publicación del primer relato que presentó sus directrices éticas, se han producido importantes avances tecnológicos. Hoy tenemos una concepción muy distinta de cómo pueden ser los robots y de cómo interactuaremos con ellos.
El campo de la robótica, muy avanzado, está produciendo una enorme variedad de dispositivos, desde aspiradoras autónomas hasta drones militares y líneas de producción completas en fábricas. Al mismo tiempo, la inteligencia artificial y el aprendizaje automático sustentan cada vez más gran parte del software que nos afecta a diario, ya sea cuando buscamos en internet o cuando se nos asignan servicios gubernamentales. Estos avances nos conducen rápidamente a una época en la que los robots de todo tipo estarán presentes en casi todos los ámbitos de la sociedad y aumentarán considerablemente las interacciones entre personas y robots.
Las leyes de Asimov siguen citándose como modelo para orientar nuestro desarrollo de robots. El Gobierno de Corea del Sur incluso propuso una Carta de Ética Robótica en 2007 que reflejaba esas leyes. Pero, dado cuánto ha cambiado la robótica y cuánto seguirá creciendo en el futuro, debemos preguntarnos cómo podrían actualizarse estas reglas para una versión de la inteligencia artificial propia del siglo XXI.
Las tres leyes
Las leyes propuestas por Asimov se concibieron para proteger a los seres humanos de las interacciones con robots. Son las siguientes:
Un robot no debe dañar a un ser humano ni, por inacción, permitir que un ser humano sufra dañoUn robot debe obedecer las órdenes que le den los seres humanos, salvo cuando dichas órdenes entren en conflicto con la Primera LeyUn robot debe proteger su propia existencia siempre que esa protección no entre en conflicto con la Primera o la Segunda Ley
Como se ha señalado, uno de los problemas evidentes es que los robots actuales parecen mucho más diversos que los de los relatos de Asimov, e incluyen algunos mucho más sencillos. Por eso debemos considerar si debería existir un umbral de complejidad por debajo del cual no se requirieran estas reglas. Cuesta imaginar que una aspiradora robótica pueda dañar a seres humanos o que siquiera necesite la capacidad de obedecer órdenes. Es un robot con una sola tarea, que puede definirse de antemano antes de encenderlo.
En el otro extremo del espectro están los robots diseñados para entornos de combate militar. Estos dispositivos se están diseñando para espiar y desactivar bombas o para transportar cargas. Aún parecerían ajustarse a las leyes de Asimov, sobre todo porque se crean para reducir el riesgo para la vida humana en entornos muy peligrosos.
Pero solo hay un pequeño paso entre eso y suponer que el objetivo militar último sería crear robots armados que pudieran desplegarse en el campo de batalla. En esa situación, la Primera Ley —no dañar a los seres humanos— se vuelve muy problemática. A menudo, la función de las fuerzas armadas es salvar la vida de soldados y civiles, pero para ello suelen dañar a sus enemigos en el campo de batalla. Por eso quizá haya que considerar las leyes desde distintas perspectivas o interpretaciones.
La ambigüedad de las leyes ha llevado a autores, incluido Asimov, a explorar cómo podrían malinterpretarse o aplicarse incorrectamente. Un problema es que no definen qué es un robot. A medida que la investigación amplía los límites de la tecnología, surgen ramas de la robótica que estudian dispositivos de escala molecular.
Por ejemplo, los «robots» fabricados con ADN y proteínas podrían utilizarse en cirugía para corregir trastornos genéticos. En teoría, estos dispositivos deberían seguir las leyes de Asimov. Pero para obedecer órdenes transmitidas mediante señales de ADN, tendrían que convertirse esencialmente en parte integral del ser humano en el que actuasen. Esta integración dificultaría determinar si el robot sería lo bastante independiente como para estar sujeto a las leyes o funcionar al margen de ellas. Y, en la práctica, le resultaría imposible determinar si ejecutar las órdenes recibidas causaría daño al ser humano.
También cabe preguntarse qué se considera hacer daño a un ser humano. Esto podría ser un problema al considerar el desarrollo de bebés robot en Japón, por ejemplo. Si una persona adoptara uno de estos robots, podría sostenerse que sufriría daño emocional o psicológico. Pero ese daño quizá no se debiera a las acciones directas del robot o podría no hacerse evidente hasta muchos años después de que terminara la interacción entre la persona y el robot. Este problema también podría darse con una IA mucho más sencilla, como el uso del aprendizaje automático para crear música que suscite emociones.
Problemas prácticos
El otro gran problema de las leyes es que necesitaríamos un avance considerable en IA para que los robots pudieran seguirlas. A veces se describe el objetivo de la investigación en IA como el desarrollo de máquinas capaces de pensar y actuar de forma racional y como un ser humano. Hasta ahora, la emulación del comportamiento humano no se ha investigado a fondo en el campo de la IA, y el desarrollo de un comportamiento racional se ha centrado en ámbitos limitados y bien definidos.
Teniendo esto en cuenta, un robot solo podría operar en un ámbito muy limitado, y cualquier aplicación racional de las leyes estaría muy restringida. Puede que ni siquiera fuera posible con la tecnología actual, ya que un sistema capaz de razonar y tomar decisiones basándose en las leyes necesitaría una considerable capacidad de cálculo.
Dados todos estos problemas, las leyes de Asimov ofrecen poco más que principios fundacionales para quien quiera crear hoy un código robótico. Debemos complementarlas con un conjunto de leyes mucho más completo. Aun así, sin avances considerables en IA, aplicar esas leyes seguirá siendo una tarea imposible. Y eso sin siquiera considerar el daño potencial que podría producirse si los seres humanos empiezan a enamorarse de los robots.
