Científicos de la Universidad de Hertfordshire, en el Reino Unido, han desarrollado un concepto llamado empoderamiento para ayudar a los robots a proteger y servir a los seres humanos, sin dejar de mantenerse a salvo.
Los robots son cada vez más comunes en nuestros hogares y lugares de trabajo, y todo indica que esta tendencia continuará. Muchos tendrán que interactuar con seres humanos en situaciones impredecibles. Por ejemplo, los coches autónomos deben mantener a salvo a sus ocupantes y, al mismo tiempo, proteger el vehículo de posibles daños. Los robots que cuidan de las personas mayores tendrán que adaptarse a situaciones complejas y responder a las necesidades de quienes los tienen a su cargo.
En los últimos tiempos, pensadores como Stephen Hawking han advertido sobre los posibles peligros de la inteligencia artificial, lo que ha suscitado un debate público. «La opinión pública parece oscilar entre el entusiasmo por el progreso y la minimización de los riesgos, hasta llegar al miedo absoluto», afirma Daniel Polani, científico que participó en la investigación, publicada recientemente en la revista Frontiers in Robotics and AI.
Sin embargo, la idea de que las máquinas «inteligentes» se descontrolen y se vuelvan contra sus creadores humanos no es nueva. En 1942, el escritor de ciencia ficción Isaac Asimov propuso sus tres leyes de la robótica, que rigen cómo deben interactuar los robots con los seres humanos. En pocas palabras, estas leyes establecen que un robot no debe hacer daño a un ser humano ni permitir que sufra daño. También buscan garantizar que los robots obedezcan las órdenes humanas y protejan su propia existencia, siempre que esto no cause daño a una persona.
Las leyes tienen buenas intenciones, pero pueden malinterpretarse, sobre todo porque los robots no entienden los matices ni las ambigüedades del lenguaje humano. De hecho, los relatos de Asimov están llenos de ejemplos de robots que interpretan mal el espíritu de las leyes, con consecuencias trágicas.
Un problema es que el concepto de «daño» es complejo, depende del contexto y resulta difícil de explicar claramente a un robot. Si un robot no entiende qué es el «daño», ¿cómo puede evitar causarlo? «Nos dimos cuenta de que podíamos recurrir a distintas perspectivas para lograr que los robots se comportaran “bien”, en términos generales de acuerdo con las leyes de Asimov», afirma Christoph Salge, otro científico que participó en el estudio.
El concepto que desarrolló el equipo se llama empoderamiento. En vez de intentar que una máquina entienda cuestiones éticas complejas, se basa en que los robots procuren mantener abiertas todas sus opciones. «El empoderamiento consiste en encontrarse en un estado en el que se tiene la mayor capacidad potencial de influir en el mundo que se puede percibir», explica Salge. «En el caso de un robot sencillo, esto podría significar regresar a salvo a su estación de carga y evitar quedarse atascado, lo que limitaría sus opciones de movimiento. En un robot más futurista, parecido a un ser humano, no se trataría solo del movimiento: también podrían intervenir diversos parámetros, que darían lugar a motivaciones más humanas».
El equipo codificó matemáticamente el concepto de empoderamiento para que los robots pudieran adoptarlo. Aunque los investigadores desarrollaron el concepto originalmente en 2005, en un avance clave reciente lo ampliaron para que el robot también procure mantener el empoderamiento de las personas. «Queríamos que el robot viera el mundo a través de los ojos de la persona con la que interactúa», explica Polani. «Mantener a salvo a la persona consiste en que el robot actúe para aumentar su propio empoderamiento».
«En una situación peligrosa, el robot intentaría mantener a la persona con vida y evitar que sufriera lesiones», afirma Salge. «No queremos que los robots nos protejan de forma opresiva para minimizar cualquier posibilidad de daño; queremos vivir en un mundo donde los robots mantengan nuestro empoderamiento».
Este concepto altruista de empoderamiento podría impulsar robots que se atengan al espíritu de las tres leyes de Asimov, desde coches autónomos hasta mayordomos robóticos. «En definitiva, creo que el empoderamiento podría constituir una parte importante de la ética general de los robots», afirma Salge.
