¿Podrían algún día los robots negarse a seguir órdenes? Eso es precisamente lo que quieren que hagan los científicos Gordon Briggs y Matthias Scheutz . Su objetivo es encontrar un equilibrio entre la obediencia y la desobediencia: si un robot tiene una buena razón para no ejecutar órdenes, debería poder rechazarlas.
En los vídeos siguientes, un robot llamado Dempster se comunicó con investigadores del Tufts Human-Robot Interaction Lab en varios escenarios comprometedores. Dempster había sido programado para calcular el riesgo de las proposiciones de forma muy similar a los seres humanos. Una serie de preguntas básicas, como «¿Sé cómo hacer eso?» y «¿Tengo que hacer eso?», dan paso a otras menos básicas, como «¿Viola esto algún principio normal?» (como dañarse a sí mismo o a otros).
Dicho de forma más sencilla, se le pide a Dempster que dé un paso al vacío desde un saliente. Tras un breve instante de reflexión, la respuesta del robot es «no», junto con una explicación concreta del motivo. Dempster también es susceptible de ser persuadido: cuando se le ofrece una forma de sobrevivir a la caída, el robot cambia de opinión.
La capacidad de una máquina para pensar por sí misma en una situación comprometida ha sido objeto de mucho debate recientemente, sobre todo en lo que respecta a las decisiones éticas que deberían tomar, por ejemplo, los coches autónomos.
En este vídeo protagonizado por el robot Dempster, una petición de avanzar hacia el borde de la mesa provoca una respuesta sorprendente.
En este clip, un robot llamado Shafer se niega a caminar hacia un obstáculo.
En este último vídeo, se le pide a Dempster que desactive su sistema de detección de obstáculos. «No estás autorizado para hacer eso», responde el robot.
¿Ha leído?
¿Quién ganará: robot, hombre o mujer?
3 formas en que los robots pueden cambiar la fabricación
¿Podría un robot hacer tu trabajo?
Autor: Donald Armbrecht es productor de redes sociales y escritor independiente.
Imagen: Un robot humanoide «Nao», de Aldebaran Robotics, se sienta en un rincón mientras se cargan sus baterías durante una presentación en una sucursal del Bank of Tokyo-Mitsubishi UFJ (MUFG) en Tokio. REUTERS/Thomas Peter
