¿Deben las máquinas desobedecernos?

Vamos conduciendo nuestro coche por una carretera mojada. Tomamos una curva demasiado deprisa y el vehículo comienza a derrapar. En cuestión de milésimas de segundo, el ordenador de a bordo detecta el desplazamiento y toma los mandos sin preguntarnos. Sirviéndose del ESP (control de estabilidad), el ABS (sistema antibloqueo de ruedas) y el EBV (reparto de frenado electrónico) consigue corregir la trayectoria del automóvil y evitar el accidente.

El ordenador de abordo nos ha salvado la vida. Pero también nos ha desobedecido, puesto que ha comenzado a tomar decisiones sin nuestro permiso.

La desobediencia de las máquinas es un tema polémico. Como siempre, los tremendistas nos previenen del apocalipsis venidero, influidos por la ficción que ha mostrado cómo HAL 9000, la computadora de 2001 Odisea en el espacio, o AVA, la humanoide de Ex Machina, se rebelan con el fin de destruir a su creador.

Una paranoia que reaparece cada vez que los humanos sospechan del imprevisible comportamiento proveniente de la inteligencia artificial. Es conocido el caso de Facebook, por ejemplo, que hace poco desconectó dos de sus ordenadores (llamados Alice y Bob) porque, a base de conversar entre ellos, terminaron creando su propio lenguaje. Un lenguaje que los científicos de los laboratorios de esa Compañía no consiguieron comprender, optando entonces por la solución más radical pero, paradójicamente, también la menos científica: eliminar el problema cercenándolo.

Este es el tema a debate. ¿Es malo que las máquinas nos desobedezcan? Porque lo más probable es que el peligro que entraña el que lo hagan está más en nuestra imaginación que en la realidad.

Para demostrarlo, los ingenieros de Human Robot Interaction Laboratory (HRI) acaban de presentar el primer robot que desobedece nuestras órdenes. Pero solo si estas son absurdas o entrañan un peligro para su integridad.

Es cierto que tal comportamiento cuestiona las famosas tres leyes de la robótica de Asimov, pero, por otro lado, establece una relación hombre máquina mucho más equitativa.

En el experimento de HRI, el hombre le dice al pequeño robot, que se encuentra al borde de una mesa, que camine hacia delante. La máquina se niega aduciendo que delante no hay superficie. Pero cuando el hombre se compromete a sujetarle para que no caiga al suelo, el robot comienza a caminar confiando en su palabra.

Muchas de las especies que poblamos este planeta llevamos milenios sobreviviendo gracias a las relaciones simbióticas que hemos establecido entre animales muy diferentes. La única diferencia es que, en esta ocasión, los creadores de las otras especies somos nosotros mismos.

Entonces, la preguntas a responder es: ¿debemos temer a las máquinas o debemos temer a sus creadores?

Pero algo sí que es cierto: el aprendizaje por nuestra parte para aceptar que en ocasiones es bueno que la máquina nos desobedezca comenzó hace ya tiempo. Y continuará mejorando cada vez que dicha desobediencia nos repare algún beneficio tangible. Y si no, recordemos lo bien que nos sentimos aquel día, cuando el ordenador de a bordo de nuestro coche tomó los mandos… y nos salvó la vida.