Se ha hablado mucho de algunos experimentos de DeepMind que estudian si los sistemas de IA se comportan de forma agresiva o colaborativa al jugar. Los jugadores reúnen manzanas virtuales y pueden incapacitar temporalmente a un oponente al «dispararle» con un «láser» virtual. A los humanos les sorprende que, a veces, las IA decidan que les conviene disparar a su oponente en vez de recoger manzanas pacíficamente.
Mi pregunta es sencilla: ¿qué nos dice esto? La respuesta también es sencilla: absolutamente nada. Si le pides a una IA que juegue a un juego en el que está permitido disparar láseres a los oponentes, no sorprende que la IA les dispare, ya sean virtuales o físicos. No esperarías que a priori desarrollara alguna versión de las leyes de Asimov y dijera: «No puedo hacer esto». (Si el software no le permite disparar los láseres, no lo hará, pero eso no tiene mucho interés). Tampoco esperarías que una IA tuviera una crisis de conciencia y dijera: «No, no puedo hacerlo». A menos que se la hubiera programado con algún tipo de módulo de culpa, que, hasta donde sé, no existe.
Al fin y al cabo, los humanos hacemos lo mismo. Matamos tanto en los videojuegos de disparos en primera persona como en la vida real. Tenemos divisiones enteras del Gobierno dedicadas a organizar el asesinato de otras personas. (Con ironía, lo llamamos «mantener la paz»). Y, aunque los humanos tenemos un módulo de culpa, por lo general solo se activa después de los hechos.
La única pregunta interesante que podría responder un juego como este es si los sistemas de IA están más o menos dispuestos que los humanos a apretar el gatillo. Me atrevería a apostar que:
- Cuando los ordenadores juegan contra humanos, ganan los ordenadores. Ya tenemos bastante experiencia perdiendo al ajedrez, al Go y al póquer.
- Es más probable que los humanos recurran a las armas porque, bueno, eso es lo que hacemos. La investigación de DeepMind sugiere que un ordenador solo dispararía si formara parte de una estrategia eficaz para ganar; no lo haría por reflejo, por miedo ni por diversión.
Que disparar como parte de una estrategia eficaz para ganar suponga una mejora respecto al comportamiento humano depende de cada cual, pero es justo lo que cabría esperar. DeepMind no venció a Lee Sedol al Go por negarse a ser agresiva.
Y aun así, dado que solo hablamos de un juego, no estoy seguro de que el experimento nos muestre nada. Esperaría que una IA jugara bastante bien a un videojuego de disparos en primera persona, y no veo motivo para que deduzca las leyes de Asimov desde primeros principios cuando solo está exterminando bits. Desde luego, no me ofrecería voluntario para participar en un combate real contra alguna aterradora creación de Boston Dynamics y espero que a nadie se le ocurra realizar ese experimento.
Del mismo modo, no veo motivo para que una IA «aprenda» que en su universo hay cosas que no son solo bits. Nos fascina el «aprendizaje automático», pero, al final, las máquinas solo aprenden lo que les decimos que aprendan. Soy escéptico respecto a las singularidades, pero sí estoy de acuerdo en que nos enfrentaremos a una cuando un ordenador pueda aprender por sí solo que algunos patrones de bits que recibe a través de sus sensores corresponden a seres humanos y que esos patrones son cualitativamente distintos de los de perros, gatos o rocas.
Al final, volvemos al punto de partida. El miedo a la IA refleja el miedo que nos tenemos a nosotros mismos. La IA imita el comportamiento humano porque le enseñamos a hacerlo; en este caso, al pedirle que juegue con reglas humanas. Como ya he dicho, si queremos una IA mejor, tenemos que ser mejores personas. Si queremos una IA capaz de distinguir entre los seres humanos y los bits, tenemos que enseñarle qué son los seres humanos y cómo comportarse de forma distinta en su presencia. («Puedes disparar al lobo; al ser humano, no»). Y si no queremos que los agentes de IA disparen, tenemos que crear software que no tenga esa capacidad.
No les des armas a tus IA.
