Este artículo se publica en colaboración con The Conversation.
Roboticista Sabine Hauert, de la Universidad de Bristol (Reino Unido), escribió en Nature a comienzos de este año:
Mis colegas y yo pasamos buena parte de las cenas explicando que no somos malvados […]
La gente está preocupada, según dijo.
Escuchan un debate mayormente unilateral que les hace temer que los robots les quiten el trabajo, les inquieta que la IA suponga una amenaza existencial y se preguntan si deberían aprobarse leyes para mantener bajo “control” una tecnología hipotética.
Estos temores no se ven aliviados por la epidemia continua de guiones sobre inteligencia artificial (IA) y robofobia que salen de Hollywood.
Es difícil citar ejemplos de películas comerciales recientes con robots e IA que no incluyan escenas de fobia hacia la IA (Transcendence, Eagle Eye) o de robofobia (Oblivion, cualquiera de las películas de Robocop , Ex Machina).
La película independiente de atracos Robot and Frank y la relativamente leve eliminación de la humanidad por parte de la IA en Her, que luego se marcha a relacionarse con superinteligencias más atractivas basadas en Alan Watts, son las únicas que se me ocurren que no ceden ante los estados de ánimo dominantes del pánico a la IA y la robofobia.
Los robots y las IA sí hacen buenos villanos cinematográficos. Sin embargo, en la realidad nadie tiene mucha idea de cómo lograr que un robot “quiera” o “sienta” algo de una manera fenomenológicamente creíble, y mucho menos cómo convertirlos en sociópatas empeñados en dominar el mundo y exterminar al Homo sapiens.
Es más probable que se conviertan de forma inocente en peligrosos sabios idiotas que en tiranos malévolos que buscan experimentar placer psicótico al obligar a los humanos a “doblar la rodilla”.
Los robots guiados por reglas juegan al ajedrez con gran destreza, pero no sienten nada al ganar ni al perder. Simplemente eligen jugadas que optimizan una función matemática de valor. Los humanos asocian la inteligencia con el deseo, pero el “deseo” tal como se modela formalmente en el manual de una máquina de Turing es algo muy distinto de las fuerzas explosivas de la furia, los celos y el “amor predestinado” que impulsan a los humanos.
Robots responsables
Durante el fin de semana se pusieron en marcha dos nuevas organizaciones sin ánimo de lucro dedicadas a la IA y la robótica. De manera distinta, ambas responden a las preocupaciones públicas sobre la seguridad de la IA y la robótica.
La primera es The Foundation for Responsible Robotics (FRR), que pretende “promover la responsabilidad de los robots integrados en nuestra sociedad”.
La FRR está dirigida por Noel Sharkey y diversos expertos en robótica. Su objetivo es involucrar a los responsables políticos, crear equipos interdisciplinares de investigadores en robótica, derecho, ética y sociedad, trabajar para explorar qué significa ser “responsable” para los investigadores y diseñadores de robótica, organizar talleres e implicar al público.
Sharkey, conocido por su activismo en la Campaign to Stop Killer Robots, considera que “nos estamos lanzando de cabeza a la revolución robótica” sin dedicar suficiente reflexión política a los problemas sociales que podrían surgir.
Afirma que los gobiernos ven la robótica como un “nuevo y poderoso motor económico”, pero que “solo se le presta atención de palabra a una larga lista de posibles riesgos sociales”.
Las nuevas tecnologías podrían provocar desempleo masivo o acelerar la desigualdad social causada por los robots y la automatización, lo que llevaría a una sociedad dividida entre propietarios de robots (que viven en comunidades cerradas) y una clase baja sin robots (que lucha en una Tierra quemada y marrón), como la que se retrata en Elysium .
La FRR quiere garantizar que el público confíe en la investigación en robótica y que los robots se desarrollen teniendo debidamente en cuenta sus derechos humanos y su libertad de elección.
IA para todos
Open AI cuenta con el respaldo de Elon Musk, Peter Thiel y diversos emprendedores tecnológicos.
Su enfoque se centra más en la investigación y en poner a disposición del público la IA avanzada de forma gratuita. Buscan desarrollar innovaciones en el “aprendizaje profundo”, una técnica en la que, en lugar de “codificar a mano un algoritmo nuevo para cada problema, se diseñan arquitecturas que pueden adaptarse para convertirse en una amplia gama de algoritmos en función de los datos que se les proporcionen”.
Su objetivo es “hacer avanzar la inteligencia digital de la forma más probable de beneficiar a la humanidad en su conjunto, sin verse limitada por la necesidad de generar un rendimiento financiero”.
Cuando llegue la “IA de nivel humano”, Open AI considera importante que exista “una institución de investigación líder que priorice un buen resultado para todos por encima de su propio interés”.
Afirman que “se animará encarecidamente a nuestros investigadores a publicar su trabajo, ya sea en forma de artículos, entradas de blog o código, y nuestras patentes (si las hay) se compartirán con el mundo”.
Los respaldos de Open AI han comprometido mil millones de dólares en financiación, aunque prevén “gastar solo una pequeña fracción de esta cantidad en los próximos años”.
Open AI se centra principalmente en el acceso abierto a la IA avanzada, reduciendo así el riesgo de un mundo dividido entre quienes tienen IA y quienes no. Es una buena idea. Si el equipo logra mantener una IA avanzada y competitiva de código abierto, esto debería reducir el riesgo de que las personas queden excluidas de la IA avanzada por motivos económicos.
The Foundation for Responsible Robotics tiene una agenda más amplia de compromiso político y de concienciación profesional y pública sobre las cuestiones de ética robótica. Una vez más, se trata de una labor valiosa. Los investigadores en IA y robótica tienden a ser científicos de ciencias duras poco acostumbrados al debate ético.
Los científicos deben pasar de lo empírico a lo normativo. Como líderes de opinión de confianza para la ciudadanía, deberían cruzar la línea entre “lo que es” y “lo que debe ser” y participar en el debate político.
Esperemos que ambos grupos contribuyan a encontrar remedios para las actuales epidemias de pánico a la IA y de robofobia.
La publicación no implica el respaldo de los puntos de vista por parte del Foro Económico Mundial.
Para mantenerse al día con la Agenda suscríbase a nuestro boletín semanal.
Autor: Sean Welsh es doctorando en ética robótica en la Universidad de Canterbury.
Imagen: robot humanoide “se sonroja” durante una ceremonia. REUTERS/Wolfgang Rattay.
