La invención de una superinteligencia artificial ha sido un tema central de la ciencia ficción desde al menos el siglo XIX. Desde el relato corto de E.M. Forster The Machine Stops (1909) hasta la reciente serie de televisión de HBO Westworld, los escritores han tendido a retratar esta posibilidad como un desastre absoluto. Pero este asunto ya no pertenece solo a la ficción. Científicos e ingenieros destacados de la actualidad también temen que la superinteligencia artificial pueda, algún día, superar la inteligencia humana (un acontecimiento conocido como la “singularidad”) y convertirse en el “peor error”.
Las tendencias actuales indican que estamos a punto de entrar en una carrera armamentística internacional por esta tecnología. La empresa de alta tecnología o el laboratorio gubernamental que logre inventar la primera superinteligencia artificial obtendrá una tecnología potencialmente capaz de dominar el mundo. Es un premio en el que el ganador se lo lleva todo. Así, para quienes quieren evitar que ocurra un acontecimiento de este tipo, la cuestión es cómo desalentar este tipo de carrera armamentística o, al menos, incentivar a los equipos competidores para que no omitan pasos en materia de seguridad de la IA.
Una superinteligencia artificial plantea dos desafíos fundamentales para sus inventores, como han señalado el filósofo Nick Bostrom y otros han señalado. Uno es un problema de control: cómo garantizar que la superinteligencia artificial tenga los mismos objetivos que la humanidad. Sin ello, la inteligencia podría destruir a la humanidad de forma deliberada, accidental o por negligencia: un «desastre de la IA».
El segundo es un problema político: cómo garantizar que los beneficios de una superinteligencia no vayan solo a una pequeña élite, lo que provocaría enormes desigualdades sociales y de riqueza. Si se produjera una carrera armamentística por la superinteligencia artificial, podría llevar a los grupos competidores a ignorar estos problemas para desarrollar su tecnología con mayor rapidez. Esto podría dar lugar a una superinteligencia artificial de baja calidad o hostil.
Una solución propuesta consiste en utilizar la política pública para dificultar el acceso a la carrera, con el fin de reducir el número de grupos competidores y mejorar las capacidades de quienes sí participan. Cuantos menos compitan, menor será la presión para omitir pasos con el fin de ganar. Pero ¿cómo pueden los gobiernos reducir la competencia de esta manera?
Mi colega Nicola Dimitri y yo hemos publicado recientemente un artículo en el que tratamos de responder a esta pregunta. Primero demostramos que, en una carrera típica en la que el ganador se lo lleva todo, como la que supone construir la primera superinteligencia artificial, solo participan los equipos más competitivos. Esto se debe a que la probabilidad de inventar realmente la superinteligencia artificial es muy baja, y participar en la carrera resulta muy costoso por la gran inversión en investigación y desarrollo que requiere.
De hecho, esta parece ser la situación actual del desarrollo de la IA más sencilla, la llamada IA «estrecha». Las solicitudes de patentes para este tipo de IA están dominadas por unas pocas empresas, y la gran mayoría de la investigación en IA se realiza en solo tres regiones (Estados Unidos, China y Europa). Además, parece haber muy pocos grupos, si es que hay alguno, que actualmente inviertan en la construcción de una superinteligencia artificial.
Esto sugiere que reducir el número de grupos competidores no es, por el momento, la prioridad más importante. Pero incluso con menos competidores en la carrera, la intensidad de la competencia podría seguir provocando los problemas antes mencionados. Por ello, para reducir la intensidad de la competencia entre los grupos que se esfuerzan por construir una superinteligencia artificial y aumentar sus capacidades, los gobiernos podrían recurrir a la contratación pública y a los impuestos.
Contratación pública se refiere a todo aquello que los gobiernos pagan a empresas privadas por suministrar, desde software para su uso en organismos públicos hasta contratos para la prestación de servicios. Los gobiernos podrían imponer a cualquier proveedor de superinteligencia artificial restricciones que le obliguen a abordar los posibles problemas, y respaldar tecnologías complementarias que potencien la inteligencia humana y la integren con la IA.
Pero los gobiernos también podrían ofrecerse a comprar una versión de la superinteligencia artificial que no sea la mejor, creando de forma efectiva un «segundo premio» en la carrera armamentística y evitando que sea una competencia en la que el ganador se lo lleva todo. Con un premio intermedio, que podría concederse por inventar algo cercano (pero no exactamente) a una superinteligencia artificial, los grupos competidores tendrán incentivos para invertir y cooperar más, lo que reducirá la intensidad de la competencia. Un segundo premio también reduciría el riesgo de fracaso y justificaría una mayor inversión, lo que ayudaría a aumentar las capacidades de los equipos competidores.
En cuanto a los impuestos, los gobiernos podrían fijar el tipo impositivo para el grupo que invente la superinteligencia artificial en función de lo amistosa o hostil que sea la IA. Un tipo impositivo lo bastante alto equivaldría, en esencia, a la nacionalización de la superinteligencia artificial. Esto desincentivaría enormemente que las empresas privadas omitan pasos por temor a perder su producto en beneficio del Estado.
Bien público, no monopolio privado
Esta idea podría requerir una mejor coordinación global de la fiscalidad y de la regulación de la superinteligencia artificial. Pero no sería necesario que todos los gobiernos participaran. En teoría, un único país o región (como la UE) podría asumir los costes y el esfuerzo que supone abordar los problemas y las cuestiones éticas de la superinteligencia artificial. Pero todos los países se beneficiarían, y la superinteligencia artificial pasaría a ser un bien público en lugar de un monopolio privado imparable.
Por supuesto, todo esto depende de que la superinteligencia artificial suponga realmente una amenaza para la humanidad. Y algunos científicos no creen que vaya a serlo. Es posible que, con el tiempo, podamos neutralizar gracias a la ingeniería los riesgos de la superinteligencia artificial. Algunos piensan que los seres humanos podrían incluso fusionarse con la IA.
Sea como sea, nuestro planeta y sus habitantes se beneficiarán enormemente si conseguimos aprovechar al máximo la IA, una tecnología que todavía se encuentra en su etapa inicial. Para ello, necesitamos comprender mejor qué papel puede desempeñar el gobierno.
