La idea de que las máquinas impulsadas por IA superarán a la humanidad, se harán con el control del mundo y acabarán con todos nosotros –un elemento básico de la ciencia ficción distópica– es fácil de descartar, dado que los seres humanos siguen firmemente al mando. Sin embargo, muchos expertos en IA se toman en serio la perspectiva apocalíptica, y hacen bien en ello.
Los avances recientes en inteligencia artificial han sido sencillamente espectaculares. La IA está transformando casi todos los sectores de la sociedad, desde el transporte hasta la medicina y la defensa. Por ello, merece la pena considerar qué ocurrirá cuando alcance un nivel de desarrollo aún mayor del que ya tiene.
La visión apocalíptica sostiene que las máquinas impulsadas por IA superarán a la humanidad, se harán con el control del mundo y acabarán con todos nosotros. Este escenario aparece con frecuencia en la ciencia ficción y es fácil de descartar, dado que los seres humanos siguen firmemente al mando. Sin embargo, muchos expertos en IA se toman en serio la perspectiva apocalíptica, y hacen bien en ello. El resto de la sociedad también debería hacerlo.
Para comprender lo que está en juego, conviene distinguir entre la «IA estrecha» y la «inteligencia artificial general» (AGI, por sus siglas en inglés). La IA estrecha solo puede operar en uno o unos pocos ámbitos a la vez, por lo que, aunque pueda superar a los humanos en tareas concretas, sigue bajo control humano.
La AGI, en cambio, puede razonar en una amplia variedad de ámbitos y, por tanto, podría replicar muchas capacidades intelectuales humanas, al tiempo que conserva todas las ventajas de los ordenadores, como una memoria perfecta. Ejecutada en hardware informático sofisticado, la AGI podría superar la cognición humana. De hecho, resulta difícil concebir un límite máximo para el grado de sofisticación que podría alcanzar la AGI.
En la actualidad, la mayor parte de la IA es estrecha. De hecho, incluso los sistemas actuales más avanzados solo tienen una generalidad limitada. Por ejemplo, aunque el sistema AlphaZero de Google DeepMind logró dominar el go, el ajedrez y el shogi –lo que lo hace más general que la mayoría de los demás sistemas de IA, que solo pueden aplicarse a una única actividad específica–, sigue demostrando capacidad únicamente dentro de los estrechos límites de determinados juegos de mesa altamente estructurados.
Muchas personas con conocimientos en la materia descartan la posibilidad de una AGI avanzada. Algunos, como Selmer Bringsjord del Instituto Politécnico Rensselaer, y Drew McDermott de la Universidad de Yale, sostienen que es imposible que la IA supere a la humanidad. Otros, como Margaret A. Boden de la Universidad de Sussex, y Oren Etzioni del Instituto Allen de Inteligencia Artificial, sostienen que una IA de nivel humano podría ser posible en un futuro lejano, pero que es demasiado pronto para empezar a preocuparse por ello ahora.
Estos escépticos no son figuras marginales, como los charlatanes que tratan de sembrar dudas sobre la ciencia del cambio climático. Son académicos destacados en informática y en campos afines, y sus opiniones deben tomarse en serio.
Sin embargo, otros académicos destacados –entre ellos David J. Chalmers de la Universidad de Nueva York, Allan Dafoe y Stuart Russell de la Universidad de California en Berkeley, Nick Bostrom de la Universidad de Oxford, y Roman Yampolskiy de la Universidad de Louisville– sí temen que la AGI pueda suponer una amenaza grave e incluso existencial para la humanidad. Con expertos situados a ambos lados del debate, el resto de nosotros debería mantener una mente abierta.
Además, la AGI es objeto de una investigación y un desarrollo considerables. Recientemente completé una encuesta sobre proyectos de I+D en AGI, en la que identifiqué 45 proyectos en 30 países de seis continentes. Muchas iniciativas activas se desarrollan en grandes corporaciones como Baidu, Facebook, Google, Microsoft y Tencent, y en universidades de primer nivel como Carnegie Mellon, Harvard y Stanford, así como en la Academia China de Ciencias. Sería imprudente suponer, sin más, que ninguno de estos proyectos tendrá éxito.
Otra forma de pensar en la posible amenaza de la AGI consiste en compararla con otros riesgos catastróficos. En la década de 1990, el Congreso de los Estados Unidos consideró oportuno encargar a la NASA el seguimiento de grandes asteroides que podrían colisionar con la Tierra, aunque la probabilidad de que eso ocurra es de alrededor de una entre 5.000 por siglo. Con la AGI, la probabilidad de una catástrofe durante el próximo siglo podría ser tan alta como de una entre cien, o incluso de una entre diez, a juzgar por el ritmo de la I+D y por la intensidad de la preocupación de los expertos.
La pregunta, entonces, es qué hacer al respecto. Para empezar, debemos garantizar que la I+D se lleve a cabo de forma responsable, segura y ética. Para ello será necesario un diálogo más profundo entre quienes trabajan en el ámbito de la IA, los responsables de políticas, los científicos sociales y los ciudadanos preocupados. Quienes se dedican a este campo conocen la tecnología y serán quienes la diseñen de acuerdo con las normas acordadas; pero no deben decidir por sí solos cuáles serán esas normas. Muchas de las personas que desarrollan aplicaciones de IA no están acostumbradasno están acostumbradas a pensar en las implicaciones sociales de su trabajo. Para que eso cambie, deben estar expuestas a perspectivas externas.
Los responsables de políticas también tendrán que lidiar con las dimensiones internacionales de la AGI. Actualmente, la mayor parte de la I+D en AGI se lleva a cabo en Estados Unidos, Europa y China, pero gran parte del código es de código abierto, lo que significa que el trabajo potencialmente puede realizarse desde cualquier lugar. Por ello, establecer normas y reglas éticas básicas es, en última instancia, una tarea de toda la comunidad internacional, aunque los centros de I+D deberían liderar el proceso.
De cara al futuro, algunos esfuerzos para abordar los riesgos que plantea la AGI pueden apoyarse en iniciativas políticas ya puestas en marcha para la IA estrecha, como el nuevo Grupo Parlamentario de IA bipartidista impulsado por John Delaney, congresista demócrata por Maryland. Existen muchas oportunidades de sinergia entre quienes trabajan en los riesgos de la IA a corto plazo y quienes piensan en el largo plazo.
Pero, independientemente de que la IA estrecha y la AGI se consideren conjunta o por separado, lo más importante es que actuemos de forma constructiva ahora para minimizar el riesgo de una catástrofe en el futuro. Esta no es una tarea que podamos esperar completar a última hora.
