Cuando hablamos de inteligencia artificial (IA) – algo que hemos hecho mucho recientemente, incluido mi artículo en The Conversation sobre cuestiones de responsabilidad y regulación – ¿a qué nos referimos realmente?
Los expertos en IA y los filósofos trabajan intensamente en esta cuestión. Pero contar con una definición útil de IA –y pronto– es vital para la regulación y la gobernanza, porque las leyes y las políticas simplemente no funcionarán sin ella.
Este problema de definición surge en todos los contextos regulatorios, desde garantizar un uso veraz del término “IA” en la publicidad de productos hasta establecer cómo los sistemas de armas automatizadas de nueva generación (AWS) se tratan en virtud del derecho de la guerra.
Es cierto que quizá necesitemos más de una definición (del mismo modo que “goodwill” tiene distintos significados en distintos contextos). Pero hay que empezar por algún punto, así que, ante la ausencia por ahora de una definición regulatoria, pongamos la pelota en movimiento.
Definición de los términos: artificial e inteligencia
A efectos regulatorios, “artificial” es, con suerte, la parte fácil. Puede significar simplemente “que no se produce en la naturaleza o que no se produce en la misma forma en la naturaleza”. Aquí, la alternativa que aparece tras el “o” permite el posible uso futuro de materiales biológicos modificados.
Queda, pues, el problema más espinoso de “inteligencia”.
Desde una perspectiva filosófica, “inteligencia” es un campo minado enorme, sobre todo si se considera que incluye uno o más de “conciencia”, “pensamiento”, “libre albedrío” y “mente”. Aunque su origen se remonta por lo menos a la época de Aristóteles, los profundos debates sobre estos cuatro grandes conceptos siguen envolviéndonos.
En 2014, con el objetivo de hacer avanzar las cosas, Dmitry Volkov, multimillonario ruso de la tecnología, convocó una cumbre a bordo de un yate con destacados filósofos, entre ellos Daniel Dennett, Paul Churchland y David Chalmers.
Quizá sin sorpresa, no se alcanzó ningún consenso, y Chalmers sugirió que era improbable que surgiera en el próximo siglo.
Afortunadamente para quienes desean regular, sin embargo, los argumentos filosóficos podrían esquivarse, al menos durante un tiempo. Demos un paso atrás y preguntémonos: ¿cuál es el interés inmediato de un regulador en este caso?
Diría que se trata de los productos de trabajo de los científicos e ingenieros de IA, y de cualquier riesgo para el bienestar público o la seguridad que pueda derivarse de esos productos.
Lógicamente, pues, lo que más preocupa de inmediato es la manera en que la mayoría de los científicos e ingenieros de IA tratan la “inteligencia”.
Inteligencia y comunidad de la IA
Hasta mediados de la década de 2000, la comunidad de la IA tendía a contrastar la inteligencia artificial con la inteligencia humana, una práctica que simplemente trasladaba la responsabilidad a los psicólogos.
En noviembre de 2007, John McCarthy, pionero de la IA en la Universidad de Stanford, abordó esta cuestión:
P: ¿No existe una definición sólida de inteligencia que no dependa de su relación con la inteligencia humana? R: Todavía no. El problema es que aún no podemos caracterizar en términos generales qué tipo de procedimientos computacionales queremos denominar inteligentes. Entendemos algunos de los mecanismos de la inteligencia, pero no otros.
En parte por esta dificultad, gran parte del esfuerzo investigador se había reorientado de la inteligencia artificial general (AGI) a la inteligencia artificial estrecha (ANI).
Pero justo después de que McCarthy escribiera esto, surgió una definición general “independiente del ser humano” de “inteligencia”. Junto con la formalización de una entidad algorítmica universal llamada “AIXI”, Marcus Hutter (actualmente en la ANU) y Shane Legg (actualmente en Google DeepMind) propusieron la siguiente definición informal para sustituir a las que habían catalogado previamente:
La inteligencia mide la capacidad de un agente para alcanzar objetivos en una amplia gama de entornos.
Esta definición informal señala aspectos que un regulador podría gestionar, estableciendo y aplicando medidas objetivas de la capacidad (tal como se define) de una entidad en uno o varios entornos (tal como se definen). El énfasis central en el logro de objetivos abarca también, de forma elegante, otros conceptos relacionados con la inteligencia, como el aprendizaje, la planificación y la resolución de problemas.
Pero quedan muchos obstáculos
En primer lugar, la definición informal puede no ser directamente utilizable con fines regulatorios debido a las propias limitaciones subyacentes de AIXI. Una limitación, a menudo subrayada por Hutter, es que AIXI solo puede “aproximarse” en un ordenador debido a limitaciones de tiempo y espacio.
Otra limitación es que AIXI carece de un “automodelo” (pero una variante propuesta recientemente, llamada “reflective AIXI”, podría cambiar esto).
En segundo lugar, para fines de prueba y certificación, los reguladores tienen que poder tratar la inteligencia como algo divisible en muchas subcapacidades (como el movimiento, la comunicación, etc.). Pero esto puede chocar con cualquier definición basada en la inteligencia general.
Desde la perspectiva del consumidor, todo esto se reduce en última instancia a trazar la línea que separa un sistema definido como IA real de otro simple dispositivo programable.
Si superamos todos los obstáculos, no habrá tiempo para la satisfacción tranquila. Incluso sin los Cuatro Grandes, sistemas de IA cada vez más capaces y omnipresentes tendrán un enorme efecto en la sociedad en las próximas décadas, y sobre todo en el futuro del empleo.
Pero si los Cuatro Grandes llegan alguna vez a aparecer (o parecen hacerlo) en sistemas de IA, podemos afirmar con seguridad que necesitaremos no solo un yate de filósofos, sino una regata entera.
Este artículo se publica en colaboración con The Conversation. La publicación no implica que el Foro Económico Mundial respalde las opiniones expresadas.
Para mantenerse al día con la Agenda suscríbase a nuestro boletín semanal.
Autor: Gary Lea, investigador visitante en Regulación de la Inteligencia Artificial, Australian National University.
Imagen: La mano del robot humanoide AILA (androide ligero de inteligencia artificial) maneja un cuadro de conmutación. REUTERS/Fabrizio Bensch.
