En medio de todas las terribles advertencias de que las máquinas controladas por inteligencia artificial (IA) algún día sustituirán a los seres humanos, debemos pensar más en cómo las programamos desde el principio.
Puede que esta tecnología esté aún demasiado lejos como para tomarse en serio estas preocupaciones —por ahora—, pero gran parte de la desconfianza que rodea a la IA se debe a malentendidos sobre lo que significa decir que una máquina está «pensando».
Uno de los objetivos actuales de la investigación en IA es diseñar máquinas, algoritmos, procesos de entrada y salida o funciones matemáticas que puedan imitar el pensamiento humano tanto como sea posible.
Queremos comprender mejor qué ocurre en el pensamiento humano, sobre todo cuando se trata de decisiones que no pueden justificarse salvo recurriendo a nuestra «intuición» y a nuestros «presentimientos»: las decisiones que solo podemos tomar después de aprender de la experiencia.
Pensemos en la persona que te contrata después de compararte primero con otros candidatos al puesto en cuanto a tu trayectoria laboral, tus habilidades y tu presentación. Este responsable humano es capaz de tomar una decisión e identificar al candidato seleccionado.
Si podemos diseñar un programa informático que reciba exactamente los mismos datos que el responsable humano y reproduzca sus resultados, podremos inferir qué valora realmente, aunque no pueda explicar su decisión sobre a quién contratar más que diciendo: «depende de la experiencia».
Este tipo de investigación se está llevando a cabo hoy y se aplica para comprender la aversión al riesgo y la propensión al riesgo de los asesores financieros. También se estudia en el campo del diagnóstico médico.
A estos sistemas que emulan a los seres humanos aún no se les pide que tomen decisiones, pero sin duda se utilizan para ayudar a orientar las decisiones humanas y reducir el nivel de error e incoherencia humanos.
Conjuntos difusos e IA
Un campo de investigación prometedor consiste en utilizar el marco de los conjuntos difusos. Los conjuntos difusos y la lógica difusa fueron formalizados por Lotfi Zadeh en 1965 y pueden utilizarse para representar matemáticamente nuestros conocimientos sobre un tema determinado.
En el lenguaje cotidiano, cuando acusamos a alguien de usar una «lógica difusa» o tener un «pensamiento difuso», queremos decir que sus ideas son contradictorias, sesgadas o quizá simplemente no están muy bien meditadas.
Pero en matemáticas y lógica, «difuso» es el nombre de un campo de investigación con fundamentos sólidos y sencillos.
El punto de partida de los conjuntos difusos es el siguiente: muchos procesos de decisión que pueden gestionar los ordenadores implican tradicionalmente valores de verdad binarios: algo es verdadero o falso, y toda acción se basa en la respuesta (en informática, normalmente se codifica con un 0 o un 1).
Por ejemplo, nuestro responsable humano del ejemplo anterior podría decirle a recursos humanos:
SI el candidato al puesto tiene entre 25 y 30 años
Y tiene una titulación en filosofía O literatura
ENTONCES, concierte una entrevista.
Toda esta información puede incorporarse a un algoritmo de contratación basado en respuestas de verdadero o falso, porque un candidato tiene entre 25 y 30 años o no, y tiene la titulación o no la tiene.
Pero ¿y si el responsable humano expresa sus requisitos de manera algo más imprecisa? En cambio, dice:
SI el candidato es alto
Y atractivo
ENTONCES, el salario ofrecido debería ser más alto.
El problema que afronta el departamento de recursos humanos al codificar estas peticiones en el algoritmo de contratación es que implican varios conceptos subjetivos. Aunque la estatura es algo que podemos medir objetivamente, ¿cuánto debe medir alguien para que lo consideremos alto?
El atractivo también es subjetivo, aunque solo tengamos en cuenta el gusto de un único responsable humano.
Zonas grises y conjuntos difusos
En la investigación sobre conjuntos difusos decimos que esas características son difusas. Con esto queremos decir que la pertenencia de algo a un conjunto, o que una afirmación sea verdadera o falsa, puede aumentar gradualmente de 0 a 1 dentro de un intervalo determinado de valores.
Uno de los aspectos más difíciles de cualquier aplicación de software basada en lógica difusa es cómo convertir mejor las entradas observadas (la estatura de alguien) en un grado difuso de pertenencia y, después, establecer las reglas que rigen el uso de conectores como Y y O para ese conjunto difuso.
A día de hoy, y probablemente durante los próximos años o décadas, las reglas de esta transición las definen los seres humanos. Por ejemplo, para especificar la estatura de alguien, podría diseñar una función que estableciera que una persona de 190 cm es alta (con un valor de verdad de 1) y que una persona de 140 cm no es alta (o es alta con un valor de verdad de 0).
Después, a partir de 140 cm, el valor de verdad aumenta 0,1 por cada incremento de 5 cm de estatura. Así pues, una característica clave de cualquier sistema de IA es que nosotros, los simples humanos de siempre, seguimos determinando todas las reglas relativas a cómo se definen los valores o las palabras. Y, lo que es más importante, definimos todas las acciones que puede llevar a cabo el sistema de IA: las afirmaciones «ENTONCES».
Simbiosis entre humanos y robots
Un campo llamado computación con palabras lleva esta idea más lejos al buscar una comunicación fluida entre un usuario humano y un algoritmo de IA.
Por el momento, todavía tenemos que elaborar representaciones matemáticas de términos subjetivos como «alto», «atractivo», «bueno» y «rápido». Luego debemos diseñar una función para combinar esos comentarios o comandos, seguida de otra definición matemática que convierta el resultado obtenido en una respuesta como «sí, él es alto».
Al concebir la idea de la computación con palabras, los investigadores imaginan un futuro en el que quizá tengamos más acceso a expresiones de base de esos términos, como la actividad cerebral y los registros que se producen cuando utilizamos el término «alto».
Sería un avance extraordinario, aunque sobre todo en lo que respecta a la tecnología necesaria para observar esos fenómenos (el número de neuronas del cerebro, por no hablar de las sinapsis entre ellas, se aproxima al número de galaxias del universo).
Aun así, falta mucho para que diseñemos máquinas y algoritmos capaces de emular el comportamiento humano hasta el punto de imitar la comunicación con nosotros.
En definitiva, cualquier sistema que diseñemos se comportará como se espera, de acuerdo con las reglas que hayamos diseñado y el programa que lo rige.
¿Un miedo irracional?
Esto nos devuelve al gran temor de que las máquinas de IA se vuelvan contra nosotros en el futuro.
El verdadero peligro no está en el nacimiento de una inteligencia artificial genuina —es decir, que de algún modo consigamos crear un programa capaz de adquirir conciencia de sí mismo, como HAL 9000 en la película 2001: Una odisea del espacio o Skynet en la serie Terminator—.
El verdadero peligro es que cometamos errores al codificar nuestros algoritmos o que pongamos máquinas en situaciones sin considerar debidamente cómo interactuarán con su entorno.
Sin embargo, estos riesgos son los mismos que conlleva cualquier sistema u objeto creado por seres humanos.
Así que, si confiáramos, por ejemplo, a algoritmos de IA la decisión de disparar un arma (en lugar de solo el sistema de guiado), quizá tendríamos motivos para temer.
No deberíamos temer que estas armas inteligentes algún día se vuelvan contra nosotros, sino que las hayamos programado —al ofrecerles una serie de opciones subjetivas— para tomar la decisión equivocada y volverse contra nosotros.
Aunque exista cierta incertidumbre sobre el futuro de las máquinas «pensantes» y el papel que tendrán en nuestra sociedad, algo es seguro: nosotros tomaremos las decisiones finales sobre lo que serán capaces de hacer.
Al programar la inteligencia artificial, la responsabilidad recae en nosotros (igual que cuando diseñamos rascacielos, construimos maquinaria, desarrollamos fármacos o redactamos leyes civiles): debemos asegurarnos de que haga lo que realmente queremos.
Este artículo se publica en colaboración con The Conversation. Lea el artículo original.
La publicación no implica que el Foro Económico Mundial respalde estas opiniones.
Para seguir al día con la Agenda, suscríbase a nuestro boletín semanal.
Autor: Simon James es profesor de Matemáticas en Deakin University.
Imagen: Un competidor muestra a la cámara uno de sus robots futbolistas durante el torneo Robocup en Singapur. REUTERS/Vivek Prakash.
