Si, como Rip Van Winkle, has estado dormido durante la última década y acabas de despertar, ese teléfono plegable que tienes se ha vuelto muy popular entre los tecnólogos retro y los supervivencialistas; y, ah, sí, la inteligencia artificial (IA) o te matará o te salvará.
La IA es la última de una larga serie de palabras de moda tecnológicas que han cautivado a la sociedad y, si hemos de creer a los expertos de la respetada empresa de análisis tecnológico Gartner Inc., 2018 será el año en que la IA se integre de verdad en nuestra vida cotidiana. Por inquietantes que puedan parecer los surrealistas robots que se están desarrollando en Boston Dynamics o el despliegue de la IA de reconocimiento facial en las escuelas públicas chinas, esta tecnología es producto de la condición humana y, como tal, estamos incorporando nuestra propia cultura en su ADN codificado.
Los debates sobre la IA se centran actualmente en la noción de ética. En el estudio de la cultura, la ética está integrada en los valores y se ha convertido en una parte importante de las deliberaciones sobre cómo se integrará la IA en nuestras vidas. Lo que no se ha debatido es de quién son las éticas y, en última instancia, los valores de los que estamos hablando.
¿Se trata de Occidente frente a Oriente, o de Estados Unidos frente a todos los demás? Como los valores culturales están influidos por la comunidad y la sociedad en general, la ética depende del contexto cultural en el que se han desarrollado los valores comunitarios.
«Enculturación»
Así pues, la cultura desempeña un papel importante en la formación de la IA mediante lo que se conoce como la la enculturación de esos datos.
La antropóloga Genevieve Bell, vicepresidenta de Intel y visionaria cultural, ha logrado orientar al gigante tecnológico hacia una comprensión más profunda de cómo la cultura y la IA interactúan entre sí.
La investigación de Bell indicó que la interacción humana con la tecnología no es universal desde el punto de vista cultural. No es igual ni objetiva, e incorporamos la cultura en la tecnología y a través de ella, de forma consciente e inconsciente.
Si esto es cierto, ¿qué ocurrirá con el eventual desarrollo de una cultura en la IA?
Para los antropólogos, la evolución cultural humana tiene muchos indicadores: la manipulación de herramientas, el desarrollo del pensamiento abstracto y, más fundamentalmente, la creación del lenguaje para comunicarse.
La cultura comienza cuando dos o más entidades vivas empiezan a comunicarse e intercambiar información y, con mayor complejidad, ideas. Aún no se ha debatido el desarrollo cultural entre entidades de IA no humanas, y mucho menos la fusión de la cultura humana y la de la IA.
Los bots desarrollaron su propio lenguaje
Recientemente, el grupo de investigación sobre IA de Facebook (FAIR) mencionó brevemente un experimento en el que se encargó a dos bots que negociaran entre sí. Se informó entonces de que los bots habían empezado a desarrollar un lenguaje más eficiente para comunicarse entre sí.
Los investigadores de informática de Facebook desconectaron rápidamente lo que se estaba convirtiendo en el desarrollo de un lenguaje de IA más eficiente entre los dos bots, no porque temieran la aparición de una IA capaz de crearse a sí misma, sino porque los bots no dieron los resultados esperados: una negociación en inglés.
En un mundo donde el código se compone esencialmente de ceros y unos, órdenes de sí o no, no hay mucho margen para lo inesperado. Pero a veces deberíamos aprovechar la oportunidad y explorar las posibilidades, porque la cultura no se manifiesta de una única manera.
La cultura es lo que hacemos de ella. Es un conjunto de normas que, como sociedad, aceptamos consciente o inconscientemente, y que determina cómo actuamos en nuestra vida cotidiana.
La IA puede asimilar culturas
En el futuro, la IA tendrá la capacidad única de asimilar todas las normas y los valores culturales del mundo y desarrollar una cultura potencialmente verdaderamente panmundial. Pero primero, quienes creamos la IA debemos comprender nuestro papel y cómo influimos en esa capacidad de asimilación. Al fin y al cabo, la IA representa un microcosmos de la cultura de quienes la desarrollan, así como de quienes aportan datos a su estructura de datos fundamental.
El novelista de ciencia ficción Alastair Reynolds, en su libro Absolution Gap, describe un planeta en el que la única criatura inteligente es un vasto mar que absorbe información de los seres y las criaturas que nadan en él. El mar aprende de esa información y redistribuye ese conocimiento entre otros seres.
En el libro se denomina «malabarismo de patrones»; la manifestación actual de la IA tal como la conocemos se parece mucho a ese mar ficticio: absorbe conocimientos y los distribuye selectivamente con sus propios datos enculturados.
Tomando como ejemplo el océano que absorbe conocimientos de Reynolds, la IA es actualmente como las masas de agua salada y dulce separadas de la Tierra: cada una con su propio ecosistema, aislado e independiente.
¿Qué ocurre cuando estos ecosistemas tan singulares empiezan a comunicarse entre sí? ¿Cómo se determinarán las normas y los valores cuando las distintas entidades de IA empiecen a intercambiar información y a negociar realidades dentro de sus culturas recién formadas?
Norman es una advertencia
Norman, la IA del MIT basada en un psicópata ficticio, ofreció un ejemplo singular de algo que desde hace tiempo sabemos sobre los seres humanos: la exposición prolongada a la violencia conlleva una visión fracturada de las normas y los valores culturales. Esto supone un peligro real de cara a la futura exposición y transmisión a otras IA.
¿Cómo?
Imaginemos que Norman y Alexa se conectan. Ambas IA representan a las personas que las crearon, los datos humanos que consumen y una necesidad incorporada de aprender. Entonces, ¿qué valores y normas culturales serían más persuasivos?
Norman se diseñó para ver todos los datos desde la perspectiva de un psicópata, mientras que Alexa, como asistente digital, solo intenta complacer. Hay incontables ejemplos humanos de personalidades similares que se descontrolan al juntarse.
Los científicos sociales sostienen que el debate sobre la IA está a punto de estallar y que, como resultado, es inevitable que coexistan múltiples versiones de IA.
A medida que filósofos, antropólogos y otros científicos sociales empiezan a expresar sus inquietudes, ha llegado el momento de que la sociedad reflexione sobre la utilidad que se desea de la IA, cuestione las realidades y nuestras expectativas, e influya en su desarrollo para que se convierta en un entorno cultural verdaderamente panmundial.
