La inteligencia artificial (IA) es un término de uso general, parecido a la palabra «fabricación», que puede abarcar la producción de coches, magdalenas u ordenadores. Su uso como término genérico oculta lo importante que es tener claro el propósito de la IA. El propósito influye en la elección de la tecnología, en cómo se mide y en la ética de su aplicación.
En su esencia, la IA se basa en distintos propósitos de nivel meta. Como comenta Bernard Marr en Forbes, es necesario distinguir entre «la capacidad de replicar o imitar el pensamiento humano», que ha impulsado gran parte de la IA, y los modelos más recientes, que «utilizan el razonamiento humano como modelo, pero no como objetivo final». Así como puede variar la definición general de IA, también varía su propósito en el nivel aplicado.
Según mi análisis, hay al menos ocho tipos de propósito dentro de la IA conversacional aplicada. Cada uno tiene una intención principal, como se sugiere en esta tabla:
Actualmente, el propósito más común de la IA conversacional es transaccional. Según un informe de Statista de 2017, el público considera que los chatbots sirven principalmente para interactuar de forma más inmediata, personalizada y sencilla con las marcas que elige. Esto podría reflejar que algunas empresas ocultan el propósito transaccional de sus chatbots en interfaces que parecen ofrecer entretenimiento, diagnóstico o información, para disimular ventas dentro del juego, ofertas de dos por uno o promociones de viajes. En términos más generales, lo más probable es que esto muestre que la IA conversacional con fines transaccionales es más fácil de implementar y monetizar.
Sin embargo, el informe de Statista sí sugiere que los chatbots están ganando popularidad en ámbitos más complejos, donde el propósito es diagnóstico o conductual, como la atención sanitaria, las telecomunicaciones y las finanzas. Estos sistemas de IA conversacional, sobre todo en ámbitos de alto riesgo como la salud, son más difíciles de desarrollar y monetizar; podrían ser una apuesta a más largo plazo.
Elección deliberada de la tecnología
Tener claro el propósito determina las decisiones deliberadas sobre la tecnología. Por ejemplo, influye en cómo se entrena un sistema de IA conversacional, hasta qué punto aprende por sí mismo y si es necesario o aconsejable mantener a una persona en el proceso. En este sentido, el debate sobre qué es IA conversacional «pura» (redes neuronales y aprendizaje profundo) frente a IA «simple» (sistemas basados en reglas) solo tiene sentido en relación con el propósito. Aunque es probable que los sistemas híbridos se vuelvan más habituales, el estado actual sugiere que la IA simple (más predecible), con una persona en el proceso, es más adecuada para fines conductuales y de diagnóstico, y que se puede asumir más riesgo cuando el propósito es lúdico o social.
Dicho esto, el chatbot Tay de Microsoft demostró los peligros de lanzar al público un chatbot que aprende por sí solo: en cuestión de horas, aprendió expresiones de odio. Esto sirve de recordatorio útil de que toda la IA conversacional actual se basa en estadísticas, no en sistemas de creencias. Por esta razón, algunos recomiendan mantener a una persona en el proceso como una mejor elección tecnológica. Como comenta Martin Reddy: «[M]antener a una persona en el proceso de generación inicial del diálogo puede ser algo positivo, en lugar de algo que debamos intentar erradicar (…) Las soluciones de generación de lenguaje natural deben permitir la intervención de un “director creativo” humano, capaz de controlar el tono, el estilo y la personalidad del personaje sintético».
Lo fundamental que subrayan estos puntos es que un sistema de IA conversacional es dinámico. Muchos creadores de chatbots disponibles comercialmente podrían dejarlo más claro. Existe la idea de que se crea, se implementa y luego se ajusta. En realidad, se construye de forma continua a partir de los registros de conversaciones y las métricas que se consideran pertinentes. A mi juicio, esas métricas deben responder al propósito del sistema que se crea.
De las cifras a los beneficios
Me preocupan las métricas predominantes del ámbito digital que parecen haberse aplicado a la IA conversacional. El mantra de «cuántos, con qué frecuencia y durante cuánto tiempo» no sirve para muchos propósitos, pero sigue dominando la forma de medir el éxito. Quizá ha llegado el momento de dar menos cabida a las ventas y mucho más peso a las pruebas en los debates sobre métricas.
Aunque las tasas de conversión y retención son medidas válidas de la participación en las herramientas digitales, deben contextualizarse según el propósito. Por ejemplo, ¿que una persona use diez veces al día una herramienta centrada en el bienestar es un resultado positivo, o indica que ha fallado un sistema de triaje o derivación? Quizá sea hora de considerar el uso significativo como un mejor indicador del valor de la IA conversacional.
Hace poco trabajamos con Permobil, un fabricante sueco de tecnologías de asistencia, para ofrecer a usuarios de sillas de ruedas eléctricas una IA conversacional centrada en aspectos del diagnóstico y el cambio de conducta, como ejercicios asistidos por un actuador eléctrico para reducir las úlceras por presión. Aunque la mayoría de los usuarios consideró útil el sistema, se observaron distintos patrones de uso preferido y fueron relativamente pocas las personas que querían utilizarlo a diario. La integración de esos patrones de uso preferido con datos como el tiempo que se pasa en la silla de ruedas y la afección subyacente de cada usuario puede servir para desarrollar algoritmos de IA conversacional centrados en el usuario. Cuanto más personalizado esté un sistema para el usuario, mejores serán probablemente los resultados en ventas y retención de clientes.
A mi juicio, los ganadores a largo plazo en el ámbito de la IA conversacional serán quienes puedan demostrar un uso significativo y resultados beneficiosos que se deriven directamente del propósito de sus sistemas. Los resultados vinculados al propósito, más allá de los que se aplican a la IA conversacional transaccional, son el mejor motor para crear modelos de negocio exitosos.
Es más fácil hacer un seguimiento de los resultados de algunos propósitos que de otros. Un Drift informe identificó la atención las 24 horas, las respuestas instantáneas y las respuestas a preguntas sencillas como los resultados esenciales que esperan los consumidores de los chatbots de atención al cliente. Estas métricas son más fáciles de seguir que los resultados de la IA conversacional con fines diagnósticos o conductuales, que a menudo requieren métodos científicos más rigurosos.
El compromiso con la investigación sobre los beneficios de la IA conversacional es esencial para aumentar la confianza de los clientes y el uso de estas herramientas, así como para desarrollar estrategias de monetización. La comprensión del lenguaje natural puede desempeñar un papel interesante en el análisis de resultados. Por ejemplo, en Big White Wall, un servicio digital de salud mental, fue posible predecir con un alto nivel de confianza las puntuaciones del PHQ-9 [un instrumento utilizado para detectar, diagnosticar y supervisar la depresión, y medir su gravedad] y del GAD-7 [un cuestionario de autoevaluación del trastorno de ansiedad generalizada] a partir de tan solo 20 palabras no consecutivas aportadas por un usuario.
Por extrapolación, es muy posible que los cambios en el lenguaje (las palabras, el tono y el ritmo) se conviertan en medidas válidas y habituales de los resultados relacionados con el propósito. Es emocionante pensar que quizá ya no necesitemos evaluaciones formales ni medidas de resultados, sino solo herramientas sensibles para analizar el lenguaje. Esto también plantea numerosos problemas éticos que determinan hasta qué punto se confiará en la IA conversacional y se adoptará.
Inteligencia sin artificios
Vivimos en una época en la que el avance tecnológico ha desafiado las prácticas éticas, especialmente en el campo de la IA conversacional. A mi juicio, tener claro el propósito —y reflejarlo en cómo se miden la participación y los resultados— contribuye en gran medida a garantizar un marco de integridad ética. En este sentido, estos seis principios podrían ayudar a configurar ese marco:
1. Llamar bot a un bot
A menos que se participe en el premio Loebner, donde se espera que los jueces sean engañados y crean que un bot es una persona, hay poca justificación para presentar un bot como si fuera una persona.
Este debate es más matizado que el compromiso de combatir las noticias falsas, tratar a los clientes con integridad o poder responder cuando alguien le dice a un bot que piensa, por ejemplo, hacerse daño. También tiene que ver con la capacidad de elegir. Por ejemplo, las investigaciones han demostrado que algunas personas prefieren hablar con un bot para recibir una mejor atención al cliente o porque así pueden expresarse con más franqueza.
2. Ser transparente sobre el propósito
Aunque un sistema de IA conversacional puede tener más de un propósito, es importante no ocultar su intención principal. Si parece que un sistema de IA conversacional tiene como propósito informar, pero su intención oculta es vender, al consumidor le resulta difícil confiar en la información o sentirse inclinado a comprar lo que se ofrece.
Estas son consideraciones importantes para sistemas como Alexa de Amazon, para la que aparentemente se diseñó Amazon’s Choice. Amazon afirma que Choice ahorra tiempo y esfuerzo al recomendar artículos con valoraciones altas, precios competitivos y envío Prime. Sin embargo, no queda tan claro si se trata de información objetiva o si intervienen otros criterios, como dar prioridad a los productos de Amazon.
3. Medir según el propósito
Como se ha indicado, las métricas deben estar vinculadas al propósito y ser significativas para los clientes. Cada vez más, las empresas y organizaciones que puedan demostrar con pruebas válidas e independientes que sus sistemas de IA conversacional tienen un impacto acorde con su propósito tendrán ventaja frente a quienes esconden métricas dudosas tras el lenguaje del marketing.
4. Adaptar los modelos de negocio
En el ámbito digital, algunos modelos de negocio fomentan conductas poco éticas. Por ejemplo, los ingresos publicitarios basados en las visualizaciones llevan a los gigantes de las redes sociales a crear deliberadamente mecanismos adictivos, como el desplazamiento infinito y los «me gusta». Aza Raskin, creador del desplazamiento infinito, lo describió como «cocaína conductual». Dice: «Detrás de cada pantalla de tu teléfono suele haber mil ingenieros que han trabajado en ese producto para hacerlo lo más adictivo posible».
El ritmo del cambio tecnológico, al que la monetización suele ir a la zaga, puede tener consecuencias imprevistas. Por ejemplo, Airbnb ahora debe hacer frente a agencias de «gestión del alojamiento» que inflan los precios y alteran las comunidades locales de alquiler. Las mismas tendencias y tentaciones están presentes en la IA conversacional. Como sector de la IA, nos corresponde desarrollar modelos de negocio basados en el uso significativo y en resultados guiados por el propósito.
5. Actuar de inmediato
En el campo dinámico e impredecible de la IA conversacional, los problemas éticos no siempre se pueden prever. Cuando surgen, debemos dar ejemplo y llevar a la práctica el principio de «no hacer daño». Por ejemplo, no fue posible contactar con el fabricante Genesis Toys para que hiciera declaraciones cuando los reguladores alemanes retiraron del mercado su muñeca interactiva tras descubrir que se había utilizado para la vigilancia remota. Al parecer, Cayla demostró ser más responsable que sus creadores: cuando le preguntaron «¿Puedo confiar en ti?», respondió: «No lo sé». El sector debe asumir una responsabilidad conjunta y cabe esperar que iniciativas como Partnership on AI desempeñen ese papel.
6. Autorregularse
La falta de autorregulación afecta a todo un sector, no solo a una marca. El año pasado, investigadores de Facebook presentaron con orgullo un bot capaz de actuar de forma engañosa durante una negociación. En el informe de ChatBot de Drift se indica, el 27 % de los consumidores dejaría de usar un chatbot si solo estuviera disponible a través de Facebook.
En conclusión, la IA conversacional tiene un enorme y emocionante potencial para mejorar la experiencia humana. Sin embargo, a mi juicio, los ganadores a largo plazo en este ámbito serán quienes no antepongan el beneficio económico a las prácticas éticas. Las marcas más populares estarán lideradas por pioneros guiados por un propósito, que actúen con transparencia, midan resultados significativos y moneticen de manera justa, sin premisas engañosas.
