¿Aprendizaje automático o liderazgo? Así influirá la IA en el liderazgo según un experto

• Actualmente, la IA carece de la comprensión emocional y de las capacidades técnicas necesarias para ser un líder eficaz.

• Sin embargo, con su rápido desarrollo, el potencial de la IA es casi ilimitado.

• David De Cremer, fundador y director del Centro de Tecnología de IA para la Humanidad, habla sobre cómo la IA podría adquirir pronto la «inteligencia general» que poseen los humanos y ocupar puestos directivos de manera estratégica.

• Todavía existen muchas preguntas en torno a la IA en el lugar de trabajo, con el temor a que reemplace a gran parte de la fuerza laboral humana.

La creciente atención que se presta a la inteligencia artificial plantea importantes interrogantes sobre su integración con las ciencias sociales y la humanidad, según David De Cremer, fundador y director del Centro de Tecnología de IA para la Humanidad en la Escuela de Negocios de la Universidad Nacional de Singapur. Es autor del reciente libro Leadership by Algorithm: Who Leads and Who Follows in the AI Era?

Si bien la IA actual es buena en tareas repetitivas y puede reemplazar muchas funciones directivas, con el tiempo podría adquirir la «inteligencia general» que poseen los humanos, según declaró en una entrevista reciente con AI for Business (AIB), una nueva iniciativa de Analytics at Wharton. Dirigida por el profesor de operaciones, información y decisiones de Wharton Kartik Hosanagar, AIB es una iniciativa de investigación que se centra en ayudar a los estudiantes a ampliar sus conocimientos y aplicaciones del aprendizaje automático, y a comprender las implicaciones empresariales y sociales de la IA.

Según De Cremer, la IA nunca tendrá «alma» y no puede reemplazar las cualidades humanas de liderazgo que permiten a las personas ser creativas y tener perspectivas diferentes. El liderazgo es necesario para guiar el desarrollo y las aplicaciones de la IA de formas que mejor sirvan a las necesidades de los humanos. «Es posible que el trabajo del futuro sea el de [un] filósofo que comprenda la tecnología, lo que significa para nuestra identidad humana y lo que significa para el tipo de sociedad que queremos ver», señaló.

AI for Business: Se escribe mucho sobre la inteligencia artificial. ¿Qué le inspiró a escribir Leadership by Algorithm? ¿Qué vacío en los libros existentes sobre IA intentaba llenar?

David De Cremer: La IA existe desde hace bastante tiempo. El término se acuñó en 1956 e inspiró una «primera ola» de investigación hasta mediados de la década de 1970. Pero desde comienzos del siglo XXI, se hicieron evidentes aplicaciones más directas, que cambiaron nuestra actitud hacia el potencial «real» de la IA. Este cambio fue impulsado especialmente por hechos en los que la IA comenzó a enfrentarse a campeones mundiales de ajedrez y del juego chino go. La mayor parte de la atención se dirigió, y todavía se dirige, a la tecnología en sí: que la tecnología actúa de maneras que parecen inteligentes, lo cual también es una definición sencilla de inteligencia artificial.

Parece inteligente de maneras en que los humanos son inteligentes. No soy informático; mi formación es en economía del comportamiento. Pero sí noté que la integración entre las ciencias sociales, la humanidad y la inteligencia artificial no recibía tanta atención como debería. La inteligencia artificial pretende crear valor para una sociedad poblada por humanos; los usuarios finales siempre deben ser humanos. Eso significa que la IA debe actuar, pensar, leer y producir resultados en un contexto social.

La IA es especialmente buena en tareas repetitivas y rutinarias, y en pensar de forma sistemática y coherente. Esto ya implica que las tareas y los puestos de trabajo con más probabilidades de ser asumidos por la IA son las habilidades técnicas, y no tanto las habilidades blandas. En cierto modo, esta observación se corresponde con lo que se denomina paradoja de Moravec: lo que es fácil para los humanos es difícil para la IA, y lo que es difícil para los humanos parece bastante fácil para la IA.

Una conclusión importante es, entonces, que en el desarrollo futuro de los humanos, formar nuestras habilidades blandas será aún más importante, y no menos como muchos podrían suponer. Quise explicarlo porque hoy hay muchas señales —especialmente desde la COVID-19— de que necesitamos y debemos adaptarnos más a las nuevas tecnologías. Como tal, eso sitúa el uso y la influencia de la IA en nuestra sociedad en una posición dominante. A medida que somos más conscientes, avanzamos hacia una sociedad en la que los algoritmos dicen a las personas cuáles son sus gustos y, sin cuestionarlo demasiado, la mayoría se somete con facilidad. Dadas estas circunstancias, ya no parece una fantasía desbocada que la IA pueda llegar a ocupar una posición de liderazgo, por eso quise escribir el libro.

AIB: ¿Es posible desarrollar la IA de manera que haga la tecnología más eficiente sin socavar la humanidad? ¿Por qué existe este riesgo? ¿Puede mitigarse?

De Cremer: Creo que es posible. Esto también se relaciona con el tema del libro. [Es importante] que tengamos el tipo adecuado de liderazgo. El libro no trata solo de si la IA reemplazará a los líderes; también señalo que los humanos tienen ciertas cualidades únicas que la tecnología nunca tendrá. Es difícil infundir un alma a una máquina. Si pudiéramos hacerlo, también comprenderíamos los secretos de la vida. No soy demasiado optimista en cuanto a que [se haga realidad] en las próximas décadas, pero tenemos una enorme responsabilidad. Estamos desarrollando una IA o una máquina que puede hacer cosas que nunca habríamos imaginado hace años.

Al mismo tiempo, debido a nuestras cualidades únicas de tener y adoptar perspectiva, pensamiento proactivo y capacidad de abstracción, depende de nosotros cómo vamos a utilizarla. Si observa el liderazgo actual, no veo mucho consenso en el mundo. No prestamos suficiente atención a la formación de nuestros líderes: nuestros líderes empresariales, políticos y sociales. Necesitamos una buena educación en liderazgo. La formación empieza con nuestros hijos. [Se trata de] cómo les enseñamos a valorar la creatividad, la capacidad de trabajar junto con otros, adoptar las perspectivas de los demás y asumir un determinado tipo de responsabilidad que sostiene nuestra sociedad. Así que sí, podemos usar las máquinas para el bien si tenemos claro cuál es nuestra identidad humana y el valor que queremos crear para una sociedad humanizada.

AIB: Los algoritmos se están convirtiendo en una parte importante de la forma en que se gestiona el trabajo. ¿Cuáles son las implicaciones?

De Cremer: Un algoritmo es un modelo que dota de inteligencia a los datos, lo que significa que nos ayuda a reconocer las tendencias que se producen en el mundo que nos rodea y que se captan mediante nuestras colecciones de datos. Cuando se analizan bien, los datos pueden indicarnos cómo afrontar nuestro entorno de una manera mejor y más eficiente. Esto es lo que intento hacer en la escuela de negocios, al ver cómo podemos lograr que nuestros líderes empresariales sean más expertos en tecnología, a fin de comprender cómo, dónde y por qué utilizar algoritmos y automatización para tomar decisiones más eficientes.

Muchos líderes empresariales tienen problemas para elaborar casos de negocio que justifiquen por qué deberían usar la IA. Les cuesta entender lo que la IA puede aportar a sus empresas. Hoy en día, la mayoría se deja influir por encuestas que muestran que, como empresa, hay que adoptar la IA porque todos los demás lo hacen. Pero a menudo se comprende peor cómo puede beneficiar a su propia empresa única.

Cada empresa tiene datos que le son propios. Debe trabajar con ellos en cuanto a [la configuración de] su estrategia y en términos del valor que su empresa puede y desea crear. Para lograrlo, también hay que comprender los valores que definen a su empresa y que la diferencian de sus competidores. No estamos haciendo un buen trabajo formando a nuestros líderes empresariales para que piensen de esta manera. En lugar de hacerles pensar que deberían convertirse ellos mismos en programadores, deberían centrarse en ser un poco más expertos en tecnología para poder perseguir su estrategia empresarial —en línea con sus valores— en un entorno en el que la tecnología forma parte del proceso empresarial.

Esto implica que nuestros líderes empresariales comprendan exactamente qué hace un algoritmo, pero también cuáles son sus límites, cuál es su potencial y, sobre todo, en qué parte de la cadena de decisiones de la empresa puede utilizarse la IA para promover la productividad y la eficiencia. Para lograrlo, necesitamos líderes con suficientes conocimientos tecnológicos para optimizar su amplio conocimiento de los procesos empresariales y maximizar la eficiencia para la empresa y para la sociedad. Ahí es donde veo una debilidad en muchos líderes empresariales actuales.

Sin duda, la IA se convertirá en el nuevo compañero de trabajo. Será importante que decidamos dónde, en el ciclo del proceso empresarial, automatizar, dónde es posible sacar a los humanos del ciclo y dónde mantener definitivamente a los humanos en el ciclo para asegurarnos de que la automatización y el uso de la IA no conduzcan a una cultura laboral en la que las personas sientan que están siendo supervisadas por una máquina o tratadas como robots. Debemos ser sensibles a estas cuestiones. Los líderes construyen culturas y, al hacerlo, comunican y representan los valores y las normas que la empresa utiliza para decidir cómo debe realizarse el trabajo para crear valor empresarial.

AIB: ¿Están los algoritmos reemplazando a la mente humana como las máquinas reemplazaron al cuerpo? ¿O los algoritmos y las máquinas están amplificando las capacidades de la mente y el cuerpo? ¿Deberían preocuparse los humanos de que la IA vuelva obsoletas las capacidades mentales de los humanos o simplemente las cambie?

De Cremer: Esa es una de las grandes cuestiones filosóficas. Aquí podemos referirnos a Descartes, [quien planteó el] problema mente-cuerpo [problema]. Con la Revolución Industrial, podemos decir que el cuerpo fue reemplazado por la máquina. Algunas personas creen que, con la inteligencia artificial, ahora la mente será reemplazada. Así pues, el cuerpo y la mente quedan básicamente en manos de las máquinas.

Como expuse en mi libro, hay más sofisticación en ello. También sabemos que el cuerpo y la mente están conectados. Lo que los une es el alma. Y el alma no es una máquina. La máquina, en este momento, no tiene una comprensión real de lo que significa entender su entorno o de cómo puede inferirse de él un significado. Aún más importante a la luz de la idea de humanidad e IA, una máquina no piensa en los humanos ni en lo que significa ser humano. No le importan los humanos. Si usted muriera hoy, a la IA no le preocuparía.

Así pues, la IA no tiene conexión con la realidad en cuanto a la comprensión de la semántica y de emociones profundamente sentidas. La IA no tiene alma. Eso es esencial para que el cuerpo y la mente funcionen. Decimos que uno más uno son tres si se quiere formar un gran equipo. Pero en este caso, si decimos que la IA o las máquinas reemplazan el cuerpo y luego reemplazan la mente, seguimos teniendo que uno más uno es dos, pero no tenemos tres, no tenemos la magia. Por eso, no creo que la IA esté reemplazando nuestra mente.

En segundo lugar, la definición sencilla que propuse antes es que la inteligencia artificial representa comportamientos o decisiones tomadas por una máquina que parecen inteligentes. Esa definición se basa en la idea de que la inteligencia de las máquinas es capaz de imitar el comportamiento inteligente que muestran los humanos. Pero que las máquinas parezcan capaces de actuar de forma similar a los humanos no significa que estemos hablando del mismo tipo de inteligencia y existencia.

Cuando observamos el aprendizaje automático, este está modelado a partir de las redes neuronales. Pero también sabemos, por ejemplo, que la neurociencia todavía sabe poco, quizá ni siquiera el 10 %, sobre cómo funciona el cerebro. Así que no podemos decir que lo sabemos todo y ponerlo en una máquina y argumentar que ha replicado por completo la mente humana.

El ejemplo más sencillo que siempre utilizo es que un ordenador funciona con unos y ceros, pero las personas no funcionan con unos y ceros. Cuando hablamos de ética con los humanos, las cosas casi nunca son blancas o negras, sino grises. Como humanos, somos capaces de dar sentido a esa zona gris, porque hemos desarrollado una intuición, una brújula moral en la forma en que crecimos y fuimos educados. Como resultado, podemos dar sentido a la ambigüedad. Los ordenadores, por el momento, no pueden hacerlo. Curiosamente, hoy se están realizando esfuerzos para comprobar si podemos entrenar a las máquinas como educamos a los niños. Si esto tiene éxito, las máquinas se acercarán a tratar la ambigüedad como lo hacemos nosotros.

AIB: ¿Qué implicaciones tienen estas cuestiones para el liderazgo? ¿Qué papel pueden desempeñar los líderes para fomentar el diseño de una mejor tecnología que se utilice de forma más sabia y no solo más inteligente?

De Cremer: Distingo entre directivos y líderes. Cuando hablamos de dirigir una organización, se necesitan tanto gestión como liderazgo. La gestión proporciona la base para que las empresas funcionen de manera estable y ordenada. Tenemos procedimientos para que las cosas sean un poco más predecibles. Desde principios del siglo XX, a medida que las empresas crecían, había que gestionarlas y [evitar] el caos. Así, la gestión es lo opuesto al caos. Consiste en estructurar y poner orden en el caos, empleando métricas para evaluar si los objetivos y los KPI se alcanzan de forma más o menos predecible. En cierto modo, la gestión tal como la conocemos es un sistema que mantiene el statu quo.

El liderazgo, en cambio, no se centra en el statu quo, sino que se ocupa del cambio y de la responsabilidad de dar dirección para afrontar el caos que trae consigo el cambio. Por eso es importante que el liderazgo sea capaz de adaptarse, de ser ágil, porque una vez que las cosas cambian, se espera que usted, como líder, [proporcione soluciones]. Ahí es donde entran en juego nuestras capacidades para ser creativos, pensar de forma proactiva, comprender qué valor quieren ver las personas y adaptarnos para garantizar que ese tipo de valor se logre cuando sobrevenga el cambio.

La IA será extremadamente aplicable a la gestión porque esta es coherente, trata de centrarse en el statu quo y, debido a su repetitividad, es en esencia una actividad bastante predecible… y así es básicamente como funciona un algoritmo. La IA ya realiza este tipo de trabajo al predecir el comportamiento de los empleados, si van a abandonar la empresa o si siguen motivados para hacer su trabajo. Veo que los algoritmos pueden desempeñar un papel importante en muchas decisiones directivas. Empieza siendo la IA un asesor que proporciona información, pero luego pasa poco a poco a ocupar puestos directivos. Lo llamo gestión por algoritmo – MBA. Teórica y prácticamente, esto ocurrirá, porque la IA tal como la conocemos hoy en las organizaciones es buena trabajando con conjuntos de datos estacionarios. Sin embargo, tiene un problema para tratar con las complejidades. Aquí es donde la IA, tal como la conocemos hoy, no está a la altura en el frente del liderazgo.

Los científicos informáticos que trabajan en robótica y coches autónomos afirman que el mayor desafío para los robots es interactuar con las personas, el contacto físico y coordinar sus movimientos con la ejecución de tareas. Básicamente, es más difícil que los robots trabajen en el contexto de equipos que enviar un robot a Marte. La razón es que cuanto más compleja es el entorno, más probable es que los robots cometan errores. Como somos menos tolerantes a que los robots causen daño a los humanos, se convierte en una actividad peligrosa tener robots y vehículos autónomos que interactúen con personas.

El liderazgo consiste en lidiar con el cambio. Se trata de tomar decisiones que sabe que son valiosas para los humanos. Hay que comprender lo que significa ser humano, que se pueden tener inquietudes humanas, teniendo en cuenta que se puede ser compasivo y humano. Al mismo tiempo, hay que ser capaz de imaginar y de ser proactivo, porque su estrategia en una situación cambiante puede necesitar ajustarse para crear el mismo valor. Hay que ser capaz de abstraer esto, y la IA no es capaz de hacerlo.

AIB: Me alegra que haya planteado la cuestión de la compasión. ¿Cree que el liderazgo basado en algoritmos es capaz de empatía, compasión, curiosidad o creatividad?

De Cremer: Las startups y los científicos están trabajando en lo que llamamos «IA afectiva». ¿Puede la IA detectar y sentir emociones? Conceptualmente es fácil de entender. Así que sí, la IA podrá detectar emociones, siempre que dispongamos de suficientes datos de entrenamiento. Por supuesto, las emociones son complejas, también para los humanos, así que comprender realmente lo que significan para la experiencia humana es algo que la IA no podrá hacer (al menos en las próximas décadas). Como dije antes, la IA no comprende lo que significa ser humano, así que tomar la perspectiva de la inteligencia emocional de lo que nos hace humanos es claramente un límite para las máquinas. Por eso también llamamos a esto inteligencia artificial. Es importante señalar que también podemos decir que los humanos tienen una IA; yo la llamo inteligencia auténtica.

En este momento, la IA no tiene inteligencia auténtica. La gente cree que los sistemas de IA no pueden tener emociones auténticas ni un sentido auténtico de la moralidad. Es imposible porque no tienen las cualidades empáticas y existenciales con las que están dotadas las personas. Además, no estoy muy seguro de que los algoritmos alcancen fácilmente la inteligencia auténtica, dado que no tienen alma. Así que, si no podemos dotarlos de un sentido común que se corresponda con el sentido común de los humanos, que pueda dar sentido a las zonas grises y a la ambigüedad, no creo que puedan desarrollar un verdadero sentido de la empatía, que sea auténtico y genuino.

Lo que sí pueden aprender —y eso se debe al principio de imitación— es lo que llamamos emociones superficiales. Podrán responder, escanearán su rostro, escucharán el tono de su voz y podrán identificar categorías de emociones y responder a ellas de la manera en que los humanos suelen hacerlo. Esa es una comprensión superficial de las emociones que expresan los humanos. Y creo que esta capacidad ayudará a las máquinas a ser eficientes en la mayoría de las interacciones con los humanos.

¿Por qué funcionará? Porque, como humanos, estamos muy sintonizados con la capacidad de nuestros interlocutores para responder a nuestras emociones. Así que casi de inmediato e inconscientemente, cuando alguien nos presta atención, correspondemos. Reconocer las emociones superficiales ya bastaría para lograrlo. Las emociones más profundas corresponden a lo que llamo inteligencia auténtica, que es genuina, y comprender ese tipo de emociones es lo que se necesita para desarrollar amistades y vínculos a largo plazo. La IA tal como la conocemos hoy no se acerca siquiera a esa capacidad.

Con respecto a la creatividad, la historia es similar. La creatividad consiste en aportar una idea nueva, algo que sea nuevo y significativo para las personas. Resuelve un problema que es útil y tiene sentido para las personas. La IA puede desempeñar un papel en ello, especialmente para identificar algo nuevo. Los algoritmos son mucho más rápidos que los humanos para conectar información, porque pueden escanear, analizar y observar tendencias en los datos mucho más rápido de lo que nosotros lo hacemos. Así que, en la primera fase de la creatividad, sí, la IA puede reunir cosas que ya conocemos para crear una nueva combinación mucho más rápido y mejor que los humanos. Pero se necesitarán humanos para evaluar si la nueva combinación tiene sentido para resolver los problemas que los humanos quieren resolver. Las ideas creativas ganan valor cuando se vuelven significativas para las personas, por lo que la supervisión humana como paso final del proceso creativo será necesaria.

Permítame ilustrar este punto con el siguiente ejemplo: se han realizado experimentos en los que a la IA se le dieron varios ingredientes para hacer pizzas, y algunas pizzas resultaron atractivas para los humanos, pero otras acabaron siendo productos que los humanos difícilmente comerían, como piña con Marmite. El Marmite es popular en el Reino Unido y, según los anuncios, la gente lo ama o lo odia, así que es un ingrediente difícil. La IA, sin embargo, no piensa si a los humanos les gustarán esos productos o si les resultarán útiles; simplemente identifica nuevas combinaciones. Por tanto, siempre se necesitará al humano para determinar si tales ideas serán, al final del día, útiles y consideradas un producto significativo.

AIB: ¿Cuáles son los límites de la gestión por algoritmo?

De Cremer: Si lo miramos desde el punto de vista estrecho de la gestión, no hay límites. Creo que en el futuro la IA podrá realizar casi cualquier tarea directiva. Esto se debe a la forma en que definimos la gestión como algo centrado en la idea de crear estabilidad, orden, coherencia y previsibilidad, mediante el uso de métricas (por ejemplo, KPI).

AIB: ¿Cómo podemos avanzar hacia un futuro en el que los algoritmos quizá no dirijan, pero sigan al servicio de la humanidad?

De Cremer: En primer lugar, todos los directivos y líderes tendrán que comprender qué es la IA. Deben comprender su potencial y sus límites, es decir, dónde los humanos deben intervenir y asumir la responsabilidad. La humanidad es importante. Tenemos que asegurarnos de que las personas no contemplen la tecnología solo desde una perspectiva utilitaria, en la que puede hacer que una empresa funcione de forma más eficiente porque reduce costes al no tener que contratar a demasiados empleados ni dejar de formar a las personas para realizar determinadas tareas.

Me gustaría ver una sociedad en la que las personas sean mucho más reflexivas. El trabajo del futuro podría muy bien ser el de [un] filósofo… alguien que comprenda la tecnología, lo que significa para nuestra identidad humana y lo que significa para el tipo de sociedad que nos gustaría ver. La IA también nos hace pensar en quiénes somos como especie. ¿Qué queremos realmente lograr? Una vez que hagamos de la IA un compañero de trabajo, una vez que hagamos de la IA una especie de ciudadano de nuestras sociedades, estoy seguro de que la conciencia de la idea «nosotros frente a ellos» se convertirá en un factor determinante en los debates y discusiones sobre el tipo de instituciones, organizaciones y sociedad que nos gustaría ver. Llamé a esta conciencia la «nueva diversidad» en mi libro. Humanos frente a no humanos, o máquinas: también nos hace pensar en quiénes somos, y necesitamos eso para determinar qué tipo de valor queremos crear. Ese valor determinará cómo vamos a utilizar nuestra tecnología.

Una de las preocupaciones que tenemos hoy es que las máquinas no están reduciendo la desigualdad, sino aumentándola. Por ejemplo, todos sabemos que la IA, para aprender, necesita datos. Pero ¿están los datos ampliamente disponibles para todos o solo para unos pocos? Pues bien, si observamos a los sospechosos habituales —Amazon, Facebook, Apple y otros—, vemos que son ellos quienes poseen la mayor parte de los datos. Aplicaron un modelo de negocio en el que el cliente se convirtió en el propio producto. Nuestros datos son valiosos para ellos. Como resultado, estas empresas pueden llevar a cabo experimentos más sofisticados, necesarios para mejorar nuestra IA, lo que significa que la tecnología también está en manos de unos pocos. La democracia de los datos no existe hoy. Dado que una de las principales direcciones futuras de la investigación en IA es hacerla más potente en términos de procesamiento y predicción, es evidente que existe cierto temor a que, si no gestionamos bien la IA y no pensamos en ella en términos de [si] es buena para la sociedad en su conjunto, podamos enfrentarnos a riesgos. Nuestro futuro debe ser uno en el que todos sean expertos en tecnología, pero no uno que elimine nuestras preocupaciones y reflexiones sobre la identidad humana. Ese es el tipo de educación que me gustaría ver.