IA para la humanidad: por qué las  diferentes disciplinas deben conversar

¿Qué pasaría si le pidiéramos a una IA que cure el cáncer y esta eliminara el cáncer eliminando a los humanos? Este experimento mental, aunque extremo, se utiliza a menudo para destacar los riesgos de los sistemas de IA desalineados y las consecuencias no deseadas de objetivos mal planteados, que hacen que las posibles implicaciones de la IA en la sociedad sean muy reales. También revela un desafío profundo.

Estamos entrando en lo que muchos consideran podría ser la década más trascendental de la historia humana. Las elecciones que hagamos y las decisiones que se tomen (o no se tomen) sobre la IA van a moldear el futuro. En el ámbito académico, las distintas disciplinas están incorporando rápidamente la IA y sus posibles capacidades en la investigación, la innovación y los planes de estudio. Algunas se centran predominantemente en las oportunidades, otras en los riesgos. Sin embargo, a pesar de las buenas intenciones y del discurso sobre la necesidad del pensamiento interdisciplinario para abordar un mundo complejo y en rápida transformación, los silos académicos siguen existiendo.

Al desarrollar y diseñar IA, debemos enfrentar este desafío que permanece a la vista de todos: los silos disciplinarios están dificultando una comprensión integral de la IA y de la innovación responsable.

Los silos disciplinarios crean oportunidades para la ceguera disciplinaria. Esto ocurre cuando las disciplinas individuales solo pueden lograr una visión parcial de los riesgos. Una disciplina puede abordar el riesgo en un área, pero ser ciega a los riesgos asociados que otra disciplina considera. Por ejemplo, la medicina y la ciencia climática abordan la IA desde perspectivas distintas. En medicina, la IA está acelerando los avances en diagnóstico, descubrimiento de fármacos y vacunas, y pruebas de laboratorio, aportando conocimientos con el potencial de mejorar y salvar millones de vidas a nivel global. Al mismo tiempo, en la ciencia climática, se analiza el impacto ambiental de la IA y su expansión, con un enfoque en las emisiones de dióxido de carbono, el consumo de agua y electricidad. Mientras que los avances en medicina tienen el potencial de salvar millones de vidas, las consecuencias del impacto ambiental podrían afectar a miles de millones.

Un segundo desafío surge de que las disciplinas tienen nociones diferentes y contradictorias sobre el riesgo y lo que constituye algo deseable. La IA, por ejemplo, puede automatizar tareas repetitivas de manera muy efectiva. En algunas disciplinas, como la educación, su potencial para calificar y dar retroalimentación rápidamente crea la oportunidad de liberar a los docentes para que se concentren en aspectos de la enseñanza que requieren creatividad y matices en contextos complejos. De manera similar, en las industrias creativas, la producción se está transformando con herramientas de IA que aceleran y amplían ciertas tareas. Sin embargo, es posible argumentar que estas tareas repetitivas que se externalizan y automatizan son una fuente clave de creatividad y experiencia humana, que se desarrolla mediante prueba y error, iteración y reflexión. Aquí radica la contradicción: la misma capacidad que impulsa una disciplina puede, al mismo tiempo, estar socavando a otra. Perder las tareas repetitivas e iterativas podría eliminar el camino para desarrollar creatividad y experiencia.

Finalmente, incluso dentro de la misma disciplina, las contradicciones se hacen evidentes. La ciencia climática lo ilustra con el potencial de la IA para habilitar una gobernanza ambiental más eficaz y ayudar en el desarrollo de soluciones para mitigar los efectos del cambio climático y promover la sostenibilidad a largo plazo. Al mismo tiempo, como ya hemos visto, también existe un enfoque dentro de la disciplina que aborda la presión sobre los sistemas ambientales causada por el aumento en el uso de herramientas de IA.

El pensamiento interdisciplinario ha sido citado a menudo como la manera de reunir diferentes formas de conocimiento para resolver desafíos complejos y generar mejores resultados. Lo que es menos común es abordar los conflictos disciplinarios o incluso intradisciplinarios. Estos conflictos no son meramente académicos; moldean resultados en el mundo real.

Volviendo al experimento mental de curar el cáncer, la respuesta para mitigar la desalineación con una herramienta de IA reside (en parte) en la formulación del prompt. En lugar de pedir a la IA que “cure el cáncer”, un prompt como “diseña e implementa un conjunto de medidas que mejoren la vida humana eliminando el cáncer” podría aportar el matiz necesario. Es sorprendentemente simple. Sin embargo, a menudo no logramos plantear las tareas de manera que reflejen múltiples perspectivas disciplinarias porque no permitimos un choque entre disciplinas.

La historia está llena de ejemplos de fracasos por no pensar más allá de los límites disciplinarios. Pensemos en los cultivos transgénicos y los autos diésel. Ambos fueron avances tecnológicos. Sin embargo, en el caso de los cultivos transgénicos, se pasó por alto el riesgo de perder la aceptación pública, algo que habría sido evidente para un científico social o un analista del discurso público. En los autos diésel, no se consideraron los impactos en la salud, que ya eran conocidos por la evidencia existente sobre enfermedades respiratorias. Una perspectiva más amplia desde distintas disciplinas podría haber evitado estos errores.

Necesitamos un enfoque para elaborar prompts que aborden las contradicciones disciplinarias. Una directiva, por ejemplo, como “crear soluciones médicas personalizadas minimizando el impacto en el medio ambiente” podría ser un prompt que incorpore el choque entre diferentes perspectivas disciplinarias. Pero, por supuesto, este es un ejemplo extremadamente simple. A medida que aumenta la complejidad, se requiere más matización y un mayor debate entre disciplinas.

Sin embargo, el enfoque de directiva de una sola disciplina sigue profundamente arraigado en nuestras disciplinas académicas. “Encuentra una cura para el cáncer” es un imperativo que guía a muchos investigadores en medicina. “Reducir el esfuerzo humano” guía a muchos investigadores en ingeniería. A unos pocos cientos de metros, en los mismos campus, otro investigador llega a una conclusión que va en dirección opuesta. Publicarán en revistas diferentes usando léxicos distintos, presentarán en congresos distintos y existirán en cámaras de eco que refuerzan el enfoque y la perspectiva disciplinaria. Podemos y debemos hacerlo mejor.

Para hacerlo mejor, necesitamos tres cosas:

1. Espacios para un debate profundo y tangible entre disciplinas o incluso contrapuestos, y la eventual negociación. Esto no puede ocurrir solo en los márgenes de cada disciplina; debe suceder en el núcleo de cómo cada disciplina formula las preguntas que aborda.

2. Una cultura de desafío entre disciplinas, no solo de colaboración. Ese desafío puede plantearse como la búsqueda de soluciones, pero debe conservar los bordes afilados de la crítica mutua.

3. Nuevas formas de experiencia para orquestar, gestionar y facilitar el debate. Las disciplinas tienen vocabularios y sistemas de valores distintos. Una palabra como “eficiente” puede estar cargada de valor positivo en una disciplina (por ejemplo, ingeniería) pero resultar mucho más problemática en otra (como algunas ramas de las humanidades). Necesitaremos nuevos tipos de actores académicos que dominen estos distintos lenguajes y puedan traducir entre culturas disciplinarias.

Esta es una necesidad urgente. Actualmente se están definiendo tareas para nuevas capacidades de IA y, más a menudo de lo deseado, esto ocurre dentro de silos disciplinarios. La idea de que la humanidad podría ser eliminada para erradicar el cáncer puede parecer descabellada. Sin embargo, corremos el riesgo de hacer justamente eso si seguimos aislando cada disciplina de la crítica implícita o, en ocasiones, explícita que proviene de otro silo. La apuesta es alta. El momento es ahora.