Investigadores del MIT han creado un método para ayudar a los trabajadores a colaborar con sistemas de inteligencia artificial.
Las personas toman decisiones para tareas complejas basándose en interacciones y experiencias pasadas.
Los investigadores utilizaron esto en su modelo para enseñar a la persona sobre la IA.
Tras participar en la técnica, casi el 50 % de las personas que recibieron formación comprendieron correctamente las capacidades de la IA.
En un hospital muy concurrido, una radióloga utiliza un sistema de inteligencia artificial para ayudarla a diagnosticar enfermedades a partir de las radiografías de los pacientes. El sistema de IA puede ayudarla a diagnosticar más rápido, pero ¿cómo sabe cuándo confiar en las predicciones de la IA?
No lo sabe. En cambio, puede basarse en su experiencia, en el nivel de confianza que proporciona el propio sistema o en una explicación de cómo el algoritmo hizo su predicción —que puede parecer convincente y, aun así, ser errónea— para realizar una estimación.
Para ayudar a las personas a entender mejor cuándo confiar en un «compañero de equipo» de IA, investigadores del MIT crearon una técnica de incorporación que guía a las personas para que comprendan con mayor precisión en qué situaciones una máquina hace predicciones correctas y en cuáles las hace incorrectas.
Al mostrar a las personas cómo la IA complementa sus capacidades, esta técnica de formación podría ayudarlas a tomar mejores decisiones o llegar más rápido a conclusiones cuando trabajan con agentes de IA.
«Proponemos una fase de enseñanza en la que presentamos gradualmente a la persona este modelo de IA para que pueda ver por sí misma sus puntos débiles y fuertes», afirma Hussein Mozannar, estudiante de posgrado del Grupo de Aprendizaje Automático Clínico del Laboratorio de Ciencias de la Computación e Inteligencia Artificial (CSAIL) y del Instituto de Ingeniería y Ciencia Médicas. «Lo hacemos imitando la forma en que la persona interactuará con la IA en la práctica, pero intervenimos para darle retroalimentación y ayudarla a entender cada interacción que tiene con la IA».
Mozannar escribió el artículo junto con Arvind Satyanarayan, profesor adjunto de informática que dirige el Grupo de Visualización del CSAIL; y el autor principal David Sontag, profesor asociado de ingeniería eléctrica e informática del MIT y director del Grupo de Aprendizaje Automático Clínico. La investigación se presentará en febrero en la Asociación para el Avance de la Inteligencia Artificial.
Modelos mentales
Este trabajo se centra en los modelos mentales que las personas construyen sobre los demás. Si la radióloga no está segura de un caso, puede consultar a un colega experto en un área determinada. A partir de su experiencia y de lo que sabe de ese colega, tiene un modelo mental de sus puntos fuertes y débiles que utiliza para evaluar sus consejos.
Las personas construyen los mismos tipos de modelos mentales cuando interactúan con agentes de IA, por lo que es importante que esos modelos sean precisos, afirma Mozannar. La ciencia cognitiva indica que las personas toman decisiones para tareas complejas recordando interacciones y experiencias pasadas. Por eso, los investigadores diseñaron un proceso de incorporación que ofrece ejemplos representativos de cómo trabajan juntos una persona y la IA, los cuales sirven como referencias a las que la persona puede recurrir en el futuro. Empezaron creando un algoritmo capaz de identificar los ejemplos que mejor enseñarán a la persona sobre la IA.
«Primero aprendemos cuáles son los sesgos y los puntos fuertes de una persona experta, observando sus decisiones anteriores tomadas sin la guía de la IA», afirma Mozannar. «Combinamos lo que sabemos sobre la persona con lo que sabemos sobre la IA para determinar cuándo le será útil apoyarse en ella. Después obtenemos casos en los que sabemos que la persona debería confiar en la IA y casos similares en los que no debería hacerlo».
Los investigadores probaron su técnica de incorporación en una tarea de respuesta a preguntas basada en un pasaje: el usuario recibe un texto escrito y una pregunta cuya respuesta está contenida en el texto. Luego debe responder y puede hacer clic en un botón para «dejar que responda la IA». Sin embargo, el usuario no puede ver de antemano la respuesta de la IA, por lo que debe apoyarse en su modelo mental de esta. El proceso de incorporación que desarrollaron comienza mostrando estos ejemplos al usuario, que intenta hacer una predicción con la ayuda del sistema de IA. La persona puede acertar o equivocarse, y la IA también; en cualquier caso, después de resolver el ejemplo, el usuario ve la respuesta correcta y una explicación de por qué la IA eligió su predicción. Para ayudarle a generalizar a partir del ejemplo, se muestran dos ejemplos contrastantes que explican por qué la IA acertó o se equivocó.
Por ejemplo, quizá la pregunta de formación sea cuál de dos plantas es originaria de más continentes, a partir de un párrafo enrevesado de un libro de texto de botánica. La persona puede responder por su cuenta o dejar que responda el sistema de IA. Después ve dos ejemplos de seguimiento que le ayudan a entender mejor las capacidades de la IA. Quizá esta se equivoque en una pregunta posterior sobre frutas, pero acierte en una sobre geología. En cada ejemplo se destacan las palabras que el sistema utilizó para hacer su predicción. Ver las palabras resaltadas ayuda a la persona a entender los límites del agente de IA, explica Mozannar.
Para ayudar al usuario a recordar lo aprendido, este escribe la regla que deduce del ejemplo de enseñanza, como «Esta IA no es buena para predecir flores». Después puede consultar estas reglas cuando trabaje con el agente en la práctica. Estas reglas también formalizan el modelo mental que el usuario tiene de la IA.
El impacto de la enseñanza
Los investigadores probaron esta técnica de enseñanza con tres grupos de participantes. Un grupo completó todo el proceso de incorporación; otro no recibió los ejemplos comparativos de seguimiento; y el grupo de referencia no recibió enseñanza alguna, pero pudo ver de antemano la respuesta de la IA.
«A los participantes que recibieron enseñanza les fue igual de bien que a quienes no la recibieron, pero pudieron ver la respuesta de la IA. Así que la conclusión es que pudieron simular la respuesta de la IA tan bien como si la hubieran visto», afirma Mozannar.
Los investigadores analizaron los datos con más detalle para ver las reglas que escribieron los participantes. Descubrieron que casi el 50 % de las personas que recibieron formación escribió conclusiones acertadas sobre las capacidades de la IA. Quienes formularon conclusiones acertadas respondieron correctamente el 63 % de los ejemplos, mientras que quienes no lo hicieron acertaron el 54 %. Por su parte, quienes no recibieron enseñanza, pero pudieron ver las respuestas de la IA, acertaron el 57 % de las preguntas.
«Cuando la enseñanza da resultado, tiene un impacto significativo. Esa es la conclusión principal. Si logramos enseñar eficazmente a los participantes, pueden hacerlo mejor que si simplemente les diéramos la respuesta», afirma.
Pero los resultados también muestran que aún hay una brecha. Solo el 50 % de quienes recibieron formación construyó modelos mentales precisos de la IA, y ni siquiera quienes lo lograron acertaron más del 63 % de las veces. Aunque aprendieron lecciones acertadas, no siempre siguieron sus propias reglas, afirma Mozannar.
Esa es una de las preguntas que desconciertan a los investigadores: aunque las personas sepan que la IA debería acertar, ¿por qué no siguen su propio modelo mental? Quieren explorar esta cuestión en el futuro, además de perfeccionar el proceso de incorporación para reducir el tiempo que requiere. También les interesa realizar estudios con usuarios y modelos de IA más complejos, sobre todo en entornos de atención sanitaria.
Esta investigación recibió apoyo, en parte, de la Fundación Nacional de Ciencias.
