El sector humanitario está intentando cada vez más anticipar las necesidades, también mediante el uso de la IA.
Pero, en su mayoría, las herramientas de IA son creadas por grandes organizaciones y para ellas, no por actores locales.
La IA humanitaria debería diseñarse junto con las comunidades afectadas por crisis.
Cuando se trata de gestionar una crisis, el momento oportuno lo es todo. Anticiparse a un desastre mediante predicciones, sistemas de alerta temprana o la recepción de información oportuna y precisa sobre el impacto de una crisis puede marcar la diferencia para cientos de vidas. Por eso el sector humanitario promueve cada vez más la acción anticipatoria como una vía clave para reducir las necesidades humanitarias. Una de las herramientas emergentes en el centro de este cambio es la inteligencia artificial (IA).
En 2021, un análisis del Banco Mundial sobre la innovación en IA en la gestión del riesgo de desastres destacó que la IA se utiliza para una amplia gama de tareas, como la cartografía de la vulnerabilidad, la modelización de los movimientos de población, la predicción de riesgos y el apoyo a la evaluación de daños. Estas herramientas tienen un potencial sin precedentes para dotar tanto a los equipos de respuesta como a las comunidades afectadas por crisis de la información oportuna y pertinente que necesitan para tomar decisiones más acertadas.
Pero desplegar la IA humanitaria plantea varios desafíos. Algunos de ellos, como los riesgos de sesgo en los datos, las amenazas a la privacidad y la escasa interpretabilidad de los modelos, son comunes a todos los ámbitos de alto riesgo, desde la medicina hasta los servicios sociales. Otros, como la falta de rendición de cuentas y el peligro de reforzar las antiguas dinámicas de poder entre actores internacionales y locales, representan una amenaza única.
Los riesgos que plantea la IA están en oposición directa con la Norma Humanitaria Esencial, la carta a la que el sector de la ayuda se esfuerza por adherirse, y también socavan los compromisos del sector de otorgar más capacidad de acción a las organizaciones locales. Un análisis de la analítica predictiva en el sector humanitario mostró que estas herramientas son utilizadas sobre todo por grandes agencias internacionales o por la industria. Nuestra propia investigación sobre las herramientas de IA existentes para la acción humanitaria reveló que, incluso cuando los modelos de IA se entrenan con datos o conocimientos generados localmente, menos de un tercio están diseñados para ser utilizados por organizaciones locales o por poblaciones afectadas por crisis.
No sorprende que las herramientas de IA rara vez se diseñen o desarrollen con la participación de los habitantes sobre el terreno que se verían afectados por ellas. Esto pone en riesgo a las comunidades: los modelos de IA son notoriamente deficientes al adaptarse a un nuevo contexto. Si los crean equipos a miles de kilómetros de distancia, sin aportaciones locales significativas, es probable que pasen por alto ideas relevantes sobre qué problemas abordar, qué datos podrían resultar útiles y cómo deberían utilizarse estas tecnologías.
IA humanitaria: un enfoque novedoso
La solución a este desafío radica en construir una IA humanitaria desarrollada y gestionada localmente, mediante IA participativa metodologías. Deben crearse herramientas que aprovechen la inteligencia colectiva de las comunidades afectadas por crisis, para su uso por organizaciones y comunidades locales que suelen ser los primeros en responder ante cualquier crisis.
Con una subvención del UK Humanitarian Innovation Hub, el Centro de Diseño de Inteligencia Colectiva de Nesta y la Federación Internacional de Sociedades de la Cruz Roja y de la Media Luna Roja, probaron recientemente este nuevo enfoque, desarrollando dos nuevas herramientas en Nepal y Camerún para mejorar la respuesta de primera línea ante crisis. Este proyecto incluyó el trabajo con las comunidades para crear nuevos conjuntos de datos más diversos con los que entrenar los modelos de IA, lo que ayudó a reducir el riesgo de datos sesgados. También implicó trabajar con las comunidades y los equipos de respuesta de primera línea para acordar cómo se evaluarían las herramientas, garantizando que el modelo de IA estuviera optimizado para los resultados que les importaban. Además, las comunidades participaron en el perfeccionamiento de los modelos de IA durante la fase de desarrollo. Como resultado de los talleres comunitarios en Nepal, la etnia se eliminó como una de las variables de entrada del modelo; mientras que en Camerún, los voluntarios de la Cruz Roja detectaron un punto ciego en el funcionamiento del modelo.
Aunque es un reto, proyectos como este demuestran que es posible construir IA local con datos locales, infraestructura local y talento local. Y que es posible crear IA que responda a las prioridades y valores locales. En resumen, adoptar un enfoque de IA participativa que ponga en primer plano el contexto local y las comunidades afectadas puede ayudar a crear herramientas de IA más sólidas y socialmente aceptables.
Hacer de la IA inclusiva una práctica habitual, en lugar de una iniciativa experimental puntual, exigirá un cambio en todo el sector por parte de financiadores, agencias e innovadores tecnológicos. Invertir en las competencias técnicas adecuadas a nivel local es, por supuesto, un punto de partida evidente. Además, necesitamos que los tecnólogos de todas partes desarrollen modelos de IA que funcionen en entornos con recursos limitados y datos escasos (que es la realidad de la mayoría de los países que enfrentan crisis humanitarias), en lugar de construir modelos grandes, supervisados y voraces en datos.
Necesitamos que los financiadores humanitarios inviertan en un enfoque coordinado para cubrir las lagunas de datos y creen conjuntos de datos abiertos que sean importantes para las operaciones de los equipos de respuesta humanitaria locales y de las comunidades, no solo de las grandes agencias. Y necesitamos ver de verdad más esfuerzos para diseñar herramientas de IA con la participación y la supervisión de las comunidades afectadas por crisis. Para lograrlo, será fundamental capacitar a los equipos de participación comunitaria para que se conviertan en profesionales de la IA participativa, y desarrollar las competencias y herramientas que puedan ayudar a tender puentes entre los tecnólogos y las comunidades locales.
Cambiar la lógica predominante del desarrollo tecnológico humanitario no será fácil, pero ¿y si cada agencia o financiador empezara simplemente a plantearse la pregunta: ¿cómo participarán las comunidades afectadas en el diseño y la supervisión de esta tecnología? Sin duda, este es el primer paso para crear una IA humanitaria verdaderamente inteligente.
