Publicado originalmente por Philanthropy el 30 de marzo de 2021
La garantía de que la tecnología se desarrolla y utiliza de manera ética es una consideración importante en lo que respecta a la IA.
Un grupo de 20 líderes filantrópicos de alto nivel se reunió para explorar los desafíos y prevenir el uso indebido de la IA.
Las conversaciones que mantuvieron dieron lugar a la «Alianza Global para la Acción en IA», una plataforma para que los líderes filantrópicos y tecnológicos participen en el desarrollo de prácticas éticas de IA.
También dio lugar a la creación de un plan de acción de cuatro puntos.
La inteligencia artificial se presenta de formas tanto grandiosas como mundanas. Acelera el proceso científico, lo que llevó más recientemente al desarrollo de vacunas contra la COVID-19 a una velocidad récord. Impulsa los coches autónomos, permitiéndoles circular con fluidez por las calles del centro de la ciudad. Y gestiona nuestros correos electrónicos y calendarios en línea, mejorando nuestra productividad y bienestar.
Pero el potencial de la IA para transformar el aprendizaje y la experiencia humanos también genera inquietud y plantea cuestiones fundamentales. ¿Quién debe controlar la creación y el uso de estas herramientas? ¿Estamos dispuestos a entregar a un pequeño grupo de tecnólogos las llaves del motor de nuestro desarrollo social y económico? ¿Y qué papel debe desempeñar la filantropía para proteger a los más vulnerables y garantizar que la IA beneficie al bien común?
Las controversias sobre el reconocimiento facial, la toma de decisiones automatizada y el seguimiento de la COVID-19 han demostrado que aprovechar el potencial de la IA requiere un fuerte respaldo de la ciudadanía y los gobiernos, basado en la confianza de que la tecnología se desarrolla y utiliza de manera ética.
Para explorar estos desafíos, reunimos recientemente a un grupo de 20 líderes filantrópicos de alto nivel, en representación de instituciones como la Schmidt Family Foundation, el Mastercard Center for Inclusive Growth y el Berggruen Institute, en una reunión virtual del Foro Económico Mundial. Nuestra conversación reflejó el profundo interés de los filántropos tanto por el potencial positivo de la IA como por la necesidad de comprender con más profundidad cómo aprovechar, orientar y gobernar estas herramientas para evitar su uso indebido y garantizar que se desplieguen en favor del bien social.
Esas conversaciones contribuyeron al lanzamiento de una nueva Alianza Global para la Acción en IA — una plataforma para que los líderes filantrópicos y tecnológicos participen en el desarrollo de prácticas y herramientas de IA éticas. También dieron lugar a la creación de un plan de acción que puede ayudar a allanar el camino hacia una mayor participación filantrópica en el uso eficaz, seguro y equitativo de la IA para atender las necesidades de la sociedad. El plan abarca cuatro áreas clave:
Un compromiso con el aprendizaje. Si bien algunas fundaciones están familiarizadas con la tecnología, la filantropía como sector no está a la vanguardia de la transformación digital. Pero no deberíamos dejar la respuesta de la filantropía a los desafíos y al potencial de la IA en manos de un puñado de fundaciones centradas en la innovación tecnológica. Un amplio abanico de organizaciones filantrópicas, independientemente de su enfoque, debe invertir en aprender sobre la IA, compartir sus perspectivas con el sector y con los beneficiarios, y adaptar las estrategias tradicionales para incorporar estas tecnologías.
Debemos ser honestos respecto a nuestros puntos ciegos organizativos y comprometernos a desarrollar la capacidad interna cuando sea necesario. Eso implica aprender de los científicos de datos y los profesionales de la IA, y contratarlos. La Fundación Rockefeller ha liderado el camino en este ámbito, al contratar desde el principio a un director de datos y convocar grupos de trabajo sobre el diseño y la implementación de una IA responsable.
Y hoy, la Patrick J. McGovern Foundation, que uno de nosotros —Vilas Dhar— dirige, ha ampliado su propia base de conocimiento al anunciar planes para fusionarse con la Cloudera Foundation, con sede en Silicon Valley, a fin de proporcionar mayores recursos y conocimientos de IA a los beneficiarios. La dotación de 9 millones de dólares de Cloudera y las subvenciones existentes por valor de 3 millones de dólares, junto con su personal y su CEO, Claudia Juech, constituirán un nuevo programa de Datos y Sociedad dentro de la Patrick J. McGovern Foundation.
Integración de la IA en las áreas clave de concesión de subvenciones. En lugar de relegar los temas relacionados con la IA y los datos al equipo de TI, los responsables de las fundaciones deberían considerar cómo afectan estas tecnologías a sus áreas de interés prioritarias. Los resultados educativos, por ejemplo, pueden abordarse mediante tecnologías de IA que ofrezcan una mejor traducción de idiomas, un mayor acceso a plataformas de aprendizaje en línea y herramientas didácticas interactivas. La IA también puede desempeñar un papel fundamental para abordar cuestiones como la inseguridad alimentaria. Por ejemplo, una organización sin ánimo de lucro llamada Common Market utiliza la IA para mejorar sus cadenas de suministro de alimentos entre agricultores, redes de cultivo y bancos de alimentos en Texas, el sureste y el Medio Atlántico.
En cada etapa del proceso de toma de decisiones y programación, los líderes filantrópicos deberían preguntarse: «¿Cuál es la posible aplicación de la IA y cuáles son sus beneficios y riesgos?».
Inversión en un intercambio seguro de datos. Las instituciones filantrópicas tienen la ventaja de observar una amplia gama de organizaciones en un determinado ámbito o región y están bien posicionadas para favorecer la agregación y el intercambio de datos y conocimientos técnicos. El hecho de que rara vez lo hagan representa una oportunidad perdida. Las herramientas de IA dependen de enormes cantidades de datos para aprender e identificar patrones en cuestiones como la actuación policial, la falta de vivienda y la salud pública. Pero, para muchas organizaciones sin ánimo de lucro, resulta difícil reunir datos en cantidades significativas o almacenar y analizar de forma segura los datos que recopilan, sobre todo porque la financiación de estas operaciones internas suele ser escasa.
Las organizaciones filantrópicas deberían desempeñar un papel central en el apoyo a los esfuerzos por hacer que los datos sean más accesibles para los beneficiarios, a través de mecanismos como las cooperativas de datos y los fideicomisos de datos. Estas entidades vinculan datos que, de otro modo, estarían en poder de grupos independientes, y ofrecen incluso a las pequeñas organizaciones sin ánimo de lucro sólidas capacidades de datos y análisis. A diferencia de muchas fuentes comerciales de recopilación de datos, también abordan las preocupaciones sobre la privacidad al garantizar que los datos se mantengan de forma confidencial y se apliquen únicamente al uso previsto.
El Himalayan Cataract Project, por ejemplo, que busca erradicar la ceguera en todo el mundo mediante cirugías de cataratas sencillas y económicas, está creando un marco compartido sobre cómo se recopilan, distribuyen y utilizan los datos de los pacientes entre las organizaciones de salud oftalmológica. Esta norma común no solo ofrece a los profesionales sanitarios una mejor información sobre cómo tratar a los pacientes que puedan ser atendidos por varias organizaciones, sino que también garantiza su privacidad mediante la imposición de directrices estrictas sobre el uso de los datos.
Diversificación de voces. El debate sobre el desarrollo, la propiedad y el uso de la tecnología debería ampliarse para incluir a filántropos, activistas, responsables políticos y líderes empresariales. En recientes encuentros sobre IA, hemos reunido a activistas por el cambio social y a líderes empresariales para facilitar debates entre quienes comprenden los problemas que enfrenta la sociedad y quienes pueden construir las soluciones. Plataformas como data.org, lanzada por la Fundación Rockefeller y el Mastercard Center for Inclusive Growth, están impulsando este tipo de diálogo al destacar y financiar soluciones de IA de todo el mundo en cuestiones como la mejora del bienestar económico y la creación de ciudades seguras y sostenibles.
¿Cómo ayuda el Foro a los gobiernos a adoptar de forma responsable la tecnología de IA?
Durante nuestra mesa redonda en el Foro Económico Mundial, Dan Huttenlocher, decano del MIT Stephen A. Schwarzman College of Computing y presidente del consejo de la MacArthur Foundation, señaló que «la IA puede ayudarnos a dar un salto adelante en algunos de los desafíos sociales a los que nos enfrentamos, pero debemos diseñarla para que así sea. No existe una «buena tecnología» en sí misma; tenemos que lograr que funcione para nosotros».
La filantropía ocupa una posición de privilegio financiero, responsabilidad moral y liderazgo público. Debemos utilizar esa posición como plataforma de colaboración entre quienes están dentro y fuera de nuestro ámbito para construir un futuro en el que la IA funcione de forma segura y eficaz para ayudar a resolver los mayores desafíos de la humanidad.
