La inteligencia artificial se ha convertido en un tema candente en los ámbitos político y cultural.
La primera ministra del Reino Unido, Theresa May, la convirtió en el eje central de su intervención en la Cumbre de Davos de este año. Más recientemente, el presidente francés Emmanuel Macron expuso sus planes para convertir a su país en un actor destacado de la industria de la IA.
¿Cómo ha pasado este tema complejo y aparentemente especializado a ocupar un lugar central en el debate general?
La respuesta sencilla es que ya no es un tema especializado. En los últimos años, el ritmo de desarrollo de la IA se ha acelerado enormemente, impulsado por muchos factores, entre ellos la introducción de potentes algoritmos de «aprendizaje profundo», la proliferación masiva de datos con los que estos algoritmos pueden aprender y el aumento significativo de la inversión.
Los procesos algorítmicos afectan ahora a muchos aspectos de nuestra vida, lo sepamos o no. Esto hace aún más evidente la notable ausencia de un actor en el debate sobre la IA: la sociedad civil. Es necesario remediarlo si queremos maximizar el potencial positivo de la IA y minimizar el riesgo de daño.
Mejorar vidas
La IA ofrece enormes oportunidades a las organizaciones de la sociedad civil (OSC) para mejorar la vida de las personas y las comunidades de todo el mundo.
La organización benéfica Parkinson’s UK está explorando si el aprendizaje automático podría aplicarse para desarrollar mejores indicadores de alerta temprana de la enfermedad de Parkinson.
La Fundación Lindbergh, por su parte, se ha asociado con la empresa emergente Neurala para aplicar el aprendizaje automático a vídeos de vigilancia con drones en reservas de fauna silvestre y desarrollar algoritmos capaces de predecir el comportamiento de los cazadores furtivos, lo que permitiría intervenciones más eficaces.
Sin embargo, cada vez hay más ejemplos de los riesgos que la IA plantea para la sociedad civil.
Algunos se derivan de usos deliberadamente malintencionados de la tecnología (como los descritos en un artículo reciente) o del uso de algoritmos para generar desinformación y propaganda dirigidas con el fin de influir en la opinión pública y en las elecciones.
Igualmente importante es el riesgo de consecuencias negativas imprevistas. Cada vez resulta más evidente, por ejemplo, que cuando se aplican algoritmos de aprendizaje automático a datos que contienen sesgos estadísticos históricos relacionados con factores como la raza o el género, estos reflejan y hasta refuerzan esos sesgos con gran rapidez si no se toman medidas para mitigar este peligro.
Dado que la población ajena al mundo político y empresarial es la más vulnerable a este tipo de toma de decisiones impulsada por máquinas, nunca ha sido tan urgente incorporar a la sociedad civil al debate más amplio sobre la IA.
Falta de conciencia
Las organizaciones benéficas y sin fines de lucro no tienen un lugar en la mesa en muchos de los foros donde se debaten estos asuntos. A la inversa, es posible que muchas organizaciones de la sociedad civil (OSC) aún desconozcan estos temas o no comprendan su importancia y pertinencia para su trabajo.
No podemos limitarnos a aceptar esta situación.
Las OSC representan a muchas de las personas y comunidades más marginadas de nuestra sociedad; y, dado que es probable que estos grupos sufran antes y con mayor intensidad los efectos negativos de la IA, es fundamental que las organizaciones que los representan puedan alzar la voz en su nombre. Si no lo hacen, esas OSC no solo incumplirán sus misiones, sino que también se reducirán significativamente las posibilidades de minimizar los efectos perjudiciales más amplios de la IA.
Entonces, ¿qué hay que hacer para garantizar que las OSC desempeñen plenamente su papel en la orientación del desarrollo de la IA hacia un resultado más beneficioso?
Las consecuencias de equivocarnos con la IA son tan profundas y de tanto alcance que las decisiones sobre su futuro no pueden dejarse simplemente en manos de los tecnólogos.
undefined
En parte, se trata de una cuestión de educación y competencias. Las OSC necesitan apoyo para comprender la IA y ayudar a identificar formas de utilizarla en beneficio de la sociedad, además de desempeñar un papel clave en la identificación de algunos de sus riesgos y posibles consecuencias imprevistas.
Y esto es importante: las consecuencias de equivocarnos con la IA son tan profundas y de tanto alcance que las decisiones sobre su futuro no pueden dejarse simplemente en manos de los tecnólogos.
Es necesario incorporar al debate a una amplia variedad de comunidades y organizaciones que representen distintos puntos de vista; y, si necesitan adquirir nuevas competencias para hacerlo, los gobiernos y la industria tecnológica tienen la responsabilidad de garantizar que reciban el apoyo necesario.
También es imprescindible que toda participación de la sociedad civil sea significativa y que se valore a las OSC por la perspectiva que aportan. Esto debe reflejarse en el enfoque de quienes formulan las políticas.
Ya estamos viendo medidas políticas: el Reino Unido aspira a posicionarse como líder mundial en el ámbito de la ética de la IA. Está especialmente bien situado para lograrlo, dado el papel que ha desempeñado en el desarrollo histórico de la IA. Se han creado varias instituciones de colaboración nuevas cuyos nombres reflejan este rico legado (por ejemplo, Instituto Alan Turing, el Instituto Ada Lovelace). También ha habido gran interés parlamentario, con grupos creados tanto en la Cámara de los Comunes como en la Cámara de los Lores para explorar la IA.
Toda estrategia gubernamental sobre la IA o sobre la Cuarta Revolución Industrial en general debe reconocer el papel que la sociedad civil debe desempeñar en la orientación del desarrollo de nuevas tecnologías, así como el impacto que estas podrían tener en la propia sociedad civil.
La iniciativa Future:Good de Charities Aid Foundation aspira a contribuir a afrontar estos desafíos.
A través de nuestro trabajo, hemos contribuido a impulsar el debate sobre el impacto de tecnologías disruptivas como la IA y la cadena de bloques en la filantropía y las organizaciones sin fines de lucro, y queremos seguir siendo un punto de referencia que ayude a informar a las OSC sobre cuestiones clave y, al mismo tiempo, destaque ante los gobiernos y las empresas tecnológicas el valor y la importancia de colaborar con la sociedad civil.
Pero también sabemos que no estamos solos y que hay muchas otras personas de la sociedad civil de todo el mundo a quienes estos asuntos también les importan profundamente. Es fundamental que todos encontremos nuestra voz y alcemos la voz. Así podremos garantizar que las personas y comunidades a las que servimos aprovechen los beneficios de la cuarta revolución industrial, en lugar de convertirse en sus desafortunadas víctimas.
