El Mes de la Historia Negra se celebra durante febrero en Estados Unidos, Canadá y el Reino Unido.
El movimiento por los derechos civiles en Estados Unidos y las tecnologías emergentes están estrechamente entrelazados, especialmente desde una perspectiva orientada a la justicia.
La IA debe ser ética y equitativa en su enfoque para garantizar que empodere a las comunidades y beneficie a la sociedad.
El sesgo en los algoritmos es un costoso descuido humano. Su coste se debe a su enorme impacto en las comunidades marginadas y subrepresentadas. A medida que la inteligencia artificial (IA) se extiende por sectores y funciones, puede estar plagada de sesgos inconscientes que hacen más daño que bien.
Aunque los especialistas en ética de la IA y quienes trabajan para desarrollarla de forma responsable suelen hablar de la necesidad de una mayor transparencia y rendición de cuentas a lo largo del ciclo de vida de la IA, el Mes de la Historia Negra suele ser el momento en que las organizaciones evalúan la enorme labor que se ha realizado y la que aún queda por hacer.
Confiamos en la IA, un pódcast copresentado por Miriam Vogel, de EqualAI y Kay Firth-Butterfield, del Foro Económico Mundial, explora las oportunidades y los desafíos de ampliar el uso de la IA responsable. En el episodio del Mes de la Historia Negra de este año, Cómo influye la IA (y cómo debería influir) en nuestra celebración del Mes de la Historia Negra, las acompañó Renee Cummings, especialista en ética de la IA, criminóloga, académica comunitaria de la Universidad de Columbia y fundadora de Urban AI.
El episodio se centra en la importancia de la equidad y la inclusión en la IA, así como en sus vínculos con la justicia y la participación cívica.
Gran parte de la IA y la ciencia de datos tiene que ver con los derechos civiles. Y cuando pensamos en el Mes de la Historia Negra, pensamos en el legado, en un legado estadounidense que cambió el mundo. Cuando pensamos en la IA, pensamos que un algoritmo puede crear un legado
Renee Cummings, especialista en ética de la IA
Historia de la tecnología en las comunidades negras
En las comunidades racializadas de Estados Unidos existe una historia de desconfianza hacia la tecnología: las fuerzas del orden, los servicios sociales, la vivienda y la atención sanitaria han mostrado disparidades y desigualdad, especialmente durante la pandemia de COVID-19. Cummings explica que incluso en la historia reciente muchas comunidades fueron utilizadas como «conejillos de Indias» en investigaciones, por lo que la desconfianza es intergeneracional y está basada en el trauma. La implementación de nuevas tecnologías, como la IA, requiere construir y restablecer esa confianza y esa justicia.
Dado que la IA está concebida para ayudar y replicar las interacciones humanas, lo último que debería hacer la tecnología es mantener antiguos sesgos humanos y perpetuar estereotipos dañinos e inexactos. Los sistemas obsoletos que siguen socavando el futuro de las personas, en particular de las personas negras, indígenas y racializadas (BIPOC), no son herramientas cuya implementación deba considerarse.
La IA ya ayuda en tareas como decidir quién recibe becas, hipotecas y oportunidades para crear capital económico; por eso queda claro que debe ser imparcial e inclusiva, sin ninguna duda. Al replicar las interacciones humanas, debería ofrecer lo mejor que tiene la humanidad, en lugar de lo peor.
¿Qué hace el Foro Económico Mundial en materia de diversidad, equidad e inclusión?
El Centro para la Nueva Economía y la Sociedad conecta a líderes para comprender cómo los cambios económicos y tecnológicos están transformando los empleos, las competencias y las oportunidades.
Mediante el intercambio de conocimientos y la colaboración, el Centro permite a sus socios explorar modelos económicos inclusivos que apoyen a las personas y las sociedades durante la transición.
AI&You, una organización sin fines de lucro cuya misión es involucrar y educar a las comunidades marginadas sobre la IA, describe el sesgo:
«La IA no es consciente de las cosas que le mostramos, pero aun así intenta comprenderlas; por eso, si las cosas que le mostramos ya contienen sesgos, por ejemplo de carácter racista o xenófobo, la IA inevitablemente reproducirá ese comportamiento».
Un ejemplo reciente y decisivo del uso de la tecnología como arma tuvo lugar durante las protestas de Black Lives Matter de 2020, cuando «se utilizó tecnología de vigilancia para rastrear, seguir y aterrorizar a numerosos periodistas, manifestantes y activistas; estábamos viendo muchos de los desafíos relacionados con la falta de un enfoque equitativo o diverso», explica Cummings.
Si la tecnología basada en IA que permite el reconocimiento y el seguimiento facial y de voz presenta sesgos inherentes debido a sus datos y diseño, las comunidades BIPOC a las que apunta quedan expuestas a daños sin siquiera darse cuenta. Para que la IA pueda ampliarse, su enfoque debe ser ético y equitativo.
Tecnología para la confianza pública y participación cívica
Gran parte de la IA se desarrolla sin que el público lo sepa y, por tanto, sin que participe en el proceso. Renee Cummings defiende firmemente la participación cívica y comunitaria en el diseño y la implementación de tecnologías nuevas y emergentes, como la IA. Para generar confianza, el público debe participar en la «tecnología al servicio de la confianza pública».
Cummings afirma que, como custodios del bien público, todos tenemos la responsabilidad colectiva de garantizar que la IA sea responsable y digna de confianza. Y dado que, en última instancia, las comunidades producen los datos y conocimientos que permiten funcionar a los sistemas de IA, tiene sentido incluir sus voces en las fases de diseño.
Además, para crear un futuro sostenible, se necesitan educación y voces diversas que hagan posible una innovación más inclusiva, especialmente en lo relativo a la seguridad pública. Por ejemplo, si una comunidad desconfía desde hace tiempo de las fuerzas del orden, cuando estas implementen una tecnología, aunque sea beneficiosa, se considerará que no es fiable.
Nunca hay una situación en la que la implementación de una tecnología esté justificada o deba provocar una crisis en una comunidad. Al implementar una nueva herramienta (junto con todas las existentes), concebida y diseñada deliberadamente para ser inclusiva, esta debe empoderar a las comunidades y beneficiar a toda la sociedad.
Cuatro maneras de garantizar que la IA sea inclusiva
Diversidad: necesaria durante todo el ciclo de vida de la IA, desde la ideación, el diseño y el desarrollo hasta la implementación y el seguimiento posterior al lanzamiento. Mark Brayan, director ejecutivo de Appen, escribió para el Foro Económico Mundial que «crear una IA inclusiva exige un cambio completo de mentalidad a lo largo de todo el proceso de desarrollo».
Transparencia: no solo en la fase de ideación o diseño, sino también al elegir las inversiones y el capital adecuados para los proyectos. En toda tecnología nueva es necesario ser transparentes sobre lo que se diseña y, sobre todo, para quién y cuáles son sus repercusiones.
Educación: enseñar y dotar a las comunidades subrepresentadas de las herramientas y competencias necesarias para comprender el ámbito de la IA y trabajar en él. La doctora Brandeis Marshall, fundadora de DataEdX, becaria profesional de Stanford PACS e investigadora asociada de Siegel Family Endowment, compartió en una conversación comunitaria que llegar a las comunidades BIPOC requiere representación: «Si no lo ves, no podrás serlo; y eso es fundamental para que más personas se incorporen a esta disciplina».
Promoción: apoyar y seguir la labor de organizaciones y personas del sector, como Black in AI, cuyos programas han eliminado obstáculos que enfrentan las personas negras de todo el mundo en el campo de la IA, y la Alianza Global para la Acción en IA (GAIA).
