La inteligencia artificial impulsa muchas de las aplicaciones que utilizamos a diario, pero la tecnología está entrando ahora en una fase nueva y más sofisticada.
Al hacerlo, necesitamos nuevas salvaguardas para garantizar que se desarrolle de manera segura y equitativa.
La mejor manera de lograrlo es evitar que los sesgos humanos se infiltren en la tecnología, lo que requerirá una gran cantidad de trabajo e inversión.
Alguna forma de inteligencia artificial (IA) impulsa muchas de las aplicaciones que utilizamos a diario.
Por citar algunos ejemplos, la IA ha estado funcionando en segundo plano para ofrecer recomendaciones musicales y de compras, y para ayudarnos a redactar mensajes de texto. Ahora entramos en la siguiente evolución, más sofisticada, de la IA, en la que cobra protagonismo gracias a su capacidad para generar respuestas abiertas.
En términos generales, la tecnología ha sido capaz de transformar nuestras vidas para mejor. Pero algunas innovaciones requieren salvaguardas y buenas prácticas para mitigar los riesgos o los daños a las personas, las comunidades y la sociedad, y, aun así, pueden producirse consecuencias no deseadas. La IA no es una excepción.
Si bien llevamos tiempo desarrollando e investigando soluciones de IA responsable para los servicios tradicionales de IA y de aprendizaje automático (ML), esta nueva era de la IA generativa plantea desafíos únicos. Y debido a la rapidez con la que evoluciona la IA generativa, existe un potencial mayor de riesgos y de resultados no deseados, a menos que adoptemos medidas intencionadas y proactivas para minimizar esos riesgos.
Un paso fundamental es promover la equidad en la IA generativa. Una de las formas de hacerlo es abordar los sesgos que pueden encontrarse en los datos utilizados, en el algoritmo y en las personas que participan en su diseño, desarrollo e implementación.
Si bien las soluciones técnicas son fundamentales para mitigar los sesgos en la IA, debemos abordar esta cuestión de manera holística, invirtiendo también en enfoques que involucren a las personas y a los procesos.
No es posible construir una IA de forma responsable sin la inclusión de voces diversas
Al fin y al cabo, son las personas las que serán los custodios de la IA responsable. Por eso, una de las prioridades es la inclusión, es decir, la consideración intencionada de las perspectivas, voces y características de todas las partes interesadas o consumidores que puedan verse afectados por el producto de IA o utilizarlo.
Lo ideal sería que las perspectivas diversas se integraran en el ciclo de vida del producto de IA desde el principio. Pero la diversidad en la tecnología, la IA y la ciencia de datos sigue siendo un desafío. Las mujeres representan solo el 26 % de los puestos relacionados con datos e IA de la fuerza laboral; solo el 4,2 % de los científicos de datos son negros o afroamericanos, y el 6,9 % son hispanos o latinos. Por tanto, debemos emplear otras vías para incorporar la inclusión centrando la atención en el usuario final.
Una forma creativa de hacerlo es aprovechar los grupos de recursos para empleados en las distintas etapas del ciclo de vida del producto. Los miembros de estos grupos suelen estar dispuestos a compartir sus perspectivas, sabiendo que pueden influir positivamente en el funcionamiento del producto, lo que en última instancia beneficia a su comunidad y a sus clientes.
Paralelamente, debemos aumentar e invertir en la diversidad en este ámbito, construyendo una cantera desde etapas más tempranas. Por eso es fundamental democratizar la educación en IA y hacerla accesible a los grupos infrarrepresentados. Por ejemplo, AWS ofrece programas como la beca de IA y ML y un currículo gratuito de educación en IA para las universidades históricamente negras (HBCU), las instituciones al servicio de minorías (MSI) y los colegios comunitarios.
Por último, como seres humanos, todos tenemos sesgos implícitos, y es importante comprender cómo influyen en los procesos de diseño y de toma de decisiones, en la recopilación de datos, en la ingeniería de características, en la evaluación y en las pruebas de los modelos. La formación debe diseñarse para ayudar a concienciar a los desarrolladores, a los científicos de datos y a otras partes interesadas sobre la existencia y el impacto de los sesgos en los sistemas de IA, y para dotarles de herramientas que permitan reducirlos.
No planificar es planificar el fracaso
Un aspecto clave del proceso es la necesidad de contar con un plan organizativo integral que ayude a las empresas a delimitar, probar y responder de forma proactiva a problemas como posibles sesgos, en caso de que surjan al implementar sistemas de IA generativa.
Como parte del plan, las empresas deberían responder a preguntas como: ¿quiénes son los perfiles clave de los clientes y quiénes son los más afectados? ¿Nuestros datos son representativos de esas partes interesadas? ¿Cuáles son los riesgos y amenazas potenciales? ¿Cuáles son las opciones de reversión y recuperación? ¿Qué mecanismos de retroalimentación se emplearán? ¿Cuál es el plan de comunicación?
Al implantar un modelo operativo de IA con personas, procesos y soluciones técnicas que ayuden a anticipar y gestionar los riesgos de forma eficaz, las empresas pueden reducir la probabilidad y el impacto de los riesgos y consecuencias no deseados, demostrar su compromiso con la resiliencia y la mejora, y gestionar su reputación, lo que conduce a una mayor confianza de los clientes.
La incertidumbre exige una mayor inversión
Dado que la IA generativa sigue evolucionando y que algunos de sus modelos subyacentes son muy complejos, todavía hay mucho que desconocemos sobre cómo produce el contenido que genera. Por eso no está claro cuándo podremos erradicar por completo los sesgos (si es que alguna vez se consigue). Pero lo que sí está claro es la necesidad de una mayor inversión en este ámbito, a medida que más empresas y organizaciones experimentan con la IA generativa para transformar sus negocios e industrias. Además de las ideas centradas en las personas y en los procesos que se han expuesto anteriormente, también necesitamos una colaboración, una investigación y una participación continuas por parte de legisladores, investigadores y expertos, más allá incluso de las empresas que lideran esta tecnología.
Sin duda, la incertidumbre puede dar miedo, pero no podemos dejar que el temor nos paralice. Más bien, debería impulsarnos a tener un renovado sentido de urgencia para comprender mejor la IA generativa, defender la creación de las salvaguardas necesarias y aplicar con intención las buenas prácticas de IA responsable.
Y creo sinceramente que podríamos aprovechar esta tecnología emergente para el bien. De hecho, la IA y el ML vienen desempeñando un papel en la resolución de algunos de los problemas más acuciantes del mundo, como el hambre y la pobreza. Por ejemplo, el Instituto Internacional de Investigación del Arroz (IRRI) utilizó métodos avanzados de ML para permitir una comprensión rápida de los datos genómicos y, a cambio, puede desarrollar variedades de arroz más tolerantes al cambio climático. Pero aprovechar la IA generativa para el bien significa que no podemos quedarnos al margen. Todos tenemos un papel que desempeñar en el camino hacia una IA responsable, independientemente del puesto o del sector en el que trabajemos.
