La IA responsable está diseñada para ayudar a reconocer, prepararse para y mitigar los posibles efectos perjudiciales de la IA. ¿Por qué, entonces, nadie habla de ello?
Casi el 50 % de las organizaciones afirma contar con un marco formalizado para fomentar la consideración de la ética, el sesgo y la confianza.
Estos son 5 consejos sobre cómo su organización puede sumarse al debate sobre la IA responsable.
El sesgo en la IA y otras consecuencias negativas de la tecnología se han convertido en material habitual de los medios de comunicación.
La impresión que transmite la cobertura mediática es que solo unas pocas empresas están tomando medidas para garantizar que los sistemas de IA que desarrollan no perjudiquen involuntariamente a los usuarios ni a la sociedad.
Pero los resultados de una encuesta de IDC muestran que muchas empresas avanzan hacia la IA responsable. Casi el 50 % de las organizaciones afirma contar con un marco formalizado para fomentar la consideración de la ética, el sesgo y la confianza.
¿Qué es la Cumbre Jobs Reset del Foro Económico Mundial?
Pero ¿por qué tan pocas empresas corren el telón para compartir cómo están abordando este enfoque emergente? El silencio resulta desconcertante, dado el compromiso con el uso responsable de la tecnología que estas inversiones señalan.
Trabajo en curso
La IA responsable sigue siendo un campo relativamente nuevo que se ha desarrollado rápidamente en los últimos dos años, con una de las primeras directrices públicas para la implementación de la IA responsable en 2018.
Sin embargo, solo unas pocas empresas hablan públicamente de su trabajo en curso en este ámbito de manera sustantiva, transparente y proactiva. Muchas otras, en cambio, parecen temer las consecuencias negativas (como el riesgo reputacional) de compartir sus vulnerabilidades. Algunas empresas también esperan a tener un “producto acabado”, queriendo poder señalar resultados tangibles y positivos antes de estar listas para revelar su trabajo.
Consideran importante transmitir que disponen de una solución robusta con todas las respuestas a todos los problemas relevantes para su negocio.
También hemos observado que la disposición a ser transparente varía según el sector. Por ejemplo, una empresa de software empresarial que habla con regularidad de correcciones de errores y nuevas versiones puede considerar la IA responsable como un paso natural en su negocio. Sin embargo, una empresa que monetiza datos puede temer que crear este tipo de transparencia saque a la luz una mayor preocupación de los grupos de interés sobre el propio modelo de negocio.
A través de nuestras conversaciones con empresas, hemos constatado que nadie ha dominado la IA responsable y que cada una la aborda desde un ángulo diferente. En gran medida, hay más que ganar compartiendo y aprendiendo que siguiendo trabajando hacia la perfección de forma aislada.
¿Todo riesgo y ninguna recompensa?
Con tantas noticias sobre IA que salió mal, es fácil mantener las estrategias bajo llave. Pero es importante comprender la recompensa de compartir lecciones con las comunidades.
En primer lugar, hablar abiertamente de los esfuerzos por mejorar los algoritmos generará confianza en los clientes, y la confianza es una de las mayores ventajas competitivas que puede tener una empresa. Además, como han demostrado empresas como Apple, adoptar un enfoque centrado en el cliente que incorpore bucles de retroalimentación ayuda a crear mejores productos.
Incorporar la IA responsable en la retroalimentación de los grupos de interés no solo ayudará a evitar daños reputacionales, sino que, en última instancia, aumentará el compromiso de los clientes.
Incorporar la IA responsable en la retroalimentación de los grupos de interés no solo ayudará a evitar daños reputacionales, sino que, en última instancia, aumentará el compromiso de los clientes. Por último, la profesión de la ciencia de datos aún se encuentra en las primeras etapas de madurez. Los modelos y marcos que incorporan la ética en el proceso de resolución de problemas, como el publicado por investigadores de la Universidad de Virginia, están empezando a surgir.
Como resultado, prácticas de IA responsable como las evaluaciones del impacto social y la detección de sesgos apenas están empezando a integrarse en las metodologías de los científicos de datos. Al compartir sus desafíos con sus pares de otras empresas, los científicos de datos y los desarrolladores pueden crear comunidad, resolver problemas y, en última instancia, mejorar todo el campo de la IA.
Como defensores de la IA responsable, instamos a las empresas a apostar decididamente por ella, interactuando con pares y expertos para compartir no solo los logros, sino también los desafíos. Las empresas deben trabajar juntas para hacer avanzar el sector y construir una tecnología en beneficio de todos.
5 formas de sumarse al debate sobre la IA responsable
Hemos llevado nuestras conversaciones con directivos corporativos y, a través de nuestra participación en el proyecto comunitario Foro Económico Mundial sobre el Uso Responsable de la Tecnología, hemos destilado nuestro aprendizaje en cinco ámbitos en los que las empresas pueden ayudar a introducir transparencia en sus iniciativas de IA responsable.
Crear espacios seguros para aprender y participar en ellos: Los foros cerrados, como el Foro Económico Mundial sobre el Uso Responsable de la Tecnología ofrecen un paso seguro y alcanzable hacia la transparencia: un lugar donde las empresas pueden expresarse abiertamente en un entorno sin riesgos y entre pares. La interacción con otras empresas puede acelerar el intercambio de conocimientos sobre las prácticas de IA responsable y generar confianza en sus propios esfuerzos.
Involucre a sus clientes y a su comunidad: El compromiso y la retroalimentación de los clientes generan productos más sólidos. Incorporar la IA responsable a estos diálogos es una excelente manera de interactuar con los clientes en un entorno de bajo riesgo y cómodo.
Actúe con deliberación: No es necesario pasar de “cero a comunicado de prensa”. Dé tiempo a que su programa se desarrolle: comience con el diálogo en foros cerrados, hable con sus empleados, quizá publique una entrada de blog y luego amplíe desde ahí. Lo importante es dar pasos hacia la transparencia. El tamaño de los pasos es menos importante. Este enfoque progresivo también le ayudará a encontrar su propia voz.
La diversidad importa: Involucrar a grupos de interés de diversos orígenes es un paso esencial en el proceso de mejora de la IA responsable. Escuchar activamente y abordar las preocupaciones de personas con perspectivas distintas a lo largo del diseño, despliegue y adopción de los sistemas de IA puede ayudar a identificar y mitigar las consecuencias no deseadas. Este enfoque también puede dar lugar a la creación de mejores productos que sirvan a un mercado más amplio.
Marque el tono adecuado: El cambio cultural empieza por la cúpula. Los altos directivos deben marcar un tono de apertura y transparencia para sentirse cómodos compartiendo vulnerabilidades y aprendizajes. En última instancia, esto reducirá la resistencia organizativa a participar en el diálogo público sobre la IA responsable.
Aún nos encontramos en las primeras etapas de la IA responsable, pero podemos avanzar rápidamente si trabajamos juntos para compartir éxitos, aprendizajes y desafíos. Visite la página del FEM sobre la gobernanza del futuro de la tecnología para empezar a interactuar con sus pares.
