El diálogo se ve obstaculizado por una brecha de información entre los creadores de la tecnología de IA y los responsables políticos que intentan regularla.
La generación de conocimiento es fundamental para establecer un marco de ética y normas en el que la IA pueda innovar de forma segura.
Los principios solo tienen valor si se acuerdan y si se aplican efectivamente.
Mientras se empieza a formar un consenso sobre el impacto que la IA tendrá en la humanidad, la sociedad civil, el público y el sector privado exigen cada vez más rendición de cuentas y generación de confianza. Las consideraciones éticas, como el sesgo de la IA (por raza, género u otros criterios) y la transparencia algorítmica (claridad sobre las reglas y los métodos mediante los cuales las máquinas toman decisiones), ya han afectado negativamente a la sociedad a través de las tecnologías que usamos a diario.
La integración de la IA en la industria y la sociedad, y su impacto en la vida de las personas, exige marcos éticos y jurídicos que garanticen su gobernanza eficaz, impulsen las oportunidades sociales de la IA y mitiguen sus riesgos. Se necesitan mecanismos sólidos que generen una comprensión integral y compartida colectivamente del ciclo de desarrollo y despliegue de la IA. Por ello, en su esencia, esta gobernanza debe diseñarse mediante un diálogo continuo que utilice metodologías y competencias multisectoriales e interdisciplinarias.
Sin embargo, este diálogo se ve obstaculizado por el hecho de que los creadores de la tecnología de IA poseen toda la información y comprensión del tema, mientras que los responsables políticos que intentan regularla a menudo tienen muy poca. Por un lado, hay un número limitado de expertos en políticas que comprenden realmente el ciclo completo de la tecnología de IA. Por otro, los proveedores de tecnología carecen de claridad, y en ocasiones de interés, para dar forma a la política de IA con integridad, incorporando la ética en sus diseños tecnológicos (por ejemplo, mediante un diseño alineado con la ética).
Responsables políticos – falta de claridad sobre las funciones de la IA
Al igual que las generaciones anteriores tuvieron que adaptarse a la máquina de vapor, la electricidad o internet, esta generación tendrá que familiarizarse con las técnicas subyacentes, los principios y los impactos fundamentales de los sistemas basados en IA. Sin embargo, mientras que la comprensión de la IA llevará tiempo para el público general, los responsables políticos encargados de regular el uso de la IA deberán recibir una formación acelerada.
Las audiencias del Congreso de Estados Unidos – en las que los directivos de las grandes empresas tecnológicas testificaron – brindaron al público estadounidense la oportunidad de observar la preocupante brecha de alfabetización digital entre las empresas que producen las tecnologías que dan forma a nuestras vidas y los legisladores responsables de regularlas. El Congreso de Estados Unidos no es el único en esta situación, ya que los gobiernos de países de todo el mundo se enfrentan al mismo desafío.
Los responsables políticos no tendrán todas las respuestas ni la experiencia necesaria para tomar las mejores decisiones en materia de regulación de la IA, pero plantear mejores preguntas es un avance importante. Sin una comprensión básica de cómo funcionan las tecnologías de IA, los responsables políticos podrían regular la IA de forma excesivamente severa o, por el contrario, no hacer lo suficiente para protegernos y evitar el riesgo de desplegar sistemas basados en IA para la vigilancia masiva, por ejemplo. Por lo tanto, se necesita renovar el énfasis en la educación sobre IA entre los responsables políticos y los reguladores, y aumentar la financiación y la contratación de talento técnico en el gobierno, para que las personas que toman decisiones sobre programas, financiación y adopción de la IA estén informadas sobre los avances actuales de la tecnología.
Solo familiarizándose con la IA y con sus posibles beneficios y riesgos podrán los responsables políticos elaborar una regulación sensata que equilibre el desarrollo de la IA dentro de límites legales y éticos, aprovechando al mismo tiempo su enorme potencial. Conocer la IA también permitirá a los responsables políticos convertirse en usuarios activos, ya que esta tecnología puede ayudarles a alcanzar sus objetivos de política, avanzar en la agenda de los ODS y hacer que el gobierno sea más eficiente.
La generación de conocimiento es fundamental tanto para desarrollar regulaciones más inteligentes en materia de IA como para que los responsables políticos puedan dialogar con las empresas tecnológicas en igualdad de condiciones y, juntos, establecer un marco de ética y normas en el que la IA pueda innovar de forma segura. En consecuencia, el diálogo público-privado es clave para el desarrollo de una ‘IA fiable’.
Proveedores de tecnología – falta de claridad sobre la ética de la IA
En comparación con otras responsabilidades sociales corporativas, la IA acelera la necesidad de que las empresas tecnológicas avancen en los debates sobre ética y confianza, ya que la IA refleja el comportamiento de la sociedad. Con la IA, las corporaciones corren el riesgo de convertirse en impulsoras de un aumento exponencial de los sesgos ya existentes en la sociedad, a una escala y un ritmo irreversibles.
Por ello, las empresas tecnológicas necesitan tanto alfabetización en ética como un compromiso con la investigación multidisciplinar para crear una comprensión sólida y una adopción adecuada de la ética. Sin embargo, durante su formación y su trayectoria profesional, los equipos técnicos que desarrollan la IA no reciben una educación metódica sobre la complejidad de los sistemas sociales humanos, sobre cómo sus productos podrían afectar negativamente a la sociedad, ni sobre cómo incorporar la ética en sus diseños.
El proceso de comprender y reconocer el contexto social y cultural en el que se despliegan las tecnologías de IA, en ocasiones con grandes riesgos para la humanidad, requiere paciencia y tiempo. Esto entra en tensión con el statu quo de los modelos de negocio, que se basan en la velocidad y la escala para obtener beneficios rápidos. Como afirmó en su día el sociólogo alemán Ulrich Beck, hoy la ética “desempeña el papel de un freno de bicicleta en un avión intercontinental”.
Con el aumento de las inversiones en el desarrollo y despliegue de la IA, se alienta a las empresas tecnológicas a identificar las consideraciones éticas pertinentes para sus productos y a implementar de forma transparente soluciones antes de desplegarlos. De este modo, su negocio contará con una sólida estrategia de mitigación de riesgos, al tiempo que se garantiza y demuestra que sus ganancias financieras no se producirán a expensas del bienestar social y económico de la sociedad. Además, reducen las probabilidades de desarrollar una reputación negativa asociada a su uso de la IA.
En el contexto de la pandemia de COVID-19 y el inicio de la próxima revolución industrial, las empresas con una visión sostenible a largo plazo reconocen el argumento empresarial a favor de una IA ética, que puede ayudarlas a evitar crisis y a servir mejor a sus partes interesadas. Así, las empresas tecnológicas tienen la oportunidad de aumentar la alfabetización ética de su personal y de reforzar el diálogo y la colaboración con los responsables políticos. Esto les permitirá tener voz en la configuración y el diseño de los marcos en los que las soluciones de IA ética desde el diseño se desplegarán y escalarán con éxito y de forma segura.
Los principios de la IA solo tienen valor cuando se implementan adecuadamente
Los responsables políticos y los líderes de la industria deben salir de sus silos, especialmente en contextos excepcionales, como el creado por la pandemia de COVID-19. Esto les permitirá mantener un diálogo más constante y sustantivo que garantice que la gobernanza y la legislación de la IA no sean ineficaces frente a las prioridades económicas y políticas.
Ya vemos que, junto a los gobiernos y las organizaciones internacionales, algunas empresas tecnológicas han comenzado a publicar principios éticos de alto nivel para el desarrollo y despliegue de la IA (por ejemplo, Google AI Principles, Microsoft AI Principles). Sin embargo, para garantizar la gobernanza eficaz de la IA, debe haber un diálogo constante entre las empresas y los responsables políticos para acordar un conjunto común de principios y metodologías concretas para llevarlos a la práctica.
En pocas palabras, esos principios solo tienen valor si se acuerdan y si se aplican efectivamente. Para ello, ambas partes necesitan comunicarse constantemente: las empresas necesitan que los responsables políticos proporcionen marcos éticos claros y vías de implementación, mientras que los responsables políticos necesitan que la industria garantice que esos marcos se hagan realidad y estén integrados en las tecnologías de IA que todos utilizamos a diario, sin siquiera darnos cuenta.
