Este artículo se basa en una entrevista con Azeem Azhar.
La confianza en las nuevas tecnologías, como la IA, no avanza tan rápido como evolucionan las nuevas herramientas.
La participación ciudadana podría ayudar a restablecer el equilibrio, afirma el experto en tecnología Azeem Azhar.
El nuevo documento técnico del Foro Económico Mundial, Principios para el futuro de los medios responsables en la era de la IA, propone cinco principios que los medios responsables deberían adoptar para navegar la nueva era de la inteligencia artificial.
¿Tiene dudas sobre la IA y lo que significa para nuestro futuro? Si es así, es probable que se deba a la velocidad del cambio y a la percepción de falta de control, según un experto.
Azeem Azhar es fundador de Exponential View, un grupo de investigación que estudia el impacto de la tecnología en los negocios, la política y la sociedad. También es copresidente del Consejo Global sobre el Futuro de los Riesgos Complejos. Con más de dos décadas de experiencia en tecnología como emprendedor, inversor y asesor, ha observado cambios en la industria que, según afirma, son fundamentales para nuestra relación con las herramientas revolucionarias que están surgiendo hoy.
“Si lleva mucho tiempo siguiendo la industria tecnológica, como yo, antes se trataba de gadgets”, dice.
“Pero en algún momento de la última década, [las empresas tecnológicas] se convirtieron en algo más que creadoras de golosinas digitales, ya sea una nueva aplicación de calendario, un nuevo teléfono o un servicio en la nube. En realidad, se convirtieron en proveedores de bienes que, en cierto sentido, parecen bienes públicos, pero son producidos por entidades privadas.”
Este cambio, y las preguntas sobre la relación de poder que tenemos con las empresas tecnológicas, es un factor clave de la desconfianza hacia la tecnología, añade.
Confianza y tecnología
Un informe reciente sobre la confianza, elaborado por la consultora de relaciones públicas Edelman, reveló que la mayoría de las instituciones no gozan de la confianza necesaria para introducir innovaciones en la sociedad. De las empresas, las ONG, el gobierno y los medios de comunicación, las empresas son las más confiables para garantizar que las innovaciones sean seguras, comprensibles y accesibles, pero esa cifra, de un 59 % de las personas, sigue por debajo del 60 %, el nivel a partir del cual el informe considera que una institución es confiable. Los medios son la institución menos confiable de las cuatro, un problema que aborda el nuevo documento técnico del Foro, Principios para el futuro de los medios responsables en la era de la IA, que propone cinco principios que debería adoptar una industria mediática responsable “para ayudar a las partes interesadas pertinentes a navegar la nueva era de la inteligencia artificial”.
Sin embargo, la cuestión de la confianza y la tecnología quizá no sea tan sencilla como a veces se describe. “Confiamos en la tecnología”, afirma Azhar. “Confiamos en nuestro martillo, confiamos en nuestra bombilla, confiamos en nuestra toalla. Y aunque estas cosas puedan parecer triviales, en realidad son tecnología.”
La pregunta, entonces, es por qué muchas personas sienten que ciertos tipos de tecnología representan una amenaza. Azhar sostiene que esto se debe a nuestro nivel de comprensión de cómo se desarrolló esa tecnología, a la velocidad del cambio y a la cantidad de control que sentimos que tenemos sobre los nuevos avances.
“No sentimos que tengamos capacidad de decisión sobre su forma, su naturaleza y su dirección”, dice. “Cuando la tecnología comienza a cambiar muy rápidamente, nos obliga a cambiar nuestras propias creencias con bastante rapidez, porque los sistemas que usábamos antes dejan de funcionar tan bien en el nuevo mundo de esta nueva tecnología.”
La tecnología se ha convertido en una industria crítica
Durante el tiempo que Azhar lleva observando la tecnología, esta ha pasado de ser un sector marginal a una industria crítica. Sin embargo, sostiene que la forma en que las empresas tecnológicas interactúan con el Estado no se está transformando al mismo ritmo ni de la misma manera.
“Estas grandes empresas tecnológicas detentan el poder de dos maneras muy importantes. Por un lado, las tecnologías son de infraestructura: son como las autopistas y las carreteras, los sistemas de alcantarillado, la red de suministro de gas y el sistema eléctrico. Y eso es solo la parte más básica de lo que estas empresas ofrecen en términos de servicios en la nube.
“Pero también, de distintas maneras, controlan la interfaz, la capa superior a través de la cual miramos el mundo. No tenemos forma de participar en un proceso legítimo que nos dé alguna certeza de que hemos delegado estos controles en alguien en quien confiamos para que los cuide por nosotros.”
¿Cómo crea el Foro Económico Mundial salvaguardas para la inteligencia artificial?
El Centre for AI Excellence conecta a líderes de todos los sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Respalda un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculadas a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a sus socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
La participación ciudadana puede restaurar la confianza
Muchas empresas que trabajan en tecnologías como la IA generativa ya solicitan la opinión pública para garantizar que sus tecnologías sean beneficiosas para las personas y la sociedad. Microsoft, por ejemplo, utiliza diversos métodos para aprender de su diversa base de usuarios cómo puede optimizar sus productos.
Para Azhar, una vía adicional podría consistir en formar “asambleas ciudadanas” que ayuden a dar forma a la dirección que tomará la nueva tecnología. Afirma que existen cientos de ejemplos de este mecanismo en diversos ámbitos y cita los casos de jurados ciudadanos en Irlanda y de cómo Francia se ha reunido para analizar temas como la legislación sobre el aborto o la eutanasia.
“En lugar de someter esto a un referéndum de toda la población, que siempre genera polarización, o de llevarlo al poder legislativo de la forma tradicional, que implica disputas partidistas, establecieron en ambos países, con una diferencia de una década, un proceso de jurado ciudadano.
“Ambos escucharon el testimonio de expertos y de personas con experiencia personal. Y a partir de ello, los jurados elaboraron una declaración que, en cierto sentido, constituía una declaración de política, una declaración de valores que representaba a la sociedad.”
En materia de tecnología, estos jurados ciudadanos podrían analizar cuestiones como el grado en que deberían adaptarse las normativas de conducción a los vehículos autónomos, o temas relacionados con la atribución de derechos de autor y la propiedad intelectual en torno a la IA.
“Una de las razones por las que me entusiasma este tipo de enfoque es que creo que realmente genera confianza”, afirma.
