Masayoshi Son, consejero delegado del conglomerado multinacional japonés SoftBank y entusiasta inversor en IA, afirmó recientemente que su empresa busca “desarrollar robots afectuosos que puedan hacer sonreír a la gente”. Pero si la IA ha de hacer realmente más felices a las personas, y mucho menos aún mejorar la situación de la sociedad en su conjunto, debemos acertar con las reglas y los estándares.
Al margen del último Foro Económico Mundial celebrado en Davos, el ministro de Comunicaciones e Información de Singapur anunció discretamente el lanzamiento del primer marco nacional del mundo para la gobernanza de la inteligencia artificial. Aunque los medios internacionales han restado importancia a este anuncio, su trascendencia va mucho más allá de las fronteras de Singapur o de la localidad suiza donde se hizo. Es un ejemplo que el resto del mundo debe seguir con urgencia y sobre el que debe construir.
En los últimos años, el Gobierno de Singapur, a través de la iniciativa AI Singapore, impulsada por el Estado, ha trabajado para posicionar al país como líder mundial del sector de la IA. Y está logrando avances sólidos: Singapur, junto con Shanghái y Dubái, atrajo el mayor volumen de inversión relacionada con la IA del mundo el año pasado. Según una estimación reciente, la inversión en IA debería permitir a Singapur duplicar el tamaño de su economía en 13 años, en lugar de 22.
Por supuesto, el impacto de la IA se extiende a nivel global. Según un reciente informe, la IA podría aportar hasta un 16% al crecimiento del PIB mundial para 2030. Dado este potencial, la competencia por la inversión e innovación en IA se intensifica, y Estados Unidos y China lideran el camino, como era previsible. Sin embargo, hasta ahora ningún gobierno ni organismo supranacional ha tratado de desarrollar los mecanismos de gobernanza necesarios para maximizar el potencial de la IA y gestionar sus riesgos.
Esto no se debe a que los gobiernos consideren trivial la gobernanza de la IA, sino a que hacerlo obliga a los responsables políticos y a las empresas a abrir una caja de Pandora de interrogantes. Consideremos el impacto social de la IA, mucho más difícil de cuantificar –y de mitigar, cuando sea necesario– que sus efectos económicos. Por supuesto, las aplicaciones de la IA en sectores como la sanidad pueden generar importantes beneficios sociales. No obstante, el riesgo de un uso indebido o de manipulación de los datos recopilados por gobiernos y empresas para habilitar estas aplicaciones genera riesgos muy superiores a los asociados con escándalos anteriores de privacidad de datos, y de reputación que los gobiernos y las empresas no han internalizado.
Como otro informe reciente de McKinsey informenotas, “aprovechar el potencial de la IA para mejorar el bienestar social no ocurrirá de forma espontánea”. El éxito requerirá “intervenciones estructurales por parte de los responsables políticos combinadas con un mayor compromiso de los agentes de la industria”. Por mucho que los gobiernos y los responsables políticos quieran retrasar esta acción, no se deben subestimar los riesgos de hacerlo, incluido para su propia reputación.
De hecho, en un momento en que muchos países afrontan una crisis de confianza en sus gobiernos, reforzar la gobernanza relacionada con la IA es, en muchos sentidos, tan importante como subsanar los fallos de la gobernanza corporativa o política. Después de todo, como lo planteó el consejero delegado de Google, Sundar Pichai, lo expresó en 2018, “La IA es una de las cosas más importantes en las que trabaja la humanidad. Es más profunda que, no sé, la electricidad o el fuego.”
La Comisión Europea parece estar entre los pocos actores que lo reconocen, al haber publicado, a finales del año pasado, “un borrador de directrices éticas para una IA fiable”. Mientras que las directrices de Singapur se centran en generar confianza en los consumidores y garantizar el cumplimiento de las normas de tratamiento de datos, el modelo europeo aspira a dar forma a la creación de una IA centrada en las personas y con un propósito ético.
Sin embargo, ni el marco de gobernanza de la IA de Singapur ni las directrices preliminares de la UE abordan una de las cuestiones más fundamentales sobre la gobernanza de la IA: ¿a quién pertenece realmente la propiedad del sector de la IA, y la responsabilidad sobre él y sus tecnologías asociadas? Esta cuestión plantea el problema fundamental de la responsabilidad por la IA, y si esta aporta un enorme progreso social o introduce un sistema kafkiano de apropiación y manipulación de datos.
Las directrices de la UE prometen que “se pondrá en marcha un mecanismo que permita a todas las partes interesadas refrendar formalmente y suscribir las Directrices de forma voluntaria”. El marco de Singapur, que también sigue siendo voluntario, no aborda en absoluto la cuestión, aunque sus recomendaciones están claramente dirigidas al sector empresarial.
Si la IA ha de generar progreso social, la responsabilidad por su gobernanza deberá compartirse entre los sectores público y privado. Para ello, las empresas que desarrollan o invierten en aplicaciones de IA deben establecer vínculos sólidos con sus usuarios finales, y los gobiernos deben dejar claro hasta qué punto se comprometen a proteger a los ciudadanos de tecnologías potencialmente dañinas. De hecho, un sistema de responsabilidad compartida para la IA será una prueba de fuego para el modelo más amplio de “capitalismo de las partes interesadas” que se debate hoy.
Lo público frente a lo privado no es la única tensión a la que debemos enfrentarnos. Como Francis Fukuyama en una ocasión señaló, “a medida que la tecnología moderna se despliega, moldea las economías nacionales de forma coherente, entrelazándolas en una vasta economía global.” En un momento en que la tecnología y los datos fluyen libremente a través de las fronteras, el poder de las políticas nacionales para gestionar la IA puede ser limitado.
Como han demostrado los intentos de gobernanza de Internet, crear una entidad supranacional para gobernar la IA será un reto, debido a imperativos políticos contrapuestos. En 1998, se creó la Corporación de Internet para la Asignación de Nombres y Números (ICANN), con sede en Estados Unidos, para proteger Internet como bien público, garantizando, mediante el mantenimiento de bases de datos, la estabilidad y la seguridad del funcionamiento de la red. Sin embargo, aproximadamente la mitad de los usuarios de Internet en el mundo todavía sufren censura en línea. Las apuestas, altísimas, de la IA agravarán el reto de establecer una entidad supranacional, ya que los líderes deberán abordar cuestiones políticas similares y potencialmente incluso más espinosas.
Masayoshi Son, consejero delegado del conglomerado multinacional japonés SoftBank y entusiasta inversor en IA, afirmó recientemente que su empresa busca “desarrollar robots afectuosos que puedan hacer sonreír a la gente”. Para alcanzar ese objetivo, los gobiernos y el sector privado deben concebir sólidos modelos de colaboración para gobernar la IA crítica en la actualidad. El resultado de este esfuerzo determinará si la humanidad logrará crear tecnologías de IA que nos beneficien sin destruirnos.
