Microsoft fue una de las primeras empresas en empezar a debatir y defender una perspectiva ética sobre la inteligencia artificial. La cuestión empezó a cobrar fuerza en la compañía en 2016, cuando el CEO Satya Nadella habló en una conferencia para desarrolladores sobre la postura de la compañía ante algunas de las cuestiones éticas en torno a la IA, y ese mismo año más tarde publicó un artículo sobre estas cuestiones. El enfoque principal de Nadella era la orientación de Microsoft hacia el uso de la IA para potenciar las capacidades humanas y generar confianza en los productos inteligentes. Al año siguiente, el director de I+D de Microsoft, Eric Horvitz, se asoció con el presidente y director jurídico de Microsoft, Brad Smith, para crear Aether, un comité multidisciplinar que aborda la IA y la ética en la ingeniería y la investigación.
Con estos cimientos, en 2018 Microsoft creó un puesto a jornada completa en política y ética de la IA. Tim O’Brien, que lleva 15 años en Microsoft como director general, primero en estrategia de plataformas y después en comunicación global, asumió el cargo.
Por supuesto, cada vez más organizaciones prestan atención a las cuestiones éticas en torno a la IA. En una encuesta de Deloitte de 2018, el 32 % de los directivos conocedores de la IA situaron los riesgos éticos de la IA entre sus tres principales preocupaciones relacionadas con esta tecnología. Microsoft y O’Brien son, en esencia, pioneros en este tema —las ovejas que encabezan el rebaño, en sentido figurado— al crear un puesto centrado en, como dice O’Brien, la «defensa y la evangelización» en materia de ética de la IA.
Hablé con O’Brien para saber cómo surgió su puesto, qué hace en él y qué tipo de políticas podrían surgir en Microsoft gracias a su trabajo. También le pregunté cómo podría relacionarse el puesto de especialista en ética de la IA con puestos similares en otras empresas.
Cómo surgió el puesto de especialista en ética de la IA
O’Brien me contó que se inspiró en los primeros pasos que habían dado los líderes de Microsoft en materia de ética de la IA, y que pidió dedicarse a este tema para la compañía como su función principal. Al principio de su carrera había trabajado como responsable de marketing de producto para diversas empresas tecnológicas, y gran parte de los últimos 15 años en Microsoft los ha dedicado a convencer a los desarrolladores de por qué deberían crear sus productos en las plataformas de la compañía.
Le pregunté a O’Brien si ocultaba un título en filosofía o teología en su perfil de LinkedIn, pero, riendo, me respondió que no. Dijo que sí había tenido cierta exposición a cuestiones éticas en sus clases de derecho mercantil durante el máster en administración de empresas (MBA) y que había estudiado en un instituto jesuita, una orden católica conocida por su énfasis en la ética y la filosofía. Eso es todo, sin embargo, en cuanto a su formación académica en ética.
Su interés surgió cuando dirigía la función de comunicación global de Microsoft fuera de EE. UU., un puesto que le obligaba a viajar constantemente y que le exponía con frecuencia a la «geopolítica de la tecnología», como él mismo la describió. Según dijo, empezó a darse cuenta de que dejar todas las cuestiones éticas y normativas de las empresas en manos de los abogados no era suficiente. O’Brien constataba que, a medida que los datos y el procesamiento se trasladan a la nube, las cuestiones tecnológicas, normativas y geográficas empezaban a converger.
O’Brien se apresuró a señalar que se apoya en hombros de gigantes. «La mayoría de las ideas de las que hablo no son mías», afirmó. Mencionó que el presidente de Microsoft, Smith, lleva varios años predicando el evangelio de la ética de la IA y, de hecho, Smith habla y escribe con regularidad sobre la necesidad de considerar los aspectos éticos, sociales y políticos de la tecnología. O’Brien considera que parte de su función es ayudar a difundir las ideas de Smith a gran escala: Smith es un firme defensor de una IA responsable en Microsoft, pero es un hombre muy ocupado. Además, las cuestiones éticas en torno a la IA son lo bastante complejas y matizadas como para que Smith no pueda defenderlas todas.
Cómo emplea su tiempo un especialista en ética de la IA
El puesto de O’Brien comenzó en mayo de 2018, y casi de inmediato empezó a viajar por todo el mundo. Sus actividades principales han incluido dar conferencias, reunirse con clientes de Microsoft, dirigir una iniciativa de investigación, hablar con analistas e investigadores y coordinar la actividad en toda la compañía.
Las presentaciones de O’Brien se han centrado en temas como evitar el sesgo algorítmico y crear transparencia en los modelos de IA. Algunas de las ideas de Microsoft sobre estas cuestiones han sido descritas en la prensa. Es importante aclarar que, aunque el título del puesto de O’Brien se centra en la IA, él promueve perspectivas éticas sobre todas las tecnologías de la información. O’Brien afirmó que considera la IA la «chispa que encendió la ética en la tecnología», lo que incluye la analítica, el internet de las cosas y la realidad virtual y aumentada, además de la IA. Muchas soluciones del mundo real son, por supuesto, híbridos de estas tecnologías.
El objetivo de la iniciativa de investigación que dirige es desarrollar una perspectiva global sobre la ética tecnológica. En su trabajo anterior, O’Brien observó que las distintas sociedades del mundo tienen perspectivas muy diferentes sobre la privacidad y la ética. Solo en Europa, por ejemplo, los ciudadanos del Reino Unido toleran la vigilancia con cámaras de vídeo en la calle principal del centro de Londres, quizá a causa de los atentados del IRA del pasado, mientras que los alemanes son mucho más partidarios de la privacidad, influidos por las antiguas intromisiones de los espías de la Stasi de Alemania Oriental. O’Brien sugirió que en China el público tolera aplicaciones basadas en IA, como el reconocimiento facial y las puntuaciones de crédito social, al menos en parte porque el orden social es un principio clave de la filosofía moral confuciana.
El proyecto de investigación de Microsoft sobre ética de la IA implica un análisis etnográfico de distintas culturas, obtenido mediante la observación detallada de comportamientos, y el asesoramiento de académicos externos como Erin Meyer del INSEAD, autora de The Culture Map. Podría dar lugar a varias publicaciones, según los resultados. Mi impresión, y también la de O’Brien, es que no hay muchas fuentes sobre la ética tecnológica global. Esta investigación podría empezar a llenar ese vacío.
Dentro de Microsoft, O’Brien intenta ampliar la comunidad de personas que se centran en el tema de la ética. Me envió una colección de materiales que demuestran que muchas personas ya están implicadas. Los materiales incluyen, por ejemplo, una entrada de blog sobre las directrices de Microsoft para desarrollar bots de conversación responsables (sin duda motivada por los comentarios descontrolados del proyecto de investigación del chatbot de IA Tay en 2016). También incluyen una presentación y un artículo sobre modelos inteligibles en la atención sanitaria, y un proyecto interno de una «puerta inteligente» que reconoce (previo consentimiento) quién entra y sale de los edificios de Microsoft. O’Brien me dijo que trabaja estrechamente con el equipo jurídico de Smith y que también tiene una relación de dependencia matricial con Eric Horvitz, técnico distinguido y director de Microsoft Research Labs. Por supuesto, Microsoft es una gran empresa, pero la conciencia sobre la ética de la IA parece estar arraigando con rapidez y amplitud en la compañía.
Este enfoque de cambio de abajo arriba y de dentro hacia fuera es lo que el CEO Nadella intenta inculcar en la cultura de Microsoft. Se acabaron los días de pedir un millón de dólares y cien personas para un nuevo proyecto, afirma O’Brien. El enfoque deseado consiste en poner en marcha una idea y tratar de atraer los recursos necesarios con el tiempo.
Desarrollo de políticas de IA en Microsoft
O’Brien prevé que con el tiempo habrá un conjunto de políticas dentro de Microsoft sobre cómo utilizar la IA y las tecnologías afines. Algunas ya han surgido, como la directiva de Smith de 2018 sobre tecnologías de reconocimiento facial, que, mediante una entrada de blog, establecía que Microsoft no vendería su tecnología de reconocimiento facial de formas que puedan «afectar negativamente a los consumidores y ciudadanos» ni «invadir las libertades democráticas y los derechos humanos».
O’Brien cree que habrá otras políticas que la compañía definirá, desde evitar el sesgo algorítmico hasta la transparencia de los modelos y aplicaciones específicas como la vigilancia predictiva. El activismo de Microsoft en el ámbito de la privacidad y la ética no es nuevo: ha combatido al Gobierno de EE. UU. por la privacidad de los datos sensibles de los clientes en la nube (el caso acabó siendo anulado por el Tribunal Supremo de EE. UU. tras una acción legislativa), y también presentó un escrito en apoyo de la postura de Apple sobre la privacidad del iPhone vinculado a los tiroteos ocurridos en 2015 en San Bernardino (California).
Pero hay muchas cuestiones sobre las que aún no se han desarrollado políticas concretas. O’Brien menciona, por ejemplo, los errores cometidos por los sistemas de IA y la reparación legal de los daños causados por la IA. Considera que la parte más interesante del campo es la gran cantidad de cuestiones sin resolver que contiene.
Microsoft es un actor importante en la IA y en la tecnología en general, así que no tengo dudas de que contar con un puesto de especialista en ética de la IA es una buena idea para la compañía. Desde que O’Brien fue nombrado para el puesto, Salesforce.com y otros proveedores han creado puestos similares. Otras empresas que no son grandes proveedores de TI quizá no quieran defender con tanta firmeza en público las cuestiones relacionadas con la IA. Y no sería buena idea crear un puesto de especialista en ética de la IA sin el sólido liderazgo y apoyo de los altos directivos que muestra Microsoft. Sin embargo, como he sugerido, muchas otras empresas se enfrentarán a problemas similares a los que O’Brien afronta en Microsoft, y disponer de un puesto o grupo interno que los aborde les será útil.
