Suena a un guion de la Netflix distopía futurista Black Mirror. Los chatbots ahora preguntan: «¿En qué puedo ayudarte?». La respuesta escrita a cambio: «¿Eres humano?». «Por supuesto que soy humano», llega la respuesta. «¿Pero cómo sé que eres humano?». Y así sucesivamente.
Responsabilizar a las personas que están detrás de la IA
El llamado test de Turing, en el que las personas cuestionan la capacidad de una máquina para imitar la inteligencia humana, ya está ocurriendo ahora mismo. La poderosa inteligencia artificial (IA), impulsada por algoritmos cada vez más complejos y alimentada con petabytes de datos, así como con miles de millones de libras en inversiones, ahora “aprende” a un ritmo exponencial. La IA también toma cada vez más decisiones sobre la vida de las personas.
Esto plantea numerosos dilemas éticos candentes para las empresas, la sociedad, los políticos y los reguladores. Si el aprendizaje automático decide cada vez más a quién conceder hipotecas, informar a los tribunales sobre casos de acusación o evaluar el desempeño del personal y a quién contratar, ¿cómo sabemos que las decisiones informatizadas son justas, razonables y están libres de sesgos?
“La rendición de cuentas es clave. Las personas que están detrás de la IA deben rendir cuentas”, explica Julian David, director ejecutivo de TechUK. “Por eso debemos pensar muy detenidamente antes de otorgar a las máquinas una identidad jurídica. Las empresas que realmente quieran hacer el bien y ser dignas de confianza tendrán que prestar mucha más atención a la ética.”
"Las empresas que realmente quieran hacer el bien y ser dignas de confianza tendrán que prestar mucha más atención a la ética"
El colapso de Cambridge Analytica por la recopilación de datos en las redes sociales, así como el Reglamento General de Protección de Datos, que entró en vigor a finales de mayo, están poniendo estas cuestiones en primer plano. Ponen de relieve que los seres humanos no deben estar al servicio de los datos ni de las grandes empresas, sino que, en última instancia, los datos deben utilizarse para servir a las personas.
“El público en general empieza a rebelarse contra este tema. La gente dice que no sabe nada sobre la legislación de la UE ni sobre la gobernanza de la información, pero sí conoce las filtraciones de datos y escándalos como el de Facebook”, afirma lord Clement-Jones, presidente de la Comisión Selecta de Inteligencia Artificial de la Cámara de los Lores.
El exingeniero de Google Yonatan Zunger ha ido más allá al afirmar que la ciencia de datos se enfrenta ahora a una crisis ética monumental, que se hace eco de problemas a los que se enfrentaron otras disciplinas en siglos pasados, como la invención de la dinamita por el químico Alfred Nobel, mientras que la física tuvo su ajuste de cuentas cuando Hiroshima sufrió el impacto nuclear; la medicina tuvo su momento talidomida y la biología humana, lo mismo con la eugenesia.
La ética debe anteponerse a la tecnología, y no al revés
Pero, como nos enseña la historia, la ética tiende a seguir de cerca a la última tecnología, en lugar de liderarla. “Como subrayan los recientes escándalos, si la innovación ha de ser mínimamente sostenible en el futuro, debemos considerar detenidamente las implicaciones éticas de tecnologías transformadoras como la ciencia de datos y la IA”, afirma Josh Cowls, asistente de investigación en ética de datos del Instituto Alan Turing.
Las empresas deberán abordar la ética de forma directa si quieren prosperar en el siglo XXI. Se prevé que el gasto mundial en sistemas cognitivos se dispare hasta alcanzar unos 19 000 millones de dólares este año, un aumento increíble del 54 % respecto a 2017, según la firma de investigación IDC. Para 2020, Gartner prevé que la IA creará 2,3 millones de nuevos empleos en todo el mundo, mientras que al mismo tiempo eliminará 1,8 millones de puestos de trabajo.
La principal preocupación es que, a medida que las máquinas intentan replicar cada vez más el comportamiento humano y emitir complejos juicios profesionales empresariales, ¿cómo garantizamos la equidad, la justicia y la integridad en la toma de decisiones, así como la transparencia?
“La respuesta sencilla es que, hasta que podamos clonar un cerebro humano, probablemente no podamos”, explica Giles Cuthbert, director gerente del Chartered Banker Institute. “Debemos dejar absolutamente claro que la propia IA no puede ser considerada responsable de sus acciones. Esto se vuelve más complejo, por supuesto, cuando la IA empieza a aprender, pero incluso entonces, la capacidad de aprender está programada.”
Equilibrar los derechos morales con los derechos económicos
El sector apenas es un libro abierto; muchos algoritmos son los secretos mejor guardados de las corporaciones, ya que otorgan a las empresas privadas una ventaja en el mercado. Sin embargo, la opaca llamada “caja negra de la IA” preocupa a muchos. El Instituto AI Now de Estados Unidos ha pedido que se ponga fin al uso de estos sistemas no auditados, que escapan al alcance de un escrutinio y una rendición de cuentas significativos.
“También debemos mirar esto desde una perspectiva global. Las empresas necesitarán juntas éticas en el futuro. Estas juntas deberán coordinarse a nivel internacional mediante códigos de conducta en lo relativo a los principios de la IA”, afirma la profesora Birgitte Andersen, directora ejecutiva del Big Innovation Centre.
“Sí, tenemos derechos morales individuales, pero no debemos descuidar los derechos económicos de la sociedad que surgen del intercambio de datos. El acceso a los datos sanitarios, energéticos, de transporte y personales ha ayudado a crecer a nuevas empresas y economías. Los datos son el nuevo petróleo, el nuevo motor del crecimiento. Los datos deberán fluir para que la IA funcione.”
El Reino Unido podría liderar la ética de la IA
El Reino Unido se encuentra en una posición sólida para liderar la ética de la IA, con los llamamientos de la primera ministra Theresa May a crear un nuevo Centro para la Ética e Innovación de Datos. Después de todo, el país es la cuna del matemático Alan Turing, que estuvo en el centro del pensamiento inicial sobre la IA, y AlphaGo de Google y DeepMind surgieron aquí. Fueron los británicos quienes enseñaron a Alexa, de Amazon, a hablar.
Las empresas británicas también se toman muy en serio la buena gobernanza en muchos otros temas, como la diversidad y la inclusión o el medio ambiente. “El país cuenta con algunos de los mejores recursos del mundo para avanzar en este sentido. El liderazgo en ética puede ser el principal valor diferencial del Reino Unido, pero existe una ventana de oportunidad relativamente estrecha para hacerlo bien. El momento de actuar en todo esto es ahora”, concluye el Sr. David, de TechUK.
Redactar una “Carta Magna” para la IA
De todos los temas de los que la primera ministra Theresa May podría haber hablado en la cumbre anual de altos ejecutivos del Foro Económico Mundial celebrada a principios de este año, eligió centrarse en la inteligencia artificial (IA), afirmando que quiere que el Reino Unido sea líder mundial en la configuración de la gobernanza global, con un nuevo consejo asesor en camino.
“Queremos que nuestro nuevo Centro para la Ética e Innovación de Datos, líder mundial, trabaje estrechamente con socios internacionales para construir un entendimiento común sobre cómo garantizar el despliegue seguro, ético e innovador de la inteligencia artificial”, dijo en su discurso en Davos.
“Esto incluye establecer las normas y los estándares que puedan aprovechar al máximo la IA de forma responsable, por ejemplo, garantizando que los algoritmos no perpetúen los sesgos humanos de sus desarrolladores.”
Después llegó la primera investigación pública del Reino Unido sobre la IA, en abril. La Comisión Selecta de Inteligencia Artificial de la Cámara de los Lores recomendó un código de conducta nacional e internacional sobre IA, al que las organizaciones pueden adherirse. Su informe también pidió que la Autoridad de la Competencia y los Mercados actuara contra “la monopolización de datos” por parte de las grandes empresas tecnológicas.
“En muchos sentidos necesitamos una nueva Carta Magna, esta vez para la IA”, explica lord Clement-Jones, presidente de la comisión selecta. “Lo veo como una carrera contra el tiempo, y ya. La IA está aquí y ahora. Los algoritmos complejos ya están afectando la vida de las personas. Lo que necesitamos es un enfoque rápido y completo del problema. Creemos que no necesitamos una nueva regulación en este ámbito, sino un marco ético.”
La investigación de la comisión y su iniciativa para crear un centro de ética de datos ya han tenido impacto, situando la ética en el centro del pensamiento político del Reino Unido sobre la IA. El trabajo del Instituto Ada Lovelace, de la Oficina del Comisionado de Información y de otros también está cobrando impulso, al igual que los llamamientos para crear una Comisión Global de Gobernanza de la IA.
“Es alentador que el gobierno se tome en serio tanto las oportunidades como los riesgos de estas tecnologías”, afirma Josh Cowls, asistente de investigación en ética de datos del Instituto Alan Turing.
“Las propias empresas también tienen un papel importante que desempeñar en el desarrollo de la ética. Cuanto más eficazmente se coordinen estos esfuerzos, más probable será que tengan éxito. Y si lo logran, permitirá que el Reino Unido acoja el desarrollo de tecnologías de IA que serán tan beneficiosas para la sociedad como rentables para las empresas.”
