Humanos e IA pueden aprender a convivir, afirma el Dr. Alan Finkel, Científico Jefe de Australia. Pero hará falta confianza, y también un Certificado Turing.
Cada día, pongo mi vida en manos de cientos de personas que probablemente nunca conoceré. Los hombres y mujeres que diseñaron y fabricaron mi coche. Quienes prepararon el almuerzo que compré en una tienda y quienes instalaron los enchufes de mi oficina. Hay innumerables personas más.
La capacidad de confiar en otros seres humanos que no conocemos es la razón por la que nuestra especie domina el planeta. Somos ingeniosos, y nuestra incansable búsqueda de tecnologías nuevas y mejores nos impulsa. Pero el ingenio por sí solo no bastaría sin nuestra habilidad para cooperar en grandes grupos y sin nuestra capacidad para domesticar fuerzas peligrosas, como la electricidad, y ponerlas al servicio de fines seguros y valiosos.
Para inventar el mundo moderno, hemos tenido que crear la compleja red de leyes, reglamentos, prácticas industriales y normas sociales que hace posible confiar en nuestros semejantes.
Entonces, ¿qué se necesita para que confíe en la inteligencia artificial? ¿Para permitirle conducir su coche? ¿Para vigilar a su hijo? ¿Para analizar una resonancia cerebral y dirigir instrumentos quirúrgicos para extirpar su tumor? ¿Para espiar a una multitud en un concierto y localizar al autor de un robo cometido hace cinco años?
Confianza por defecto
Hoy solemos responder a esa pregunta por defecto. Pocos de nosotros leemos los términos y condiciones antes de marcar la casilla de consentimiento e invitar a asistentes virtuales, como Alexa o Google Home, a nuestros hogares. Tampoco reflexionamos mucho sobre los algoritmos que funcionan entre bastidores en las fuerzas policiales, las cooperativas de crédito y las agencias de bienestar social para dar forma a las comunidades en las que vivimos.
Podemos estar seguros de que la tecnología de IA evoluciona rápidamente; de que las ambiciones, bien financiadas, de países como China y Francia acelerarán su desarrollo; y de que la concentración de enormes conjuntos de datos en manos de Amazon, Google y Facebook permitirá realizar experimentos a una escala que quizá nos resulte muy inquietante.
Algunas aplicaciones de la IA, como los dispositivos médicos, chocarán con los regímenes regulatorios existentes. Pero pocos de esos regímenes se diseñaron teniendo en cuenta la IA. Y las aplicaciones de la IA que más preocupan hoy al público, las desplegadas en las redes sociales, han puesto de manifiesto las limitaciones de las leyes vigentes.
¿Cuánto tiempo puede mantenerse el supuesto por defecto de confianza en la IA? Los científicos ya han pasado por esto. Durante décadas, las conversaciones sobre la biotecnología han estado lastradas por la generalizada desconfianza hacia la palabra «gen», del mismo modo que las industrias farmacéutica y agrícola han sido atacadas por el temor a los «químicos». Si se ha llegado a que los consumidores clamen por «alimentos sin genes» y «agua sin químicos», no es tan difícil imaginar peticiones de un «internet sin IA» o de una prohibición de la IA.
Es cierto que nunca podríamos hacer cumplir una prohibición así. Pero sí podríamos paralizar el desarrollo de la IA en los lugares donde más queremos verla: en organizaciones éticas y de reputación consolidada. Debemos adoptar un enfoque más matizado. Podemos lograrlo, si recordamos nuestro logro más característico como especie: generar confianza.
Las formas importan
Piensen en el sofisticado espectro de controles que operan en las sociedades humanas; permítanme llamarlas sociedades HI, por Inteligencia Humana (Human Intelligence).
En el extremo izquierdo del espectro se sitúan las normas sociales —las buenas maneras, si lo prefieren— y los incentivos para el buen comportamiento. Avanzando por el espectro, encontramos reglas organizativas que regulan cómo actuar en las aulas o en el lugar de trabajo, y normativas comerciales para las interacciones en el mercado. Más adelante, hay sanciones por faltas leves, como estacionar mal, y después castigos por delitos como el robo y la agresión. Al acercarnos al extremo derecho del espectro, encontramos severas sanciones para los peores delitos civiles, como el asesinato premeditado o el terrorismo. En el extremo más a la derecha se encuentran las convenciones acordadas internacionalmente contra las armas de destrucción masiva.
Necesitaremos un espectro de control similar para la IA. En el extremo izquierdo, en particular, existe un vacío preocupante. Después de todo, ¿qué constituye un «buen comportamiento» en el uso de la IA por parte de una empresa de redes sociales? ¿Dónde está documentado? ¿Quién lo codifica en la IA para que la IH y la IA puedan crecer juntas, de forma pacífica y productiva?
Podríamos llegar a un conjunto de normas por ensayo y error, o por escándalo y respuesta. Pero en un entorno febril, es poco probable que surja una coherencia intelectual saltando de una crisis de confianza a la siguiente.
Necesitamos el equivalente a las buenas maneras que enseñamos a los niños. No esperamos a que los niños hagan algo reprochable para luego inventar una norma con la que castigarlos. Reforzamos la expectativa de un comportamiento ético desde el primer día.
Las buenas maneras varían en las sociedades HI, pero todas están diseñadas para que las personas se sientan cómodas gracias al respeto mutuo. Los desarrolladores de IA deben tenerlo presente, integrándolo en su modelo empresarial desde el principio y reforzándolo de manera constante como parte de la realidad de hacer negocios.
Elevar los estándares
Cualquier propuesta de regulación en un sector que basa su reputación en «avanzar rápido y romper cosas» encontrará resistencia. Comprendo ese impulso. Cuando estaba ampliando mi empresa, Axon Instruments, para fabricar dispositivos médicos, analicé los requisitos de cumplimiento con mirada nerviosa. Entendí que era correcto que los reguladores establecieran estándares rigurosos para un dispositivo eléctrico destinado a ser insertado quirúrgicamente en el cerebro humano vivo. Estaba preparado para una frustración inmensa.
Lo que finalmente comprendí fue que los estándares, y todo el proceso de cumplimiento, constituían el marco que necesitaba para construir una empresa competitiva que se distinguiera por la calidad. La verdadera calidad se logra por diseño, no mediante la prueba y el rechazo. Los sistemas de gestión de la calidad ISO 9000 (de la Organización Internacional de Normalización) garantizan que las altas expectativas se integren en el diseño y en las prácticas empresariales, desde la concepción del producto, pasando por la producción, hasta el mantenimiento y la sustitución. El cumplimiento se asegura mediante una combinación de auditorías internas y externas. Mantuvimos estas exigentes prácticas de diseño y de negocio también para nuestros productos no médicos, porque nos convirtieron en una empresa mejor y nos dieron una ventaja comercial.
En las sociedades HI, existen consecuencias por no cumplir las normas sociales. Necesitamos lo mismo para los desarrolladores de IA: una forma de que los consumidores reconozcan y recompensen la conducta ética.
Una nueva forma de confiar
El método más directo sería una marca de confianza para la IA. Llamémosla Certificado Turing, en honor al gran Alan Turing. Un Sello Turing sería el símbolo que identifica a un proveedor y a un producto como portadores del Certificado Turing, lo que significa que son dignos de confianza.
La combinación de ambos —organización fiable y producto fiable— es fundamental. Este modelo ha prevalecido durante mucho tiempo en el sector manufacturero. De hecho, si no fuera por la aplicación de estándares acordados para el diseño, la fabricación y las prácticas empresariales, nuestra sociedad habría rechazado por completo todos los dispositivos eléctricos hace años por razones de seguridad, y hoy no nos preocuparía la IA.
En el sector manufacturero, los estándares son obligatorios y exigibles. La fabricación es un proceso muy visible con una huella geográfica evidente. El desarrollo de la IA es más escurridizo. La certificación Turing obligatoria sería engorrosa. Un Certificado Turing voluntario permitiría a las empresas responsables adherirse, incluidas las startups. Es mejor crecer con estándares que tropezar con ellos en la adolescencia. Bien hecho, el coste de obtener la certificación debería cubrirse con el aumento de las ventas, gracias a clientes dispuestos a pagar un sobreprecio.
Pero solo existiría un incentivo comercial para cumplir si todos los actores —empresas, consumidores y gobiernos— pudieran confiar en el sistema. Cada organización certificada con Turing sería, en efecto, un embajador de Turing. Las empresas inteligentes, que compiten por la calidad, acogerían un proceso de auditoría que eliminara los malos comportamientos, del mismo modo que Axon Instruments y miles de otras empresas aceptan auditorías de calidad internas y externas de forma periódica a cambio del privilegio de vender dispositivos médicos y no médicos.
Al mismo tiempo, los ciudadanos sin duda acogerían con agrado la oportunidad de tomar decisiones informadas y de transitar el camino intermedio entre aceptar un todo vale o excluir la IA de sus vidas.
Si podemos cooperar en las sociedades HI, seguramente podemos cooperar en la labor vital de fomentar la HI y la IA juntas.
Nota: Este artículo forma parte de una conversación más amplia entre Kay Firth-Butterfield, Jefa de Inteligencia Artificial y Aprendizaje Automático del Centro para la Cuarta Revolución Industrial del Foro Económico Mundial, y el autor de este artículo, el Científico Jefe de Australia, Alan Finkel.
