Este artículo se publica en colaboración con Quartz.
Antes de que Skynet cobre conciencia de sí misma, antes de que los robots se rebelen, necesitamos establecer un sistema que permita investigar la inteligencia artificial de forma segura. Esa es la postura de Eric Schmidt, presidente de la empresa matriz de Google, y Jared Cohen, director de su centro de estudios tecnológicos, Google Ideas.
Schmidt lleva mucho tiempo mostrándose optimista sobre las perspectivas de esta tecnología: respalda proyectos experimentales como el programa de coches autónomos de Alphabet y el motor de búsqueda predictiva DeepMind de Google, y sostiene que la IA revolucionará nuestra forma de trabajar y vivir. Incluso ha llegado a decirnos que no temamos vivir en un mundo lleno de IA.
Pero parece que incluso Schmidt reconoce que la investigación en IA exige cierto grado de cautela, tal como han reclamado otras figuras destacadas de la tecnología, como el físico Stephen Hawking y el director ejecutivo de Tesla, Elon Musk. (Musk ha llegado a comprometer 1.000 millones de dólares junto con un grupo de científicos y tecnólogos que se hacen llamar OpenAI para promover la investigación en IA que tenga un «impacto positivo en la humanidad»). En un artículo de opinión publicado en la revista Time, Schmidt y Cohen expusieron tres principios que, a su juicio, deberían seguir desarrolladores, investigadores y empresas al explorar la IA:
«En primer lugar, la IA debe beneficiar a muchos, no a unos pocos».
La tecnología capaz de transformar vidas, sostienen Schmidt y Cohen, debe beneficiar a todo el mundo, no solo a las empresas. «Como sociedad, debemos aprovechar este potencial y asegurarnos de que la IA siempre busque el bien común», escribieron.
La investigación en IA «debe ser abierta, responsable y estar comprometida con la sociedad».
Tanto Google como Facebook han dado recientemente pasos para aportar más transparencia a sus investigaciones en IA. Facebook reveló los diseños de los servidores que utiliza para investigar la IA, mientras que Google publicó el código como software de código abierto de su motor de IA, TensorFlow. Sin embargo, ninguna de las dos empresas hizo públicos los datos que utiliza para entrenar, probar y perfeccionar sus algoritmos de IA, que podrían ser decisivos para su éxito.
«Quienes diseñan IA deben establecer buenas prácticas para evitar resultados indeseables».
Mientras los sistemas aún están en desarrollo, los investigadores deben preguntarse si los datos que utilizan para entrenar sistemas de IA son adecuados, si hay efectos secundarios de su investigación que deban tener en cuenta y si el sistema cuenta con mecanismos de seguridad suficientes. «Debe haber sistemas de verificación que evalúen si un sistema de IA está haciendo aquello para lo que fue creado», escribieron Schmidt y Cohen.
La inteligencia artificial está pasando rápidamente de la ciencia ficción a la realidad. Aunque, por suerte, todavía no hemos tenido que preocuparnos de que los sistemas informáticos desencadenen el apocalipsis , ya contamos con sistemas inteligentes capaces de diagnosticar el cáncer, gestionar nuestras citas y limpiar nuestros suelos por sí solos. Si hemos de creer a científicos y pensadores destacados, una vez que logremos crear sistemas de IA capaces de pensar y actuar verdaderamente por sí mismos, con autonomía propia, no pasará mucho tiempo antes de que nos superen con creces en inteligencia. Para mantener el control, debemos orientar el desarrollo de esta inteligencia para que beneficie a la humanidad, en lugar de perturbarla. La publicación no implica que el Foro Económico Mundial respalde estas opiniones.
Para estar al día de la Agenda, suscríbase a nuestro boletín semanal.
Autor: Mike Murphy es periodista de Quartz y cubre temas de tecnología.
Imagen: La mano del robot humanoide AILA (androide ligero de inteligencia artificial) opera una centralita durante una demostración del Centro Alemán de Investigación en Inteligencia Artificial. REUTERS/Fabrizio Bensch.
