El acalorado debate sobre el desarrollo de la inteligencia artificial (IA) suele verse afectado por preocupaciones éticas que pueden generar temor hacia este tipo de tecnología.
La desinformación sobre el desarrollo, la complejidad y los riesgos de la tecnología de IA impide un debate adecuado sobre el tema.
Esta tecnología puede y debe estar bajo nuestro control, sin embargo, y esta comprensión ayudará a poner de relieve los beneficios de seguir desarrollando la IA.
La conversación actual sobre la IA, la ética y los beneficios para nuestra comunidad global es acalorada. La combinación de grandes apuestas y una tecnología compleja y de adopción rápida ha creado un estado de urgencia e intensidad muy real en torno a este debate.
Los promotores de la tecnología se complacen en presentar la IA como un disruptor bienvenido que podría provocar una revolución global. Mientras tanto, los detractores se aferran al potencial de desastre: la posibilidad de que la IA superinteligencia, dilemas éticos complejos como el clásico problema del tranvía, y las muy reales consecuencias del sesgo algorítmico.
Es muy fácil dejarse llevar por el bombo publicitario y crear una situación en la que el mundo no se beneficie plenamente del desarrollo de la tecnología de IA. En cambio, deberíamos tomarnos un momento para elaborar una perspectiva crítica sobre las numerosas voces que compiten por nuestra atención en torno a la ética de la IA.
Deberíamos tomarnos un momento para elaborar una perspectiva crítica sobre las numerosas voces que compiten por nuestra atención en torno a la ética de la IA.
Ted Kwartler & Sarah Khatry, DataRobot; Kay Firth-Butterfield, Foro Económico Mundial
Algunas de estas voces pertenecen a empresas que saben que han sido demasiado lentas en la adopción de la tecnología de IA. Otras proceden de empresas que se lanzaron a la IA desde el principio y se han beneficiado de la confusión y de la falta de regulación para llevar a cabo malas prácticas. Por último, en esta era de los influencers, hay quienes abordan el tema de la ética de la IA para hacer crecer su marca personal, a veces sin la experiencia necesaria.
Establecer los hechos
Está claro que el terreno está lleno de minas, pero debemos afrontarlo. Este debate es demasiado importante y vital como para descuidarlo. Con esto en mente, estos son algunos datos clave que deberían utilizarse para ayudar a fundamentar este debate:
1. Los informes sobre el amanecer de la inteligencia artificial general (IAG) han sido enormemente exagerados.
La IAG se refiere a una forma de inteligencia artificial más amplia que la IA estándar. Abarca máquinas con una serie de capacidades cognitivas y la capacidad de aprender y planificar el futuro. Es la realización en la vida real de la tecnología de los libros y películas de ciencia ficción, en la que los ordenadores rivalizan con los humanos en inteligencia y razonamiento.
Sin embargo, cuanto más hemos aprendido sobre la IA a lo largo de las décadas, menos optimistas se han vuelto nuestras estimaciones sobre la llegada de la IAG. En cambio, casi todos los sistemas de IA de nuestro mundo moderno pertenecen a una subcategoría llamada aprendizaje automático (ML), que es extremadamente limitada y aprende solo a partir de ejemplos. Estas máquinas no piensan de forma independiente.
De hecho, algunas de las herramientas que actualmente se comercializan como IA son en realidad mucho más antiguas que el ML. Se basan en algoritmos estadísticos, expertos o lógicos más sencillos. Sin embargo, nuestra sobrevaloración cultural de la inteligencia promueve la personificación de la IA, lo que disminuye la responsabilidad humana.
2. El concepto de «la IA como caja negra» es un mito.
Los algoritmos de ML pueden variar ciertamente en complejidad, y algunos se prestan más fácilmente a la interpretación humana que otros. Dicho esto, se ha desarrollado una variedad de herramientas y técnicas para examinar incluso los algoritmos más opacos y cuantificar cómo responden a distintas entradas. El problema es que estas herramientas pueden resultar bastante técnicas para algunos interesados en los algoritmos.
Cuando un sistema de IA se comprende tan poco que no puede confiarse en él, probablemente no debería desplegarse en situaciones delicadas. En tales circunstancias, deberían realizarse verificaciones adicionales o implementarse barreras de seguridad de comportamiento para garantizar que el sistema pueda desplegarse de forma clara y segura para los usuarios y otros interesados. «La IA como caja negra» nunca debería utilizarse como excusa para eximir a los responsables humanos de sus responsabilidades.
3. La IA no es la primera tecnología que promete a la vez un gran riesgo y una gran oportunidad.
Más allá de los dilemas morales polémicos, como los problemas del tranvía, la IA se enfrenta ahora a otra clase de cuestiones éticas. Estas cuestiones son quizás más silenciosas o menos llamativas, pero en última instancia tendrán un impacto humano más amplio.
Para abordar adecuadamente estas cuestiones se requerirán evaluaciones lúcidas, serenas y holísticas de la IA mediante la metodología de la seguridad de sistemas, que identifica los riesgos relacionados con la seguridad y utiliza el diseño o los procesos para gestionarlos. La energía nuclear, la aviación y la biomedicina, entre otras muchas industrias, se han convertido en sectores seguros y fiables, en gran medida gracias a la rigurosa aplicación de dichos marcos de seguridad de sistemas basados en el riesgo.
Mantener el control del desarrollo de la IA
Debemos ver y analizar esta tecnología tal como es realmente. La simple verdad es que toda la IA de nuestro presente y de un futuro previsible se compone de sistemas basados en ML, es decir, algoritmos estadísticos avanzados regidos por código y personas. Estos sistemas pueden y deben estar bajo nuestro control. Los riesgos pueden enumerarse, mitigarse y supervisarse, transformando una crisis de confusión en una tecnología madura al servicio de nuestro progreso compartido.
Quienes pretenden que no somos capaces de gobernar y desplegar de forma responsable [la IA] promueven una falsedad.
Ted Kwartler & Sarah Khatry, DataRobot; Kay Firth-Butterfield, Foro Económico Mundial
Cada vez más, este mensaje encuentra una plataforma y empieza a dar forma de manera significativa al desarrollo de la IA. La última normativa propuesta de la Unión Europea, por ejemplo, da pasos importantes en la dirección correcta al definir casos de uso de alto riesgo, por ejemplo. La comunidad de ciencia de datos quiere crear modelos que se alineen con los valores sociales y mejoren los resultados. Esta propuesta bien meditada de la UE permitirá la innovación y el crecimiento de la industria al estandarizar las expectativas entre los profesionales.
Quienes pretenden que no somos capaces de gobernar y desplegar de forma responsable esta tecnología promueven una falsedad. La industria de la IA sin duda se enfrenta a un gran desafío para ampliar los límites de esta tecnología ahora y en el futuro. Mediante la colaboración, la claridad y el pragmatismo, podemos estar preparados para afrontar este desafío.
