Los thrillers de ciencia ficción, como el clásico de los años ochenta Terminator, estimulan nuestra imaginación, pero también avivan el temor a que robots asesinos autónomos e inteligentes acaben con la raza humana.
Aunque este escenario pueda parecer improbable, el año pasado más de 100 líderes en tecnologías de robótica e inteligencia artificial, entre ellos Elon Musk y Mustafa Suleyman, cofundador de DeepMind de Google, emitieron una advertencia sobre los riesgos que plantean las máquinas superinteligentes.
En una carta abierta dirigida a la Convención de las Naciones Unidas sobre Ciertas Armas Convencionales, los firmantes afirmaron que, una vez desarrollados, los robots asesinos (armas diseñadas para operar de forma autónoma en el campo de batalla) “permitirán que los conflictos armados se libren a una escala mayor que nunca y en plazos más rápidos de lo que los humanos pueden comprender.”
La carta afirma: “Pueden ser armas de terror, armas que los déspotas y terroristas utilizan contra poblaciones inocentes, y armas manipuladas para comportarse de forma indeseable. No nos queda mucho tiempo para actuar. Una vez abierta esta caja de Pandora, será difícil volver a cerrarla.”
La IA debe ser una fuerza para el bien y para la diversidad
Esta semana, el gobierno del Reino Unido publicó un informe, encargado por el Comité Selecto de IA de la Cámara de los Lores, que se basa en testimonios de más de 200 expertos del sector. En el centro del informe se encuentran cinco principios fundamentales diseñados para orientar e informar el uso ético de la IA.
El primer principio sostiene que la IA debe desarrollarse para el bien común y en beneficio de la humanidad.
Los autores del informe sostienen que el Reino Unido debe dar forma activamente al desarrollo y la utilización de la IA, y piden “un marco ético compartido para la IA” que aporte claridad sobre la mejor manera de utilizar esta tecnología para beneficiar a las personas y a la sociedad.
También afirman que los prejuicios del pasado no deben incorporarse sin darse cuenta a los sistemas automatizados, y piden que dichos sistemas “se diseñen cuidadosamente desde el principio, con la participación del grupo de personas más diverso posible.”
Inteligibilidad y equidad
El segundo principio exige que la IA funcione dentro de parámetros de inteligibilidad y equidad, y pide a las empresas y organizaciones que mejoren la inteligibilidad de sus sistemas de IA.
“Sin esto, los reguladores podrían verse obligados a intervenir y prohibir el uso de tecnologías opacas en ámbitos significativos y sensibles de la vida y la sociedad”, advierte el informe.
Protección de datos
En tercer lugar, el informe afirma que la inteligencia artificial no debe utilizarse para menoscabar los derechos sobre los datos ni la privacidad de las personas, las familias o las comunidades.
Señala que es necesario reconsiderar las formas en que se recopilan y se accede a los datos. Según el informe, esto busca garantizar que las empresas tengan un acceso justo y razonable a los datos, al tiempo que los ciudadanos y consumidores también pueden proteger su privacidad.
“Debe impedirse que las grandes empresas que controlan enormes cantidades de datos se vuelvan excesivamente poderosas en este ámbito. Instamos al gobierno a ... revisar de forma proactiva el uso y la posible monopolización de datos por parte de las grandes empresas tecnológicas que operan en el Reino Unido.”
Prosperar junto a la IA
El cuarto principio establece que todas las personas deben tener derecho a recibir educación y a poder prosperar en los ámbitos mental, emocional y económico junto a la inteligencia artificial.
Para los niños, esto significa aprender a utilizar y a trabajar junto a la IA desde una edad temprana. Para los adultos, el informe pide al gobierno que invierta en competencias y formación para contrarrestar la disrupción que la IA provoca en el mercado laboral.
Hacer frente al poder de destrucción
En quinto lugar, y en consonancia con las preocupaciones en torno a los robots asesinos, el informe afirma que el poder autónomo para herir, destruir o engañar a seres humanos nunca debe delegarse en la inteligencia artificial.
“Existe un riesgo significativo de que la investigación en IA, aunque bien intencionada, se utilice de formas que perjudiquen a las personas”, afirma el informe. “Los investigadores y desarrolladores de IA deben considerar las implicaciones éticas de su trabajo.”
Al establecer estos principios, el Reino Unido puede dar ejemplo a la comunidad internacional, afirman los autores.
“Recomendamos que el gobierno convoque una cumbre mundial de gobiernos, el mundo académico y la industria para establecer normas internacionales sobre el diseño, el desarrollo, la regulación y el despliegue de la inteligencia artificial.”
