Me sorprendió saber que un robot llamado Sophia había recibido la ciudadanía del Reino de Arabia Saudita.
El anuncio de la semana pasada se produjo tras el compromiso del Reino de invertir 500.000 millones de dólares estadounidenses en la construcción de una nueva ciudad impulsada por la robótica y las energías renovables.
Uno de los conceptos más honorables para un ser humano, ser ciudadano y todo lo que eso conlleva, se ha concedido a una máquina. Como profesor que trabaja a diario para que la IA y los sistemas autónomos sean más confiables, no creo que la sociedad humana esté preparada todavía para tener robots ciudadanos.
Conceder la ciudadanía a un robot es una declaración de confianza en una tecnología que, a mi juicio, aún no es confiable. Esto plantea inquietudes sociales y éticas que los seres humanos todavía no estamos preparados para gestionar.
¿Quién es Sophia?
Sophia es un robot desarrollado por la empresa con sede en Hong Kong Hanson Robotics. Sophia tiene un rostro femenino capaz de expresar emociones. Sophia habla inglés. Sophia cuenta chistes. Se puede mantener con Sophia una conversación razonablemente inteligente.
El creador de Sophia es el Dr. David Hanson, quien obtuvo un doctorado en 2007 en la Universidad de Texas.
Sophia recuerda a «Johnny 5», el primer robot en convertirse en ciudadano estadounidense en la película de 1986 Cortocircuito. Pero Johnny 5 no era más que una idea, algo imaginado por los guionistas de ciencia ficción cómica S. S. Wilson y Brent Maddock.
¿Se imaginaron los guionistas que, en unos 30 años, su ficción se haría realidad?
Riesgo para la ciudadanía
La ciudadanía —en mi opinión, el estatus más honorable que un país concede a su gente— se enfrenta a un riesgo existencial.
Como investigador que aboga por diseñar sistemas autónomos confiables, sé que la tecnología aún no está lista.
Tenemos muchos desafíos que debemos superar antes de poder confiar realmente en estos sistemas. Por ejemplo, todavía no contamos con mecanismos confiables que nos aseguren que estos sistemas inteligentes siempre actuarán de manera ética y conforme a nuestros valores morales, ni que nos protejan de que emprendan una acción equivocada con consecuencias catastróficas.
Estas son tres razones por las que considero prematuro conceder la ciudadanía a Sophia.
1. Definir la identidad
La ciudadanía se concede a una identidad única.
Cada uno de nosotros —me refiero a los seres humanos— posee una identidad única que nos distingue de cualquier otra persona. Cuando pasamos por la aduana sin hablar con nadie, nuestra identidad queda establecida automáticamente mediante una imagen de nuestro rostro, iris y huella dactilar. Mi estudiante de doctorado establece la identidad humana mediante el análisis de las ondas cerebrales de las personas.
¿Qué le confiere identidad a Sophia? ¿Su dirección MAC? ¿Un código de barras, una marca cutánea única, una huella de audio en su voz, una firma electromagnética similar a las ondas cerebrales humanas?
Estos y otros protocolos tecnológicos de gestión de identidad son posibles, pero no establecen la identidad de Sophia: solo pueden establecer la identidad del hardware. Entonces, ¿cuál es la identidad de Sophia?
Para mí, la identidad es una construcción multidimensional. Se encuentra en la intersección de quiénes somos desde el punto de vista biológico y cognitivo, y de cómo nos definen cada experiencia, cultura y entorno que hemos vivido. No está claro dónde encaja Sophia en esta descripción.
2. Derechos legales
A efectos de este artículo, supongamos que Sophia, el robot ciudadano, puede votar. Pero ¿quién tomará la decisión el día de las elecciones: Sophia o el fabricante?
Es de suponer también que Sophia, como ciudadana, está «obligada» a pagar impuestos sobre la renta, puesto que tiene una identidad legal independiente de su creador, la empresa.
La ley también debe otorgar a Sophia el derecho a la igualdad de protección, como a los demás ciudadanos.
Consideremos esta situación hipotética: un policía ve que una persona está atacando a Sophia y a una mujer. El policía solo puede proteger a una de ellas: ¿a quién debería proteger? ¿Sería correcto que eligiera a Sophia porque se desplaza sobre ruedas y carece de habilidades de autodefensa?
Hoy, la comunidad de inteligencia artificial (IA) sigue debatiendo qué principios deberían regir el diseño y el uso de la IA, por no hablar de cuáles deberían ser las leyes.
La lista más reciente propone 23 principios conocidos como los Principios de IA de Asilomar. Entre ellos figuran: Transparencia ante los fallos (determinar la causa si un sistema de IA provoca daños); Alineación de valores (alinear los objetivos del sistema de IA con los valores humanos); y Automejora recursiva (someter a estrictas medidas de seguridad y control a los sistemas de IA con capacidad de autorreplicarse).
3. Derechos sociales
Hablemos de las relaciones y la reproducción.
Como ciudadana, ¿se permitirá que Sophia, el robot humanoide emocional, se «case» o se «reproduzca» si así lo decide? Estudiantes de la Universidad Estatal de Dakota del Nortehan dado pasos para crear un robot que se autorreplica mediante tecnologías de impresión 3D.
Si más robots se unen a Sophia como ciudadanos del mundo, quizá también podrían reclamar el derecho a autorreplicarse y crear otros robots. Estos robots también se convertirían en ciudadanos. Sin restricciones de recursos sobre cuántos hijos podría tener cada uno de estos robots, su población podría superar fácilmente la población humana de una nación.
Como ciudadanos con derecho a voto, estos robots podrían provocar cambios sociales. Las leyes podrían cambiar y, de repente, los seres humanos podrían encontrarse en una situación que nunca habían imaginado.
