La posibilidad de que las máquinas creadas por el ser humano se vuelvan contra sus creadores se ha convertido últimamente en un tema de moda. Sin duda, lasTres leyes de la robóticaya no son adecuadas para su propósito. Por el bien común mundial, necesitamos algo serio y más específico que proteja nuestras ambiciones ilimitadas y a la propia humanidad.
Hoy, internet conecta a más de la mitad de la población mundial. Y aunque nos brinda comodidad y eficiencia, también conlleva amenazas. Esto es especialmente cierto en una época en la que buena parte de nuestra vida cotidiana está impulsada por los macrodatos y la inteligencia artificial. Los algoritmos se utilizan ampliamente para determinar qué leemos, adónde vamos y cómo llegamos, qué música escuchamos y qué compramos, y a qué precio. Los coches autónomos, el diagnóstico automático del cáncer y la redacción automática nunca habían estado tan cerca de una aplicación comercial a gran escala.
Si los datos son el nuevo petróleo, la IA es la nueva perforadora; y, por prolongar la analogía, los algoritmos defectuosos son la nueva contaminación.
Es importante señalar que un fallo no equivale a malevolencia. Del mismo modo, las buenas intenciones no garantizan la ausencia de problemas legales, éticos y sociales. Ya hemos visto numerosos ejemplos de estos problemas con la IA: comportamientos involuntarios, falta de previsión, dificultades de supervisión y vigilancia, responsabilidad distribuida, vulneraciones de la privacidad, sesgos algorítmicos y abusos. Además, algunos investigadores han empezado a preocuparse por un posible aumento del desempleo causado por la sustitución del trabajo humano por máquinas inteligentes.
Se avecinan problemas
La IA que se comporta mal es cada vez más frecuente. Una aplicación de reconocimiento facial etiquetó a afroamericanos como gorilas; otra identificó a 28 miembros del Congreso de Estados Unidos como delincuentes buscados. Se alegó que una herramienta de evaluación de riesgos utilizada por los tribunales estadounidenses discriminaba a los afroamericanos; el coche autónomo de Uber atropelló mortalmente a un peatón en Arizona; Facebook y otras grandes empresas fueron demandadas por prácticas publicitarias discriminatorias; y se están desarrollando armas letales impulsadas por IA.
Nos adentramos en territorio desconocido, por eso necesitamos urgentemente normas y principios rectores que nos sirvan de brújula para guiarnos en la dirección correcta. La ética tecnológica es hoy más importante que nunca y debe estar en el centro de este conjunto de normas y principios.
Debemos reconocer algunos de los primeros esfuerzos por crear un marco de este tipo. Entre los ejemplos destacados se encuentran los Principios de Asilomar sobre la IA, y las normas éticas y el programa de certificación del IEEE.
A finales de 2018, Pony Ma, fundador y director ejecutivo de Tencent, propuso un marco ético para la gobernanza de la IA, denominado ARCC (accesible, fiable, comprensible y controlable).
Accesible, fiable, comprensible y controlable: ARCC
El marco de Ma puede convertirse en una base para la gobernanza de los sistemas de IA en China y otros lugares. Su objetivo es garantizar una relación cordial y saludable entre la humanidad y las máquinas durante los próximos miles de años.
Accesible.
La IA debe estar al alcance de la mayoría, no solo de unos pocos. Estamos tan acostumbrados a las ventajas de nuestros teléfonos inteligentes y ordenadores portátiles que a menudo olvidamos que la mitad del mundo sigue al margen de esta revolución digital.
Los avances en IA deberían resolver este problema, no agravarlo. Debemos incorporar a este mundo digital a quienes viven en zonas en desarrollo, a las personas mayores y a las personas con discapacidad. El bienestar de toda la humanidad debería ser el único propósito del desarrollo de la IA. Así podemos asegurarnos de que la IA no favorezca los intereses de algunas personas por encima de los demás.
Tomemos como ejemplo el reciente desarrollo de bots médicos. Miying, la solución de Tencent para el diagnóstico por imágenes médicas con IA, trabaja actualmente con radiólogos de cientos de hospitales locales. Este sistema de detección precoz del cáncer ha analizado miles de millones de imágenes médicas y detectado cientos de miles de casos de alto riesgo. Luego, el bot remite estos casos a especialistas. De este modo, libera a los médicos de la tarea diaria de examinar imágenes y les da más tiempo para atender a sus pacientes.
Además, una IA accesible es una IA justa. Una máquina completamente racional debería ser imparcial y estar libre de debilidades humanas, como las emociones o los prejuicios, pero no debemos darlo por sentado. Incidentes recientes, como el lenguaje vulgar utilizado por un chatbot de Microsoftdemuestran que la IA puede funcionar muy mal cuando se alimenta con datos inexactos, incompletos o sesgados. En este caso, es preferible un enfoque de ética desde el diseño; es decir, identificar, resolver y eliminar cuidadosamente los sesgos durante el proceso de desarrollo de la IA.
Los organismos reguladores ya están elaborando directrices y principios para abordar los sesgos y la discriminación. Empresas como Google y Microsoft ya han creado sus propios comités internos de ética para orientar sus investigaciones sobre IA.
Fiable.
Dado que la IA ya está instalada en millones de hogares, necesitamos que sea segura, fiable y capaz de protegerse contra ciberataques y otros accidentes.
Tomemos como ejemplo los coches autónomos. Tencent está desarrollando un sistema de conducción autónoma de nivel 3 y ha obtenido la licencia para probar sus coches autónomos en vías públicas de Shenzhen. Pero, antes de obtenerla, sus coches autónomos se probaron en un circuito cerrado durante más de mil kilómetros. Hoy en día, ningún coche verdaderamente autónomo se utiliza con fines comerciales en nuestras carreteras, porque todavía deben establecerse las normas y reglamentos para su certificación.
Además, para que la IA sea fiable, debe garantizar la seguridad digital, física y política, especialmente en lo relativo a la privacidad. Hemos visto casos en los que se recopilan datos personales para entrenar sistemas de IA sin el consentimiento del usuario. Por tanto, la IA debe cumplir los requisitos de privacidad, protegerla desde el diseño y prevenir el uso indebido de los datos.
Comprensible
La enorme complejidad de los sistemas de IA hace que esto sea más fácil de decir que de hacer. Las capas ocultas entre la entrada y la salida de una red neuronal profunda la vuelven impenetrable, incluso para quienes la desarrollaron. Como resultado, si ocurre un accidente automovilístico relacionado con un algoritmo, podemos tardar años en averiguar la causa del fallo.
Por fortuna, el sector de la IA ya ha investigado algunos modelos de IA explicable. La transparencia algorítmica es una forma de lograr que la IA sea comprensible. Aunque quizá a los usuarios no les interesen los algoritmos que hay detrás de un producto, los reguladores exigen un conocimiento profundo de sus detalles técnicos. Aun así, una buena práctica sería proporcionar a los usuarios información y explicaciones fáciles de entender sobre las decisiones que los sistemas de IA ayudan a tomar o toman por sí mismos.
Para desarrollar una IA comprensible, debe garantizarse y promoverse la participación pública y el ejercicio de los derechos individuales. El desarrollo de la IA no debería ser una actividad secreta de las empresas comerciales. El público, como usuario final, puede aportar comentarios valiosos que son fundamentales para desarrollar una IA de alta calidad.
Se debería exigir a las empresas tecnológicas que proporcionen a sus clientes información sobre el propósito, el funcionamiento, las limitaciones y el impacto del sistema de IA.
Controlable
El último principio, y no por ello menos importante, es asegurarnos de que los seres humanos estemos al mando. Siempre.
Toda innovación conlleva riesgos. Pero no debemos permitir que el temor a la extinción de la humanidad a causa de alguna inteligencia artificial general nos impida perseguir un futuro mejor con nuevas tecnologías. Lo que debemos hacer es asegurarnos de que los beneficios de la IA superen ampliamente sus posibles riesgos. Para lograrlo, debemos establecer medidas de precaución adecuadas que nos protejan frente a los riesgos previsibles.
Por ahora, la gente suele confiar más en desconocidos que en la IA. Oímos a menudo que los coches autónomos no son seguros, que los filtros son injustos, que los algoritmos de recomendación limitan nuestras opciones y que los bots de fijación de precios nos cobran más. Esta desconfianza profundamente arraigada tiene su origen en la falta de información, ya que a la mayoría no nos interesa o nos falta el conocimiento necesario para entender una IA.
¿Qué deberíamos hacer?
Quisiera proponer un abanico de normas que parta de un marco ético y pueda ayudar a los desarrolladores de IA y a sus productos a ganarse la confianza que merecen.
Por un lado, tenemos normas flexibles, como las convenciones sociales, las normas morales y la autorregulación. El marco ético mencionado anteriormente encaja en esta categoría. A nivel internacional, Google, Microsoft y otras grandes empresas han formulado sus propios principios sobre IA, mientras que los Principios de Asilomar sobre la IA y el programa de ética de la IA del IEEE gozan de gran reconocimiento.
A medida que avanzamos en este abanico, encontramos normas obligatorias y vinculantes, como estándares y reglamentos. Este año redactamos un informe de políticas sobre coches autónomos y observamos que muchos países están elaborando leyes tanto para fomentar como para regular su uso. En el futuro habrá nuevas leyes sobre IA.
Más adelante en este abanico encontramos leyes penales para castigar a quienes hacen un uso malintencionado de la IA. En el extremo derecho están las leyes internacionales. Por ejemplo, algunos académicos de derecho internacional han estado presionando a las Naciones Unidas para que elaboren una convención sobre armas autónomas letales, como la Convención sobre Prohibiciones o Restricciones del Empleo de Ciertas Armas Convencionales.
Toda nueva tecnología, ya sea una reacción nuclear controlada o un robot humanoide, no es intrínsecamente buena ni mala. Que llegue a ser lo primero depende de nosotros.
