Últimamente se ha debatido mucho sobre la ética de la inteligencia artificial (IA), especialmente en relación con el desarrollo de armas robotizadas , y sobre un debate relacionado, pero más general, acerca de la IA como amenaza existencial para la humanidad.
Si Skynet, de las películas de Terminator, va a exterminarnos, entonces parece bastante trivial –por no decir inútil– empezar a debatir sobre la regulación y la responsabilidad. Pero, como ha señalado el filósofo del derecho John Donaher, si estas áreas se abordan con prontitud y reflexión, eso podría ayudar a reducir el riesgo existencial a largo plazo.
En relación con la IA, la regulación y la responsabilidad son dos caras de la misma moneda en materia de seguridad y bienestar público. La regulación consiste en garantizar que los sistemas de IA sean lo más seguros posible; la responsabilidad consiste en establecer a quién podemos culpar –o, más precisamente, de quién podemos obtener una reparación jurídica– cuando algo sale mal.
El dedo acusador
Empecemos por la responsabilidad extracontractual (agravio o ilícito civil). Imaginemos el siguiente escenario en un futuro cercano. Un tractor sin conductor recibe la instrucción de sembrar en el campo del Agricultor A, pero en realidad lo hace en el campo del Agricultor B.
Supongamos que el Agricultor A dio instrucciones adecuadas. Supongamos también que no había nada adicional que el Agricultor A debiera haber hecho, como colocar radiobalizas en los límites del campo. Ahora bien, supongamos que el Agricultor B quiere demandar por negligencia (por simplicidad y rapidez, dejaremos de lado la perturbación y la invasión de la propiedad).
¿Es responsable el Agricultor A? Probablemente no. ¿Es responsable el fabricante del tractor? Posiblemente, pero surgirían argumentos complejos en torno al deber de diligencia y al estándar de cuidado; por ejemplo, cuáles son las normas sectoriales pertinentes y si las especificaciones del fabricante son adecuadas a la luz de dichas normas. También habría que determinar si la siembra no deseada constituyó un daño a la propiedad o una pérdida económica pura.
Hasta ahora hemos asumido implícitamente que el fabricante del tractor desarrolló el software del sistema. Pero ¿qué ocurre si un tercero desarrolló el sistema de IA? ¿Y si hubiera código de más de un desarrollador?
Con el tiempo, cuanto más se alejen los sistemas de IA de los algoritmos y la programación clásicos, más comportamientos mostrarán que no solo no fueron previstos por sus creadores, sino que eran totalmente imprevisibles. Esto es importante porque la previsibilidad es un ingrediente clave para la responsabilidad por negligencia.
Para entender mejor la cuestión de la previsibilidad, tomemos un escenario en el que, quizá solo una o dos décadas después del incidente de la siembra descrito anteriormente, un robot totalmente autónomo y avanzado, controlado por IA, hiere o mata accidentalmente a una persona, sin que la legislación haya sufrido cambios sustanciales. En este escenario, la falta de previsibilidad podría hacer que nadie resulte responsable por negligencia.
Culpar al robot de IA
¿Por qué no considerar responsable al propio robot? Después de todo, ya se ha debatido algo sobre la personalidad jurídica de la IA y la posible responsabilidad penal de los sistemas de IA.
Pero ¿realmente cambiaría algo ese enfoque aquí? Como me dijo recientemente un viejo amigo:
¿Serán realmente los sistemas de IA como El hombre bicentenario de Isaac Asimov: obedientes a la ley, con conciencia moral y una abultada cuenta bancaria?
Dejando de lado si los sistemas de IA pueden ser demandados, es probable que los fabricantes y desarrolladores de IA tengan que volver a ocupar un lugar central en el debate. Esto podría implicar sustituir la negligencia por la responsabilidad objetiva –responsabilidad que se aplica sin necesidad de probar culpa ni negligencia.
La responsabilidad objetiva ya existe en muchos lugares para las reclamaciones por productos defectuosos. Alternativamente, podría establecerse un régimen de responsabilidad sin culpa con un fondo de indemnizaciones al que contribuya la industria de la IA.
Normas y reglamentación
En el ámbito regulatorio, será absolutamente esencial desarrollar normas de seguridad rigurosas y establecer procesos de certificación de seguridad. Pero diseñar y poner en funcionamiento un marco adecuado de instituciones y procesos será complicado.
Será necesario contar con la opinión de expertos en IA para establecer cualquier marco, debido a la complejidad del ámbito y a la falta general de comprensión fuera de la comunidad de I+D en IA. Esto también significa que los comités asesores de los parlamentos y gobiernos deberían constituirse lo antes posible.
Reconociendo que la IA ofrece beneficios potencialmente enormes, será necesario un equilibrio constante para crear, actualizar y aplicar normas y procesos que maximicen el bienestar y la seguridad públicos sin frenar la innovación ni generar cargas de cumplimiento innecesarias.
Cualquier marco que se desarrolle también deberá ser lo suficientemente flexible como para tener en cuenta tanto las consideraciones locales (el grado de producción propia frente a la importación de tecnología de IA en cada país) como las globales (el posible reconocimiento mutuo de normas de seguridad y certificaciones entre países, la necesidad de cumplir con eventuales tratados o convenios internacionales, etc.).
Así, a medida que avanzamos por el camino de la I+D en IA, realmente debemos empezar a configurar las normas que rigen la IA, quizá antes de que sea demasiado tarde.
Ya hemos iniciado debates sobre los coches sin conductor; véase aquí y aquí –pero hay mucho más que abordar en lo que respecta a la IA.
¿Qué hacemos a continuación? Le cedemos la palabra.
Este artículo se publicó originalmente en The Conversation. Lea el artículo original. La publicación no implica el respaldo de los puntos de vista por parte del Foro Económico Mundial.
Para estar al día con la Agenda suscríbase a nuestro boletín semanal.
Autor: Gary Lea es investigador visitante en Regulación de la Inteligencia Artificial en la Australian National University
Imagen: Un hombre estrecha la mano de una prótesis robótica. REUTERS/Rick Wilking.
