Si un vehículo autónomo choca, ¿quién es el culpable?

Cada día, nuestras vidas se parecen más a la película Volver al futuro. Nuestros coches todavía no vuelan, pero sí se conducen a sí mismos. En algunos lugares, los drones comienzan a reemplazar a los repartidores. Nuestros hogares y nuestras ciudades se han tornado “inteligentes” o están cada vez más conectados a este “mundo digital”.

Es increíble ver cómo estas innovaciones cobran vida. Pero con los nuevos productos vienen también nuevos riesgos, y esos riesgos muchas veces evitan que podamos llevar estas innovaciones a un mercado masivo. En julio, un vehículo autónomo de Tesla estuvo involucrado en el primer accidente fatal de un vehículo de este tipo. Recientemente, un drone casi choca con un avión de pasajeros en Londres, tras “meses de advertencias de los oficiales de aviación sobre la creciente cantidad de incidentes en los que un drone estuvo cerca de chocar con un avión comercial”. Para que realmente podamos aprovechar estas nuevas tecnologías, las aseguradoras, los legisladores y las empresas tecnológicas deben colaborar para garantizar que la responsabilidad y el riesgo estén debidamente asegurados.

En particular, se deben tomar tres medidas. En primer lugar, la responsabilidad asociada a los productos que incorporan inteligencia artificial (IA) se debe definir claramente y deben ser transparente para todos. En segundo lugar, se debe establecer una red conectada a Internet que permita compartir información desde dispositivos conectados pero no ponga en riesgo su seguridad. En tercer lugar, un organismo reconocido internacionalmente debería autorizar y supervisar los estándares que rigen la industria.

Comencemos por la responsabilidad

Está claro que los productos que están equipados con IA podrían fácilmente ser mejores y más seguros que aquellos que no lo están. Por ejemplo, se estima que los vehículos autónomos disminuirán las tasas de accidentes en 90% y se convertirán “en el mayor logro de salud del siglo”.

Sin embargo, conforme evolucionan las máquinas inteligentes, entra en juego la cuestión de la responsabilidad por los accidentes que pudieran causar. ¿Quién es responsable por una lesión causada por un “robot” autónomo o con inteligencia artificial? ¿Es responsable el propietario de un dispositivo con inteligencia artificial si ya no puede controlar las acciones del dispositivo?

Actualmente, no existen leyes que provean un mecanismo claro para abordar las fallas de los dispositivos inteligentes completamente automatizados. Por lo tanto, las aseguradoras deben colaborar con los fabricantes de tecnología y los legisladores para resolver de manera clara y transparente estas brechas en la responsabilidad.

En segundo lugar, consideremos la creación de una red segura para compartir datos

En la era de los “sistemas ciberfísicos”, nuestros conches no solo son autónomos sino que además son “inteligentes”, lo que quiere decir que están conectados digitalmente. Sin embargo, la conectividad digital conlleva automáticamente el riesgo de error humano o manipulación maliciosa. En 2015, Chrysler retiró del mercado más de 1,5 millones de vehículos tras descubrir que los vehículos eran vulnerables a acceso malicioso inalámbrico, lo que permitía a un tercero tomar el control de las funciones del panel, la dirección, la transmisión y los frenos.

Sin embargo, la amenaza va mucho más allá de nuestros vehículos. Durante los últimos meses, ciertos sistemas de los gobiernos de Estados Unidos y Alemania fueron víctimas de hackers. Las preguntas centrales no se pueden soslayar: ¿Qué ocurriría si no se hackeara solo un vehículo sino todos ellos? ¿Qué ocurriría si el afán destructivo de una organización tomara el control de nuestra infraestructura digital y bloqueara el acceso al agua y la electricidad?

Las aseguradoras han planteado estas inquietudes sistémicas y catastróficas en los eventos sobre mitigación de riesgos del Foro Económico Mundial que organizo. Piden colaborar con los gobiernos, los fabricantes y los diseñadores de tecnología para aclarar las necesidades relativas a los datos y los marcos de acceso, así como compartir información de manera efectiva y eficiente. Este es un paso en la dirección correcta: todas las partes interesadas deben trabajar juntas para crear transparencia en el diseño de tecnologías emergentes desde el comienzo para permitir la creación de estándares de seguridad y técnicas de mitigación de riesgos homogéneos en cada paso del desarrollo de nuevas tecnologías.

Por último, consideremos la idea de un conjunto de estándares globalmente aceptados

Actualmente, la evidente falta de estándares de seguridad y requisitos normativos que exijan cobertura evita la protección de la sociedad contra las lesiones y las pérdidas. Con el advenimiento de la economía "a pedido", muchas plataformas de uso compartido funcionan sin seguro o con uno mínimo.

Además, no existe consistencia normativa entre distintas ciudades o regiones. Por ejemplo, en Canadá, la legalidad de la economía colaborativa varía de una provincia a otra (en Toronto es legal, mientras que en Vancouver no lo es).

En un mundo en el que el coche que alquilas en una plataforma de uso compartido puede fácilmente cruzar las fronteras de una ciudad, un estado o incluso un país, la armonización es crítica si pensamos garantizar las protecciones sociales que se exigen desde hace mucho tiempo en el sector privado (p. ej. la discriminación racial, la verificación de antecedentes y de licencias, los requisitos de seguro, etc.).

Si no se exigen los requisitos de seguro o se crea un único organismo de certificación, el conductor de un coche compartido podría no tener el seguro necesario para conducir; un individuo que alquila una casa por algunas noches podría no tener la cobertura de seguro adecuada para proteger su hogar; y los propios individuos podrían no tener el seguro médico, el seguro de pensiones u otro de los seguros reglamentarios que han protegido a los vendedores y usuarios por igual durante mucho tiempo.

En conclusión, aunque estas tecnologías emergentes ofrecen enormes beneficios a la sociedad, traen consigo, por su propia naturaleza, riesgos nuevos y más complejos que podrían causar importantes pérdidas materiales o humanas. Los marcos normativos fragmentados, la falta de responsabilidad clara y la ausencia de estándares comunes han limitado la capacidad de las aseguradoras de desarrollar nuevos productos para hacer frente a estos riesgos. Sin embargo, si todos trabajamos juntos, podríamos no solo cubrir estos riesgos sino incluso evitar que ocurran en primer lugar.

Quizás nunca volvamos al futuro como en las películas, pero al menos podríamos vivir en un mundo con riesgos y responsabilidades debidamente asegurados.

Este artículo es parte de la iniciativa Mitigar los Riesgos en la Economía de la Innovación del Foro Económico Mundial. Para aprender más sobre el proyecto, visita esta web o envía un correo electrónico a Victoria.Shirazi@weforum.org