El domingo 18 de marzo, en Tempe, Arizona, un coche autónomo mató al primer peatón.
Las circunstancias del accidente han impulsado una reevaluación rápida de la seguridad de estos coches en la mayoría de los países donde se están probando, y muchas pruebas se han suspendido. El suceso ha sacudido la confianza pública en los coches autónomos y su seguridad, y ha suscitado un mayor escrutinio de la tecnología y de sus afirmaciones.
De manera inusual, en este caso concreto, el proceso y el diseño de la gobernanza de la tecnología son los aspectos que reciben más atención. En particular, el enfoque de los distintos estados de EE. UU. para encontrar el equilibrio adecuado entre promover la innovación tecnológica y garantizar la seguridad pública ha puesto en primer plano el papel de la gobernanza, así como sus prioridades y concesiones.
Las repercusiones en todo el mundo de las decisiones de gobernanza tomadas en una sola ciudad de EE. UU. ilustran el potencial de un impacto negativo significativo, no solo en las personas, sino también en sectores enteros e incluso en tecnologías completas cuando, de pronto, se deja de considerar fiable la gobernanza.
En respuesta al accidente, Arizona suspendió las pruebas de los coches de Uber, la empresa implicada, mientras que otros fabricantes, como Toyota, suspendieron voluntariamente sus pruebas de coches autónomos en carretera.
El ingeniero jefe del fabricante de automóviles BMW sugirió que actualmente ningún fabricante de automóviles ni empresa tecnológica cuenta con sistemas de sensores y ordenadores lo bastante avanzados para garantizar una seguridad adecuada en entornos urbanos como ese. Esto pone en cuestión el ritmo de desarrollo de la tecnología en EE. UU. frente a Europa, que, según él, es más segura y menos temeraria.
El suceso también ha movilizado a la opinión pública y la polarización no ha tardado en surgir. Un grupo de instituciones centradas en la seguridad vial y automovilística pide una moratoria para limitar la capacidad de las empresas de realizar «pruebas beta en vías públicas con familias como involuntarios maniquíes de pruebas de choque»; mientras que otros citan las numerosas vidas que se pierden por errores de los conductores y que, en teoría, se salvarían gracias al uso de vehículos autónomos, como argumento a favor de una regulación menos estricta, en particular en la normativa federal de EE. UU., que se está estudiando actualmente.
A medida que se aclaran las concesiones de la gobernanza y los defectos de diseño, y se endurecen las posturas de los distintos grupos, parece probable que la confianza en los regímenes de gobernanza se convierta en el factor decisivo de este debate. Es probable que los resultados, en Arizona y en otros lugares, tengan importantes repercusiones en el despliegue efectivo de los coches autónomos en todo el mundo.
Normalmente, la confianza no es un concepto que se sitúe en el centro del diseño de la gobernanza. Proponemos que así sea. Si las iniciativas y los procedimientos de diseño de la gobernanza incluyeran la idea de ganarse la confianza y se centraran en la fiabilidad, ¿cambiaría eso algo en su diseño y eficacia?
¿Sería la gobernanza más digna de nuestra confianza y se ganaría realmente una mayor confianza de los responsables políticos y de la sociedad en general?
En un nuevo proyecto exploraremos estas importantes cuestiones, con el objetivo de elaborar una serie de Principios para la confianza en la gobernanza tecnológica. Estos principios ayudarían a quienes diseñan mecanismos de gobernanza, así como a las partes interesadas que participan en su diseño y aplicación. El proyecto permitiría comprender mejor cómo este enfoque podría orientar el diseño de la gobernanza en el futuro, teniendo en cuenta los mecanismos subyacentes para ganarse o perder la confianza.
En esencia, no se trata de encontrar formas de facilitar o impedir la introducción de tecnologías en el mercado, sino de diseñar una gobernanza que aumente las posibilidades de ganarse la confianza política y social. Esto es así independientemente de que, por ejemplo, las decisiones de evaluación y gestión de riesgos tomadas en el marco de esta gobernanza den lugar a un acceso irrestricto al mercado, a restricciones del mercado o incluso a prohibiciones de una tecnología o de sus productos correspondientes.
Aunque ahora los coches autónomos acaparan el interés de los medios, la historia de la introducción de tecnologías —desde los organismos modificados genéticamente hasta la irradiación de alimentos, y desde las nanotecnologías hasta la inteligencia artificial— nos muestra que la confianza en la gobernanza de la tecnología es de suma importancia. Comprender mejor los mecanismos para ganarse y perder esa confianza es fundamental para todas las partes interesadas que participan en el diseño de la gobernanza —desde los reguladores y los políticos hasta las ONG, la industria y la comunidad científica—, así como, directa e indirectamente, para la sociedad en general.
Para más información, póngase en contacto con: Hilary Sutcliffe - hilary@societyinside.com - +44 (0) 7799 625 064; Conrad von Kameke - conrad@bioinnovatorseurope.org - +49 151 254 96 239
