¿Qué debería hacer un coche autónomo si un vehículo cercano zigzaguea de forma imprevisible por la carretera, como si quien lo conduce estuviera borracho? ¿Y si se encuentra con un vehículo que circula en sentido contrario? Antes de que los coches autónomos salgan a la carretera, todos deberían saber cómo reaccionarán ante situaciones inesperadas.
Yo desarrollo, pruebo y despliego lanzaderas autónomas, e identifico métodos para garantizar que los vehículos autónomos sean seguros y fiables. Pero no hay pista de pruebas como las carreteras reales del país, ni forma de probar estas nuevas máquinas tan exhaustivamente como se ha probado a los coches modernos conducidos por personas, con billones de millas recorridas cada año durante décadas. Cuando los coches autónomos salen a la carretera, sufren accidentes de gravedad tanto grave como leve. Sin embargo, todas sus decisiones se toman electrónicamente, así que ¿cómo puede la gente confiar en que conducen de forma segura?
Por suerte, existe un método común, popular y muy estudiado para garantizar que las nuevas tecnologías sean seguras y eficaces para el uso público: el sistema de pruebas de los medicamentos nuevos. El enfoque básico consiste en asegurarse de que estos sistemas hagan lo que se espera de ellos, sin efectos secundarios negativos graves, aunque los investigadores no comprendan del todo cómo funcionan.
Efectos de gran alcance
Se espera que los coches autónomos contribuyan a mejorar la seguridad vial, liberando tiempo y atención de quienes conducen y transformando las ciudades e incluso las sociedades.
La normativa que se cree para los coches autónomos tendrá efectos enormes que se extenderán por toda la economía y la sociedad. Es probable que las reglas provengan de una combinación de los dos organismos reguladores del sector automovilístico actuales: la federal Administración Nacional de Seguridad del Tráfico en las Carreteras y los departamentos de transporte estatales.
Las normas federales se centran principalmente en los estándares de seguridad de los componentes estructurales, mecánicos y eléctricos de los vehículos, como los airbags y los cinturones de seguridad. Los estados pueden aplicar sus propias normas de seguridad; por ejemplo, regular las emisiones y gestionar las licencias de conducir y la matriculación de vehículos, que a menudo también exige tener un seguro.
Normativa actual
Las normas estatales y federales actuales consideran a quienes conducen y a los coches entidades separadas. Sin embargo, por definición, los coches autónomos combinan ambas. Sin coherencia entre esas normativas, reinará la confusión.
El gobierno de Obama elaboró 116 páginas de normas con muchos detalles, pero con escasa comprensión de cómo funcionaban los coches autónomos. Por ejemplo, exigía que cada coche llevara etiquetas permanentes y legibles para las personas que enumeraran sus capacidades específicas de conducción autónoma, incluidos los límites de velocidad, las autopistas concretas y las condiciones meteorológicas, algo que confundiría enormemente a los usuarios. La normativa también exigía que las decisiones éticas se tomaran «de manera consciente e intencionada», algo cuestionable, cuando no imposible, para una máquina.
El gobierno de Trump redujo las normas a 26 páginas, pero todavía no ha abordado la cuestión importante de cómo probar los coches autónomos.
Evaluar los algoritmos
Probar algoritmos se parece mucho a probar medicamentos. En ambos casos, los investigadores no siempre pueden explicar exactamente por qué algo funciona (sobre todo en el caso de los algoritmos de aprendizaje automático), pero aun así es posible evaluar el resultado: ¿se recupera una persona enferma después de tomar un medicamento?
La Administración de Alimentos y Medicamentos de Estados Unidos exige que se prueben los medicamentos atendiendo a los resultados, no a sus mecanismos de acción. Los dos criterios principales son la eficacia —hasta qué punto el medicamento trata la afección para la que está indicado— y la seguridad —la gravedad de los efectos secundarios u otros problemas—. Con este método, es posible demostrar que un medicamento es seguro y eficaz sin saber cómo funciona.
Del mismo modo, la normativa federal podría —y debería— exigir que se prueben los algoritmos de los coches autónomos. Hasta la fecha, los gobiernos han probado los coches como máquinas, comprobando que la dirección, los frenos y otras funciones operen correctamente. Por supuesto, los gobiernos también evalúan a quienes conducen.
Una máquina que hace ambas cosas debería tener que aprobar ambos tipos de pruebas, especialmente en el caso de los vehículos que no permiten que los conduzca una persona.
Evaluar el criterio
A mi juicio, antes de permitir que cualquier coche autónomo concreto circule por la carretera, la NHTSA debería exigir resultados de pruebas que demuestren que el coche y sus algoritmos de conducción son seguros y fiables. El requisito más parecido por ahora es el requisito de California de que todos los fabricantes de coches autónomos presenten informes anuales que indiquen cuántas veces una persona al volante tuvo que tomar el control de sus vehículos cuando los algoritmos no funcionaron correctamente.
Es un buen primer paso, pero no dice nada a los organismos reguladores ni al público sobre lo que hacían los vehículos o lo que ocurría a su alrededor cuando las personas tomaban el control. Las pruebas deberían examinar qué indican los algoritmos que haga el coche en autopistas con camiones y en barrios con animales, niños, peatones y ciclistas. También deberían analizar qué hacen los algoritmos cuando la lluvia, la nieve u otras condiciones meteorológicas afectan tanto al funcionamiento del vehículo como a los datos que reciben los sensores. Los coches deberían someterse a situaciones con zonas de obras temporales, intersecciones de cuatro vías, vehículos que circulan en sentido contrario y agentes de policía que dan indicaciones contradictorias con los semáforos, entre otras.
Las pruebas de conducción para personas incluyen algunas evaluaciones del criterio y la toma de decisiones de quien conduce, pero las pruebas para coches autónomos deberían ser más rigurosas, porque no se puede confiar en conceptos centrados en las personas, como el instinto, los reflejos o el instinto de supervivencia. Toda acción de una máquina es una elección, y el público debería saber con claridad qué probabilidades hay de que esas elecciones sean seguras.
Comparación con las personas
Los algoritmos de los coches autónomos calculan probabilidades constantemente. ¿Qué probabilidades hay de que una forma determinada sea una persona? ¿Qué probabilidades hay de que los datos de los sensores indiquen que esa persona camina hacia la carretera? ¿Qué probabilidades hay de que entre en la calzada? ¿Qué probabilidades hay de que el coche pueda frenar antes de atropellarla? De hecho, esto es similar a cómo funciona el cerebro humano.
Esto ofrece una oportunidad sencilla para probar coches autónomos y cualquier actualización de software que un fabricante distribuya a vehículos que ya circulan: se podrían plantear las mismas situaciones a conductores humanos de prueba y a algoritmos de conducción autónoma, y observar su desempeño durante muchos ensayos. Cualquier coche autónomo que iguale o supere el desempeño de las personas podría certificarse como seguro para circular. El método se parece mucho al que se usa para probar medicamentos, en el que el desempeño de un medicamento nuevo se compara con terapias existentes y métodos cuya ineficacia se conoce, como la típica pastilla de azúcar placebo.
Las empresas deberían tener libertad para probar las innovaciones que quieran en pistas cerradas e incluso en vías públicas, con conductores de seguridad preparados para tomar el volante. Pero antes de que los coches autónomos se conviertan en productos habituales a la venta para cualquiera, debería mostrarse al público una prueba clara de su seguridad, fiabilidad y eficacia.
