La IA pronto podría tomar más decisiones en pleno vuelo, lo que plantea una pregunta fundamental: ¿cuánta autoridad deberían tener las máquinas?
La movilidad aérea avanzada requerirá normas claras sobre quién se beneficia, quién asume el riesgo y quién es responsable cuando las decisiones automatizadas causan daños.
La siguiente fase de la aviación debe ir más allá de la certificación de máquinas inteligentes y definir también la autoridad bajo la cual operan estos sistemas.
Los taxis aéreos podrían ser de los primeros aviones de pasajeros en operar sin un piloto a bordo que tome o supervise cada decisión operativa. Pero incluso si estos vehículos avanzados de movilidad aérea (AAM) pueden calcular rutas, ¿cómo tendrán la autoridad para elegir una nueva si las circunstancias cambian en pleno vuelo?
La aviación ha asumido durante mucho tiempo que las personas toman decisiones importantes mientras que las máquinas ayudan a ejecutarlas. Con AAM, que la Administración Federal de Aviación de EE. UU. (FAA) describe como vehículos eléctricos altamente automatizados Aunque se considera que son capaces de despegar y aterrizar verticalmente, esa suposición está empezando a cambiar.
Por supuesto, las aeronaves modernas ya dependen de sistemas automatizados, pero los drones de última generación y las aeronaves eléctricas de despegue y aterrizaje vertical (eVTOL) diseñadas para la movilidad aérea avanzada van más allá. Pueden utilizar software para interpretar las condiciones, identificar riesgos y tomar decisiones.
Si bien una aeronave funciona como una máquina individual, la aviación es un sistema. Imaginemos un taxi aéreo autónomo sobrevolando una zona urbana densamente poblada cuando una tormenta eléctrica le impide seguir su ruta prevista. ¿Qué ocurre si las comunicaciones se interrumpen y otra aeronave entra en el mismo corredor? ¿Quién tiene la autoridad para decidir qué debe hacer la aeronave a continuación: la IA a bordo, un operador remoto o el control de tráfico aéreo?
La industria aeronáutica está aprendiendo a certificar máquinas inteligentes, pero aún no ha decidido cuánta autoridad otorgarles. Cuando un sistema de inteligencia artificial (IA) para la aviación debe calcular varias respuestas posibles a las condiciones cambiantes del aire en cuestión de segundos, ¿quién decide qué significa "más seguro"?
Inteligencia artificial en la aviación: la intervención humana es fundamental.
Esta cuestión se vuelve cada vez más urgente a medida que la movilidad aérea avanzada pasa de la fase conceptual a la fase de preparación regulatoria.
En octubre de 2024, la FAA de EE. UU. emitió una regla final abordando aeronaves piloto de despegue y aterrizaje vertical (vehículos que pueden despegar y aterrizar verticalmente, y luego volar hacia adelante como un avión). También ha seleccionado ocho socios para su Programa piloto de integración de eVTOL La agencia está utilizando simulaciones con participación humana para examinar cómo las aeronaves eVTOL pueden compartir el espacio aéreo y las instalaciones aeroportuarias con las aeronaves convencionales.
La regulación aeronáutica se ha estructurado tradicionalmente en torno a roles humanos: el piloto al mando, el operador del sistema de IA, el controlador de tráfico aéreo, el fabricante de la aeronave y el regulador. La IA complica este sistema, ya que no siempre se limita a ejecutar una instrucción predeterminada; si las condiciones cambian en pleno vuelo, puede que tenga que evaluar riesgos contrapuestos y elegir una opción u otra.
Para gestionar este cambio, la aviación necesita más que una simple prueba de si un sistema de IA es técnicamente capaz. Debe prestar atención a cinco condiciones de gobernanza:
La autoridad determina si el sistema está autorizado legal y operativamente para tomar una decisión en particular.
La auditoría examina las pruebas que respaldan la confianza en su desempeño dentro de un dominio definido.
La auditabilidad plantea la cuestión de si la decisión, sus insumos y cualquier traspaso de información pueden reconstruirse posteriormente.
La adaptabilidad analiza si el permiso original sigue siendo válido cuando cambian las condiciones meteorológicas, la calidad de los datos, el comportamiento del software o la disponibilidad del servicio.
La capacidad de respuesta garantiza que una persona u organización esté en condiciones de explicar, corregir y responder cuando actúa un sistema de aviación basado en IA.
Se trata de un marco de gobernanza propuesto, no de un reglamento internacional vigente. Estas capas ponen de manifiesto una distinción crucial: un sistema puede tomar una decisión sin estar autorizado para ello, y una persona puede ser formalmente responsable sin disponer del tiempo, la información o los medios técnicos necesarios para controlar el resultado.
La capacidad de tomar una decisión no es lo mismo que el derecho a tomarla.
Esta distinción es importante porque la lógica de toma de decisiones de un sistema de IA refleja las decisiones tomadas por desarrolladores, fabricantes, operadores y reguladores. Es fundamental saber quién definió sus prioridades, quién las aprobó y quién tenía la potestad de modificarlas. La persona designada debe contar con la información, la competencia, el tiempo y los medios técnicos necesarios para influir en el resultado del proceso de toma de decisiones del sistema de IA.
Gobernar la lógica de toma de decisiones de la IA
Por supuesto, no todas las decisiones de la IA necesitan aprobación manual. Eso iría en contra del propósito de la automatización y podría generar riesgos para la seguridad. En cambio, los reguladores y operadores deberían definir diferentes niveles de autoridad delegada, que abarquen las decisiones que pueden automatizarse, las que requieren confirmación humana y las decisiones de emergencia que pueden tomarse de forma autónoma y revisarse posteriormente.
Esto significa que los sistemas de aviación con IA deben registrar las decisiones de vuelo relevantes, como la información recibida, las alternativas consideradas y los motivos de la elección de una determinada opción. La transferencia de información entre un operador, un sistema a bordo y un servicio digital debe tratarse como un evento controlado, no como una transición técnica invisible.
Esta rendición de cuentas debe seguir la cadena de decisiones, no limitarse a la cabina de mando. Dicha cadena puede incluir al diseñador que definió los objetivos del sistema, al fabricante que lo integró, al operador que lo desplegó, al regulador que aprobó su funcionamiento y al supervisor humano que debía intervenir. La existencia de un algoritmo no debe generar una laguna en la responsabilidad.
La coordinación internacional también será esencial. Las aeronaves, los operadores, el software y los datos cruzan cada vez más las fronteras, mientras que la seguridad aérea depende de normas comunes. La Organización de Aviación Civil Internacional (OACI) ha reconocido que La innovación requiere políticas y estándares globales oportunos, junto con la cooperación entre estados, industria y academia. Plan Mundial de Navegación Aérea Ofrece un modelo para armonizar los enfoques globales, regionales y nacionales.
La aviación en la era de la IA
Por lo tanto, la siguiente fase de la aviación debe ir más allá de la certificación de máquinas inteligentes y definir también la autoridad bajo la cual operan. Los reguladores deben especificar qué decisiones pueden delegarse. Los operadores de sistemas de IA para la aviación deben mantener una cadena verificable de responsabilidad humana. Los fabricantes deben garantizar que las decisiones importantes relacionadas con la IA sean rastreables y revisables.
Y esto no es solo una preocupación para la aviación. La sociedad —aquellos afectados por la aviación con IA, incluyendo pasajeros, trabajadores del sector y cualquier persona que viva bajo las rutas de vuelo— debe determinar quién se beneficia, quién asume los riesgos y quién debe responsabilizarse si las decisiones automatizadas causan daños. La aviación podría servir como una prueba temprana de cómo las sociedades podrían gobernar la IA a medida que el software pasa de asesorar a los humanos a ejercer autoridad delegada sobre el mundo físico.
El futuro de la aviación dependerá no solo de lo que las máquinas puedan decidir, sino también de quién les otorgue esa autoridad y quién sea responsable de las consecuencias.
