Una nueva generación de sistemas de IA autónomos, que incluyen drones, vehículos autónomos y robots humanoides, pueden percibir el mundo, tomar decisiones y actuar en consecuencia.
Esto está disolviendo las fronteras tradicionales entre el riesgo del software y el riesgo físico, y entre la ciberseguridad y la seguridad.
Los campos de la ciberseguridad y la IA física autónoma están convergiendo, por lo que es importante establecer las bases de gobernanza adecuadas para esta tecnología.
Durante la mayor parte de su historia, la inteligencia artificial (IA) ha vivido dentro de las pantallas. Ha recomendado, predicho, traducido y generado. Sus errores han sido costoso, a veces grave pero se han mantenido en gran medida en el ámbito digital.
Esto está cambiando ahora.
Una nueva generación de sistemas está introduciendo la IA en el mundo físico. Además de procesar información, también perciben, toman decisiones y actúan dentro del mundo.
Los robots humanoides, los vehículos autónomos y los drones son tres ejemplos de ello que actualmente están pasando de la fase piloto a la de despliegue. A medida que esto sucede, las fronteras que antes parecían claras —entre el riesgo del software y el riesgo físico, y entre la ciberseguridad y la seguridad— se están difuminando.
En el caso de la IA autónoma física, el cambio decisivo reside en la fusión de la percepción, la toma de decisiones y la actuación; esta última se produce cuando una decisión o señal digital de un modelo de IA se transforma en una acción física o digital. Esto confiere a la autonomía un valor social. Sin embargo, también implica que los errores, los ataques o los objetivos mal definidos pueden propagarse al mundo físico antes de que un ser humano tenga tiempo de detectarlos, comprenderlos e intervenir.
Así pues, a medida que convergen los campos de la ciberseguridad y la IA autónoma física, es hora de sentar las bases adecuadas para la gobernanza de esta nueva generación de sistemas.
Inteligencia artificial encarnada: Uso de robots humanoides
Los robots humanoides ya no son ciencia ficción. Los sistemas capaces de realizar tareas físicas en entornos no estructurados —recoger, ensamblar, levantar, navegar— están llegando a almacenes logísticos o trabajando en plantas de producción y, en los primeros proyectos piloto, en entornos asistenciales.
En la planta del Grupo BMW en Spartanburg, Figura 02 robots humanoides Se han probado en un entorno de producción real con actividades físicamente exigentes que implican el manejo de piezas de chapa metálica. Cuando la IA integrada pasa de la demostración a la experimentación operativa de esta manera, el valor depende no solo de la inteligencia, sino también de si los sistemas autónomos pueden actuar de forma segura, fiable y responsable en entornos de trabajo físicos.
Sin embargo, a medida que los humanoides adquieren capacidades, también se vuelven más complejos. Un robot capaz de levantar a un paciente o manejar maquinaria introduce nuevas categorías de riesgos de seguridad que van más allá de los errores o vulnerabilidades del software.
Antes de que los humanoides se expandan más allá de los entornos controlados, los gobiernos y las empresas necesitan marcos más claros para las pruebas, la certificación y la rendición de cuentas.
Vehículos autónomos: Despliegue real, nuevas dependencias
El transporte autónomo por carretera es el sistema de IA más avanzado comercialmente de esta nueva generación. Los servicios de robotaxi ya están operativos en varias ciudades, mientras que el transporte autónomo de mercancías se está probando en algunas autopistas. Entre sus ventajas potenciales a corto plazo se incluyen mejores índices de seguridad en determinados tipos de rutas, una reducción de los costes del transporte de mercancías de larga distancia y la ampliación de los horarios de funcionamiento.
Waymo es uno de los ejemplos más claros de la transición de la prueba al servicio en esta área. Sus operaciones de transporte de pasajeros sin conductor se han expandido desde los despliegues iniciales con Uber en Phoenix y San Francisco a múltiples mercados de Estados Unidos.
Sin embargo, el despliegue a gran escala genera dependencias que antes no existían. Los vehículos autónomos dependen de conectividad continua, mapas de alta definición, infraestructura de monitoreo remoto y actualizaciones de software inalámbricas, cada uno de los cuales representa un posible punto de fallo o interferencia. Los riesgos de coordinación en entornos de tráfico mixto, donde vehículos autónomos y conducidos por humanos comparten las carreteras, aún no se comprenden del todo.
Una infraestructura de IA resiliente y segura es fundamental para hacer frente a estas condiciones.
Drones: Expansión rápida, retraso en la gobernanza.
Los sistemas aéreos no tripulados, o drones, ya operan a gran escala en sectores como la entrega, la agricultura, la inspección y los servicios de emergencia. En zonas de conflicto y regiones fronterizas, los drones militares y comerciales han demostrado que el espacio aéreo —antes un entorno estrictamente regulado— ahora es accesible a una gama mucho más amplia de actores, incluidos los no estatales.
También hay casos civiles positivos. En Ruanda, la entrega de productos sanguíneos mediante drones ha... tiempos de entrega reducidos en comparación con el transporte por carretera estimado y la reducción de las fechas de caducidad de los productos entre los centros de salud.
El desafío de gobernanza en este caso es considerable. Los marcos de gestión del espacio aéreo no fueron diseñados para un gran número de agentes autónomos operando simultáneamente. Además, las mismas tecnologías que permiten la agricultura de precisión pueden facilitar la vigilancia o la interrupción selectiva. La interferencia, la suplantación de identidad y el secuestro de sistemas de drones han pasado de ser preocupaciones teóricas a incidentes documentados.
La seguridad y la protección ya no son conceptos separados.
Estos tres casos de uso avanzan a ritmos diferentes e involucran distintas industrias, reguladores y perfiles de riesgo. Sin embargo, plantean una serie de preguntas comunes que ni la comunidad de ciberseguridad ni la de sistemas de IA autónomos pueden responder por sí solas.
Una vez que un sistema de IA puede actuar en el mundo físico, un ciberataque puede traducirse directamente en daños físicos: un vehículo comprometido, un dron manipulado, un robot que opera fuera de su zona de seguridad.
La seguridad debe integrarse en el diseño, las normas, las adquisiciones y la gobernanza de los sistemas de IA autónomos.
Qué preguntas hacer antes de escalar la IA autónoma
La primera pregunta para los líderes empresariales es si los límites de la autonomía están definidos con suficiente claridad. Para los sistemas físicos autónomos, la seguridad no solo significa que los componentes funcionen según lo previsto, sino también saber dónde no está diseñado el sistema para operar.
En segundo lugar, ¿dónde reside la responsabilidad humana cuando el sistema se vuelve más autónomo? En la IA física, no basta con decir que un humano permanece involucrado. Los líderes deben preguntarse si ese humano tiene el tiempo, la información, la autoridad y las habilidades necesarias para intervenir cuando un sistema autónomo alcanza sus límites.
En tercer lugar, ¿cuál es el análisis de seguridad en condiciones adversas? La garantía de seguridad debe basarse únicamente en el funcionamiento normal, además de abarcar cómo un sistema de IA autónomo falla, se recupera e informa cuando es atacado, se confunde o se le priva de conectividad.
Responder a estas preguntas debería ayudar a los líderes a crear directrices de gobernanza prácticas para la ampliación de la IA autónoma.
¿Qué hacer ahora?
El valor que estas tecnologías pueden aportar es real, y las presiones competitivas que impulsan su implementación no van a desaparecer. La preparación debe ir a la par del ritmo de la implementación.
Para los gobiernos, esto significa actualizar los marcos regulatorios que fueron diseñados para un mundo donde los vehículos tenían conductores, el espacio aéreo tenía un número limitado de ocupantes autónomos y los sistemas físicos no estaban conectados en red.
Para las empresas, esto significa tratar la ciberseguridad como un requisito de ingeniería fundamental para cualquier sistema que pueda operar en el mundo físico, y no como una capa de cumplimiento que se añade al final.
Para las instituciones internacionales, esto significa construir el tejido conectivo entre los reguladores de seguridad, las autoridades de ciberseguridad y los organismos de normalización que actualmente operan en paralelo.
Los sistemas de IA autónomos ya han entrado en el mundo físico. Debemos crear las condiciones adecuadas antes de que estos sistemas se integren profundamente en la infraestructura crítica y la vida cotidiana.
