La IA física compartirá cada vez más nuestro espacio público, pero aún debemos afrontar el reto de la confianza.
Ningún ámbito ha lidiado con esta cuestión con tanta intensidad (ni con tanta visibilidad pública) como los vehículos autónomos. Los coches autónomos no solo son uno de los primeros despliegues a gran escala de la IA física, sino que también se encuentran entre los más escrutados.
La Reunión Anual 2026 del Foro Económico Mundial, que se celebrará en Davos (Suiza), subrayará la creciente importancia del diálogo abierto e imparcial bajo el lema «El espíritu del diálogo».
La IA física está remodelando el mundo que nos rodea. En las próximas décadas, los agentes físicos autónomos, como los coches autónomos, los robots de reparto y los robots domésticos, compartirán cada vez más nuestras calles, lugares de trabajo y espacios de vida.
Su potencial es enorme: carreteras más seguras, aire más limpio, más tiempo para lo que importa y un acceso más equitativo a los servicios. Pero, para materializar este potencial, además de innumerables desafíos técnicos, debemos resolver también la cuestión de la confianza: ¿cómo generamos confianza entre las personas y los sistemas inteligentes que operan en el mundo físico?
Ningún ámbito ha lidiado con esta cuestión con tanta intensidad (ni con tanta visibilidad pública) como los vehículos autónomos. Los coches autónomos no solo son uno de los primeros despliegues a gran escala de la IA física, sino que también se encuentran entre los más escrutados.
Las lecciones que surgen de este diálogo entre comunidades, responsables políticos, fabricantes de automóviles y tecnólogos ofrecen un modelo sólido para que la sociedad oriente todas las formas de IA física hacia un progreso responsable y centrado en el ser humano.
¿Qué problema resuelven los vehículos autónomos?
Más de un millón de personas en todo el mundo pierden la vida en accidentes de tráfico cada año. La congestión consume miles de millones de horas de productividad anualmente. Y mil millones de personas carecen de acceso a un transporte seguro y fiable, lo que limita su capacidad para trabajar, aprender o recibir atención médica.
Los vehículos autónomos pueden contribuir de forma significativa a revertir cada una de estas tendencias. Están diseñados para evitar distracciones, respetar las normas y tener una visión de 360 grados en todo momento. No se cansan, no sufren merma de sus facultades ni se sobrecargan emocionalmente.
En pruebas industriales, incluidos los despliegues comerciales, los sistemas autónomos han demostrado su capacidad para salvar vidas, devolvernos tiempo y ampliar las opciones de movilidad para las personas que no pueden conducir.
Sin embargo, ninguno de estos beneficios puede materializarse plenamente sin la confianza pública. Y la confianza, especialmente en los sistemas físicos inteligentes que operan en espacios públicos, se gana a través del diálogo.
Cómo generar confianza en los vehículos autónomos mediante el diálogo
Para sentar las bases de un despliegue seguro y responsable, son necesarias dos formas de diálogo abierto.
1. Diálogo entre personas
Toda nueva tecnología que opere en el espacio público debe ajustarse a las expectativas y normas sociales. En el caso de los vehículos autónomos, esto implica una colaboración temprana y continua entre desarrolladores tecnológicos, fabricantes de automóviles, reguladores, servicios de emergencia, defensores de los derechos de las personas con discapacidad y grupos comunitarios. El objetivo no es solo el cumplimiento normativo, sino también el entendimiento mutuo.
Muchas ciudades ya han creado grupos de trabajo conjuntos en los que los desarrolladores tecnológicos comparten datos de seguridad, resultados de simulaciones y aprendizajes de la conducción en condiciones reales. Los responsables políticos, a su vez, expresan sus prioridades, ya sea proteger a los usuarios vulnerables de la vía, reducir las emisiones, mejorar las conexiones con el transporte público o garantizar una cobertura equitativa del servicio.
Este diálogo también exige transparencia en materia de seguridad. Los marcos de seguridad más creíbles de la actualidad combinan con rigor las pruebas basadas en escenarios, la rendición de cuentas conforme a las normas del sector y la validación independiente. Este nivel de claridad permite a los reguladores y a las comunidades evaluar las afirmaciones y generar confianza.
2. Diálogo entre personas y sistemas de IA
La segunda forma de diálogo no se produce entre instituciones, sino entre las personas y la propia tecnología.
Gracias a los avances recientes en la IA explicable, interpretable y de razonamiento, hemos alcanzado un nuevo nivel de comunicación con los sistemas de IA. Mediante modelos de visión y lenguaje e interfaces en lenguaje natural, los sistemas autónomos pueden describir cada vez más lo que hacen y por qué actúan de una determinada manera, en lenguaje natural.
Por ejemplo, un pasajero podría preguntar: «¿Por qué hemos reducido la velocidad aquí?», y el vehículo podría responder: «Un ciclista que tengo delante ha indicado que va a cambiar de carril, así que le dejo más espacio».
Esta capacidad no solo mejora la experiencia del usuario, sino que también genera confianza al hacer que el razonamiento del sistema sea observable, interpretable y predecible. En otras palabras, la IA ya no es una caja negra. Al igual que una persona, un sistema de IA puede razonar y justificar sus decisiones.
Esta combinación de diálogo entre personas y diálogo entre personas y máquinas es exactamente el tipo de cooperación que necesitamos en un mundo en disputa.
Cómo ayuda el Foro a los líderes a comprender la IA y a colaborar en la innovación responsable
El Centro de Excelencia en IA reúne a líderes de todos los sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Apoya un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a sus socios generar una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
¿Qué aspecto tiene un marco para la confianza en la IA física?
Los vehículos autónomos son la primera ola. Pronto, las máquinas inteligentes serán una parte integral y normal de la vida cotidiana: mantendrán infraestructuras, manejarán equipos de fábrica, doblarán la ropa y cuidarán de jóvenes y mayores.
A partir de los vehículos autónomos, podemos derivar un marco para facilitar diálogos abiertos que fomenten la confianza y que pueda generalizarse a otras formas de IA física.
1. Demostrar utilidad
Cuando un sistema autónomo mejora de forma medible los resultados en materia de seguridad, la eficiencia o el acceso a servicios esenciales, su valor resulta intuitivo. Los primeros despliegues deben priorizar beneficios públicos claros y compartidos, y no la novedad.
2. Demostrar fiabilidad
Demostrar la fiabilidad implica publicar datos de rendimiento, compartir metodologías de prueba y alinearse con normas independientes. La innovación responsable requiere no solo avances, sino también resultados interpretables, predecibles y repetibles.
3. Garantizar la transparencia
Los sistemas transparentes, es decir, aquellos que pueden comunicar sus observaciones, explicar sus decisiones y mostrar cómo aprenden, invitan a la participación en lugar de a la desconfianza. Esta transparencia debe extenderse también a la gobernanza: cómo se usan los datos, cómo se aplica la seguridad y cómo las preocupaciones públicas influyen en el diseño de los productos.
Este marco ayuda a garantizar que la IA física se diseñe para personas reales que viven vidas reales, y no para modelos idealizados ni entornos teóricos.
Es importante reconocer que las máquinas inteligentes son precisamente eso: máquinas inteligentes. No tienen moralidad ni ética intrínsecas. Lo que sí tienen es una capacidad ilimitada de aprendizaje. Nuestra tarea es enseñarles y entrenarlas para que muestren el comportamiento que queremos ver.
La creciente capacidad de la tecnología para explicarse nos ofrece la oportunidad de examinar y revisar en profundidad nuestros sesgos y supuestos sobre cómo debería funcionar el mundo. De este modo, los sistemas de IA pueden aprender a hacer contribuciones significativas y positivas a la sociedad.
El camino a seguir
La autonomía accesible transformará la vida cotidiana. Hará que nuestras ciudades sean más seguras, nuestras infraestructuras más eficientes y nuestras comunidades más conectadas.
A medida que los sistemas autónomos son más capaces, tenemos ahora una oportunidad sin precedentes no solo para construir máquinas más inteligentes, sino también para construir relaciones más inteligentes con ellas.
Con un diálogo genuino como guía, la IA física puede demostrar que es algo más que un hito tecnológico: puede convertirse en un salto colectivo en la forma en que las personas viven, se desplazan y prosperan, impulsándonos hacia un mundo mejor.
