La IA portátil requiere confianza a nivel de producto mediante controles de participación voluntaria deliberados y privacidad en el dispositivo.
Las señales visibles en los dispositivos inteligentes portátiles, como las luces indicadoras, son insuficientes para proteger a los transeúntes de la detección continua.
La IA está trascendiendo la pantalla y llegando al cuerpo a través de los dispositivos, abriendo nuevas posibilidades para la vida cotidiana, el trabajo industrial y la accesibilidad.
Este cambio se produce en un momento en que la confianza pública en la IA aún está en desarrollo, lo que hace que sea especialmente importante hacerlo bien. Con las herramientas tradicionales basadas en pantalla, la interacción suele ser limitada: se abre una aplicación, se introduce un mensaje, se otorgan permisos y se cierra. Los sistemas corporales son diferentes. Operan en entornos físicos y sociales compartidos. Además, pueden recopilar datos cada vez más íntimos, influir en cómo piensan, sienten y actúan los usuarios, y observar o analizar a personas ajenas a su entorno.
Por eso, la confianza debe estar integrada en el producto desde el principio.
Transparencia para un nuevo tipo de interacción con la IA
La Ley de IA de la UE Las obligaciones de transparencia, que entraron en vigor en agosto de 2026, exigen que los proveedores de determinados sistemas de IA informen a las personas cuando interactúan directamente con la IA y establecen requisitos de divulgación para ciertos contenidos generados por la IA.
Las gafas inteligentes Ray-Ban de Meta se enfrentó a una demanda Se han publicado datos de cámaras corporales después de que, según se informa, las grabaciones se enviaran a un contratista con sede en Kenia para su revisión manual, lo que plantea dudas sobre el enfoque del producto en la privacidad.
Por otra parte, dos estudiantes de Harvard crearon una herramienta llamada I-XRAY para demostrar cómo se podrían combinar gafas inteligentes con reconocimiento facial para revelar instantáneamente nombres, direcciones y números de teléfono de desconocidos, un caso que ahora está registrado en Monitor de incidentes de IA de la OCDE.
Estos dos ejemplos demuestran que el problema de la confianza va más allá de los observadores; las personas pueden verse atrapadas por sistemas con los que nunca eligieron interactuar, mientras que incluso aquellos que utilizan un dispositivo de forma voluntaria pueden tener poco control sobre cómo se procesan, revisan o comparten posteriormente los datos recopilados.
Tres principios para la IA portátil
A medida que la IA portátil avanza hacia una detección más continua, tres principios son los más importantes:
1. Diseñar la IA para apoyar el juicio humano, no para reemplazarlo.
La IA portátil puede ayudar a las personas a tomar mejores decisiones, pero no debería tomar decisiones en su nombre, especialmente cuando están en juego la salud, la seguridad, el trabajo o el dinero. Si un dispositivo portátil detecta un ritmo cardíaco irregular, por ejemplo, podría alertar primero al usuario y recomendarle que busque atención médica, y solo intensificar la atención si el usuario ha activado esa opción o si el sistema detecta señales claras de una emergencia, como la pérdida del conocimiento o un deterioro rápido de la salud.
Los usuarios deberían poder comprender por qué se hizo una recomendación, cuestionarla, rechazarla y desactivar una función o cancelar una acción específica en cualquier momento.
2. Incorpore la privacidad en el producto, no solo en la política.
Un dispositivo portátil con IA puede saber qué mira una persona, dónde está, qué dice y cómo reacciona su cuerpo. Esto hace que el consentimiento sea importante, pero el consentimiento por sí solo no basta. La primera pregunta de diseño debería ser más sencilla: ¿realmente necesita el producto estos datos?
Para un dispositivo que puede acompañar a una persona durante todo el día, la privacidad comienza con la moderación: recopile datos confidenciales solo cuando sea necesario, procéselos en el dispositivo siempre que sea posible y evite almacenar información sin procesar a menos que sea absolutamente necesario.
También existe un incentivo práctico para abordar la privacidad desde el principio. En países con leyes de privacidad estrictas, es posible que un dispositivo simplemente no pueda funcionar como en otros lugares. Si las empresas esperan hasta el lanzamiento para lidiar con estas normas, podrían terminar rediseñando funciones esenciales para cada mercado. Diseñar teniendo en cuenta estas limitaciones desde el principio puede ayudar a evitar cambios costosos más adelante.
3. Hacer visible la detección para las personas que rodean el dispositivo.
Puede que quien usa el dispositivo haya aceptado los términos de servicio, pero quienes lo rodean no. En espacios compartidos, otras personas pueden ser vistas, grabadas, identificadas o analizadas sin su consentimiento.
Una señal visible es importante, pero no puede ser la solución completa. Una luz indicadora puede pasar desapercibida, ignorarse o quedar oculta. Cuanto más sensible sea la función (identificar un rostro, obtener un nombre o una dirección, o analizar a alguien cercano), más cauteloso debe ser el sistema antes de activarla. Estas capacidades deberían requerir una activación explícita, en lugar de funcionar silenciosamente en segundo plano.
El experimento I-XRAY demostró por qué informar al usuario no es suficiente. La responsabilidad no debe recaer en una persona cercana que no esté informada, quien debe percibir la señal, comprender su significado y reaccionar a tiempo. La protección de los observadores debe estar integrada en el funcionamiento del sistema.
El uso diario requiere un mayor nivel de confianza.
Los dispositivos portátiles permiten una monitorización de la salud más continua y una asistencia más eficaz, ya que acompañan al usuario durante todo el día. A medida que interactúan con señales fisiológicas más sensibles y, eventualmente, con datos neuronales, las personas necesitarán respuestas claras a preguntas básicas: ¿Qué hace el dispositivo? ¿Qué datos utiliza? ¿Qué funciones se pueden desactivar? ¿Qué ocurre si detecta algún error?
Las respuestas a estas preguntas deben provenir del propio producto, a través de controles claros, prácticas de datos transparentes y un comportamiento predecible del sistema.
Los responsables políticos y las instituciones mundiales están empezando a responder a estas preocupaciones sobre la sensibilidad de los datos. UNESCO adoptado su Recomendación sobre la Ética de la Neurotecnología en noviembre de 2025, mientras que Chile introducido Protecciones constitucionales para la actividad cerebral y la información derivada de ella.
Los estándares de la industria no pueden esperar a la regulación.
Las políticas no podrán adaptarse a cada nuevo sensor, formato o tipo de datos. Los estándares voluntarios pueden proporcionar un punto de referencia común.
El Foro Económico Mundial Consejo Global para el Futuro de la Neurotecnología ha desarrollado Compromisos de Mejores Prácticas de la Industria para promover la transparencia, proteger el uso responsable de los datos neuronales y fortalecer la autonomía y el control individuales. El Foro Plataforma Global de Innovación Regulatoria También se está analizando cómo la regulación puede mantenerse al día con las tecnologías emergentes.
Estos principios deberían definirse desde las primeras etapas de la IA para dispositivos vestibles, mientras aún se están diseñando los productos. Las empresas que transmitan confianza a través del propio producto serán aquellas a las que la gente recurrirá con mayor disposición.
