La inteligencia artificial generativa (IA generativa) encabeza una revolución tecnológica que refleja cambios históricos como los que se produjeron durante la Ilustración.
La acumulación de datos para alimentar algoritmos pone en riesgo el derecho de los usuarios a que su información personal les pertenezca.
Las empresas que aspiran a liderar la «Ilustración digital» deberían evolucionar de forma proactiva su enfoque de los datos de los clientes y la privacidad.
Al entrar en una nueva era definida por la inteligencia artificial generativa (IA generativa), es esencial reflexionar sobre cómo esta revolución tecnológica refleja cambios históricos, como la Ilustración de los siglos XVII y XVIII.
Los principios de la Ilustración, un movimiento intelectual que puso el individualismo y el progreso por encima de la tradición y la autoridad, siguen siendo muy pertinentes hoy en día.
La actual acumulación de datos sin fin para alimentar los grandes modelos lingüísticos (LLM) pone en riesgo el derecho de cada persona a que su información personal le pertenezca; es decir, que todos tenemos derecho a proteger, compartir y obtener beneficios de esos datos tanto como queramos, o tan poco como queramos.
Los algoritmos alimentados por datos ya determinan nuestros próximos pasos; las marcas nos muestran anuncios cuando detectan que estamos cerca, y permitimos pasivamente que los gigantes de los medios decidan cómo queremos entretenernos.
Ha llegado el momento de una Ilustración centrada en lo digital: de consagrar la idea de que, como individuos, tenemos soberanía sobre nosotros mismos y podemos recuperar los datos que definen nuestra identidad digital.
Cómo evitar los escollos de la adopción de la IA generativa
A medida que se extienda la tecnología de IA, querremos tener más control sobre los datos que alimentan los algoritmos. En un estudio mundial reciente sobre la adopción de la IA generativa, Cognizant encuestó a 2200 directivos de empresas de 23 países y 15 sectores sobre sus estrategias de inteligencia artificial generativa.
Descubrimos que la privacidad y la seguridad de los datos son dos factores clave que inhiben considerablemente la adopción de la IA generativa. Si no tomamos las riendas, corremos el riesgo de vernos arrastrados a un torbellino en el que nuestras decisiones, conductas, preferencias y experiencias se manipulen de maneras que desconocemos o no comprendemos.
También corremos el riesgo de sufrir violaciones catastróficas de la privacidad si no entendemos cómo pueden utilizarse nuestros datos a favor o en nuestra contra. Esto incluye no solo las palabras que pronunciamos, el texto que escribimos y las fotos que tomamos, sino incluso participar en una reunión o mostrar nuestro rostro en público.
Las empresas tienen un papel que desempeñar en esta transición. Hoy, los consumidores premian a las marcas y los empleadores cuyos valores sociales coinciden con los suyos. Los consumidores del mañana premiarán a las empresas que les ofrezcan privacidad cuando la quieran y los compensen de manera justa cuando compartan su información personal.
Recuperar la confianza en la «Ilustración digital»
Como puede atestiguar cualquiera que haya entrado alguna vez en un centro comercial, llevamos mucho tiempo intercambiando nuestra atención e información personal por comodidad y ofertas especiales.
Sin embargo, a medida que somos más conscientes de las posibles consecuencias de esa comodidad, en esencia nos volvemos más «ilustrados digitalmente». Lo que está en juego es cada vez más importante: la próxima era traerá una adopción generalizada de nuevas formas de inteligencia artificial que requieren grandes cantidades de datos.
Aunque a los consumidores les inquietan la ética y la seguridad de estas tecnologías, su atractivo es poderoso. Cuando cedemos ante las recomendaciones algorítmicas e interactuamos con las plataformas sin pensar, podemos perder toda noción de cómo crear nuestra propia experiencia.
Hay cuatro medidas que podrían ayudar a impulsar el tipo de Ilustración digital al que me refiero:
1. Blockchain y tecnologías distribuidas
Las identidades autosoberanas (SSI, por sus siglas en inglés) basadas en cadenas de bloques suponen un cambio radical. Según este modelo, las personas tienen pleno control sobre los datos de su identidad. A diferencia de los sistemas de identidad tradicionales, en los que la información está gestionada por una autoridad centralizada (como un gobierno o una empresa), las SSI permiten que los usuarios sean propietarios de su información de identidad, la gestionen y la compartan directamente. Al controlar nuestras identidades digitales sin intermediarios, nos convertimos en custodios de nuestros propios datos.
2. Mejores controles de privacidad
Los registros a prueba de manipulaciones y los permisos granulares están allanando el camino hacia un futuro que priorice la privacidad y en el que la información personal sea un derecho digital fundamental. Este cambio también permite a las personas monetizar sus datos de forma selectiva y en sus propios términos, sentando las bases de economías de datos centradas en los usuarios que prioricen la capacidad de decisión y el valor individuales. La filosofía de «los archivos antes que las aplicaciones», que promueve archivos digitales fáciles de leer y siempre bajo el control del usuario, es un paso en la dirección correcta.
Cómo ayuda el Foro a los líderes a comprender la inteligencia artificial y colaborar en favor de una innovación responsable
El Centro para la Excelencia en IA conecta a líderes de distintos sectores para que comprendan la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Promueve un diálogo informado sobre las oportunidades, los riesgos y las compensaciones asociados a la adopción de la inteligencia artificial.
Mediante espacios de confianza e iniciativas colaborativas, el Centro permite a sus socios desarrollar una comprensión común y trabajar juntos en enfoques responsables para la innovación y el uso de la inteligencia artificial.
La función de Apple Transparencia en el Rastreo de Apps, que exige que las aplicaciones de iOS obtengan el permiso de los usuarios antes de rastrearlos en otras aplicaciones, es un buen ejemplo de cómo una marca genera lealtad al respetar el derecho de los consumidores a la privacidad. Otras marcas deberían adoptar medidas sensatas, como facilitar el cambio de la configuración predeterminada e incluso establecer por defecto el máximo nivel de privacidad disponible.
3. Gobernanza transparente de la IA
A medida que aumenta la influencia de la inteligencia artificial, es fundamental descentralizar su gobernanza. Los gobiernos centrales tienen un papel que desempeñar, y la UE puede ofrecer a otras regiones un modelo sólido con su Reglamento de Inteligencia Artificial .
Sin embargo, las auditorías comunitarias, la transparencia algorítmica y el aprendizaje federado (una técnica de aprendizaje automático que entrena modelos con datos de varios dispositivos sin enviar esos datos a un servidor central) garantizan la rendición de cuentas y la alineación con los valores sociales.
Este enfoque descentralizado fomentará la confianza en el desarrollo y la implementación de la inteligencia artificial. Si damos prioridad a la transparencia, la rendición de cuentas y una gobernanza inclusiva, podemos crear un ecosistema de IA que respete la ética y sirva al interés colectivo.
4. Personalización sin algoritmos
En el futuro, las empresas deberían trabajar directamente con los consumidores para ofrecer una personalización auténtica, en lugar de depender únicamente de algoritmos. Entre los pasos clave para lograrlo se incluyen:
Partir de principios de diseño centrados en las personas para garantizar que se tengan en cuenta sus necesidades y comportamientos
Crear una experiencia omnicanal en todos los puntos de contacto con los clientes, garantizando la coherencia
Recopilar y atender tantos comentarios de los clientes como sea posible, y hacerles saber que se les escucha
Empoderar a los clientes para que personalicen por sí mismos sus aportaciones, recomendaciones e incluso productos
Los algoritmos son esenciales para la personalización, pero, cuando van demasiado lejos, pueden alienar y deshumanizar.
Uno de los cambios positivos que trajo consigo el auge de internet es que las personas pueden comunicar fácilmente sus deseos, necesidades y prioridades a las instituciones. Esta tendencia se acentuará a medida que los consumidores comprendan el impacto de la inteligencia artificial en sus decisiones.
Las empresas que aspiren a liderar la «era de la IA», que también podría llamarse «Ilustración digital», deberían anticiparse a este cambio y evolucionar de forma proactiva su enfoque de los datos de los clientes y la privacidad.
