Los gobiernos compiten por regular la IA.
La transparencia, la seguridad y la equidad son ámbitos clave en los que se centran las propuestas de regulación de la IA.
Los enfoques actuales de caja negra, incluidos los grandes modelos de lenguaje y otras técnicas generativas, difícilmente cumplirán la normativa en una serie de casos de uso
El Gobierno del Reino Unido publicó recientemente un libro blanco en el que describe su enfoque de regulación de la IA. El objetivo del documento es “garantizar que existan salvaguardas en torno al uso de las tecnologías de IA, permitiendo al mismo tiempo que la innovación continúe y que los beneficios lleguen ampliamente a la sociedad”. El enfoque está muy alineado con los objetivos de la Ley de Inteligencia Artificial (IA) de la UE, tal como se describió en un artículo anterior de Agenda, así como en los recientes anuncios de la Casa Blanca.
La mayoría de las normativas intentan abordar problemas fundamentales similares en materia de IA. Tomaremos el Reino Unido como ejemplo de las principales áreas de interés en la regulación de la IA. Existen cinco principios clave:
1. Seguridad, protección y solidez
2. Transparencia y explicabilidad
3. Equidad
4. Rendición de cuentas y gobernanza
5. Impugnabilidad y reparación
Para las empresas que quieran usar la IA en sus decisiones más importantes, cumplir este conjunto de requisitos resultará cada vez más difícil, sobre todo con el conjunto actual de enfoques de IA de caja negra. Incluso las áreas más prometedoras, como la IA generativa, incluidos los grandes modelos de lenguaje (LLM), están todavía muy lejos de cumplir estos requisitos. Recientemente, por ejemplo, ChatGPT dio un consejo erróneo sobre el cáncer de mama, lo que podría haber tenido un impacto significativo si se hubiera utilizado para tomar decisiones. Por tanto, las empresas que quieran disfrutar del conjunto completo de beneficios que puede ofrecer la IA quizá deban mirar más allá.
¿Qué es la IA causal?
La IA causal es un ámbito emergente dentro del campo más amplio de la IA. Se alinea muy bien, de forma natural, con los principios anteriores. La idea clave de la IA causal consiste en aprender las relaciones de causa y efecto dentro de los datos y utilizarlas para orientar los resultados de los modelos de IA. Esto difiere enormemente del enfoque que adoptan los modelos de aprendizaje automático (ML) más avanzados en la actualidad, como los LLM: consumen grandes cantidades de datos, aprenden los patrones y predicen el siguiente patrón.
La IA causal es un ámbito emergente dentro del campo más amplio de la IA. Se alinea muy bien, de forma natural, con los principios anteriores. La idea clave de la IA causal consiste en aprender las relaciones de causa y efecto dentro de los datos y utilizarlas para orientar los resultados de los modelos de IA. Esto difiere enormemente del enfoque que adoptan los modelos de aprendizaje automático (ML) más avanzados en la actualidad, como los LLM: consumen grandes cantidades de datos, aprenden los patrones y predicen el siguiente patrón.
Una forma de entender los LLM es que, en lugar de ofrecer una respuesta a una pregunta, lo que en realidad indican es “cuando la gente hace preguntas de este tipo, así suelen ser las respuestas que dan otras personas”. Esto explica por qué los LLM tienden a ‘alucinar’ cuando se les pide información objetiva. Los LLM y otros modelos generativos pueden mejorar notablemente la productividad cuando se usan, por ejemplo, para mejorar un texto existente o generar una obra artística. Sin embargo, usar estas herramientas para decisiones de misión crítica dentro de la empresa supone un reto importante y es poco probable que se ajuste a la normativa que se avecina.
En cambio, los modelos de IA causal son explicables por naturaleza debido a la forma en que se construyen. Es posible consultarlos para obtener explicaciones sobre por qué se llegó a un resultado concreto, y su equidad y sesgo pueden evaluarse fácilmente. Además, los modelos suelen construirse con un enfoque guiado por personas que aporta rendición de cuentas, gobernanza, impugnabilidad y reparación.
¿Qué problemas puede ayudar a resolver la IA causal?
El conjunto de herramientas de IA causal es uno del que las empresas pueden beneficiarse de forma notable. La IA causal también apareció recientemente en el Gartner® Hype Cycle™ for Emerging Technologies, 2022.
Los tipos de preguntas a las que los modelos de IA causal están bien preparados para responder incluyen:
• ¿Debo aprobar o rechazar esta solicitud de préstamo y, en caso afirmativo, por qué?
• ¿Qué hace que mis clientes abandonen la empresa y qué medidas puedo tomar para que se queden?
• ¿Qué causó este problema en mi planta de fabricación y qué medidas puedo tomar para evitar problemas futuros?
Ejemplos de dónde se está desplegando hoy la IA causal:
Sanidad
La IA causal puede ayudar a identificar las causas y los efectos de diversas afecciones médicas y resultados de tratamiento. Por ejemplo, puede simular el impacto de distintas intervenciones terapéuticas en los resultados de los pacientes, lo que permite a los profesionales sanitarios evaluar la eficacia de opciones de tratamiento alternativas y tomar decisiones informadas sobre la atención al paciente.
Finanzas
La IA causal puede contribuir a la evaluación de riesgos y a la toma de decisiones en el sector financiero. Puede analizar las relaciones causales entre factores económicos, acontecimientos de mercado y resultados de inversión. Por ejemplo, puede aportar información sobre las causas de la volatilidad de los mercados, evaluar el impacto de los cambios regulatorios en los mercados financieros y ayudar a identificar los factores que contribuyen a las actividades fraudulentas.
Fabricación
La IA causal puede utilizarse para optimizar los procesos de fabricación y prevenir problemas. Puede simular los efectos de ajustes de procesos, actualizaciones de equipos o cambios en la cadena de suministro para identificar las intervenciones más eficaces que mejoren la calidad del producto, reduzcan los defectos y optimicen la eficiencia de la producción.
Experiencia del cliente
La IA causal puede desempeñar un papel fundamental en la comprensión del comportamiento de los clientes y en la mejora de su satisfacción. Puede identificar los factores que impulsan el abandono de clientes, determinar los factores causales que explican sus preferencias y sugerir intervenciones personalizadas para mejorar la experiencia del cliente. Esto puede ayudar a las empresas a adaptar sus productos, servicios y estrategias de marketing para satisfacer las necesidades de los clientes de forma más eficaz.
¿Por qué la IA causal cobrará cada vez más importancia?
Las empresas que deseen convertirse plenamente en organizaciones basadas en datos, al tiempo que cumplen la normativa necesaria, deben utilizar el conjunto completo de técnicas de IA disponibles. La IA generativa debe formar parte de ello, pero no abarca el conjunto completo de casos de uso en los que las empresas pueden marcar una diferencia real. La IA causal permitirá a las empresas empezar a crear soluciones que puedan utilizarse para sus tareas más críticas, incluidas las decisiones que tienen un fuerte impacto en sus clientes y en la sociedad en general.
GARTNER es una marca comercial registrada y una marca de servicio de Gartner, Inc. y/o sus filiales en Estados Unidos y a nivel internacional, y HYPE CYCLE es una marca comercial registrada de Gartner, Inc. y/o sus filiales, y se utilizan aquí con permiso. Todos los derechos reservados.
