A medida que los sistemas de aprendizaje automático asumen la responsabilidad de tomar más decisiones que afectan a las personas y al medio ambiente, garantizar el uso seguro de la IA es una prioridad.
La próxima Ley de IA de la UE probablemente establecerá un estándar mundial de facto para regular el uso de la IA.
El objetivo de la Práctica Recomendada de DNV para la «Aseguración de sistemas habilitados para IA» es demostrar la conformidad con la Ley de IA de la UE.
Las tecnologías de inteligencia artificial (IA) tienen un enorme potencial para impulsar las empresas, mejorar la vida de las personas y abordar los desafíos globales. Al ser capaces de aprender de los datos, ofrecen oportunidades para crear sistemas de aprendizaje automático a medida que se dispone de nuevos datos. Esta capacidad de aprender dinámicamente y mejorar el rendimiento ofrece ventajas y oportunidades que no son fáciles de alcanzar con los programas de software convencionales.
Los primeros usos de la IA se centraron principalmente en sistemas como los chatbots y los sistemas automatizados de recomendación para consumidores, que no se consideraba que entrañaran un alto riesgo si la IA no tomaba buenas decisiones. Sin embargo, a medida que los sistemas de aprendizaje automático asumen cada vez más la responsabilidad de tomar decisiones que, en última instancia, pueden afectar a la seguridad del personal, los activos o el medio ambiente, garantizar el uso seguro de la IA se ha convertido en una prioridad.
La IA también plantea nuevos desafíos éticos. Al basarse en datos, puede reforzar comportamientos poco éticos o sesgos presentes en ellos. Los usos no previstos, como la manipulación de las funciones de recompensa y los deepfakes, ponen de relieve la necesidad de abordar el uso ético y responsable de la IA.
Los avances recientes en IA generativa, como ChatGPT, muestran una creatividad casi humana, lo que aumenta el impacto potencial en las partes interesadas. En este contexto, los métodos convencionales de aseguramiento de la calidad y de pruebas no son suficientes.
Para garantizar un uso seguro y fiable de la IA, es necesario contar con varios elementos:
Regulaciones pertinentes y requisitos adecuados para la IA;
Comprensión de los sistemas con IA integrada;
Aseguramiento adecuado.
Regulaciones pertinentes para la IA
La Ley de IA de la UE probablemente establecerá un estándar mundial de facto para regular el uso de la IA. El principal objetivo de la Ley de IA es acelerar el desarrollo y la adopción de la IA, y garantizar que su uso se ajuste a los valores de la UE. Ante la expectativa de que la IA se regule en algún momento, esta próxima normativa elimina la incertidumbre regulatoria y crea condiciones equitativas para el sector.
La Ley de IA establece requisitos específicos tanto para los desarrolladores como para los usuarios de IA durante todo su ciclo de vida. Se centra en los aspectos éticos, jurídicos y técnicos de su uso. Para las aplicaciones de IA de alto riesgo, también hay requisitos adicionales para la evaluación de la conformidad. Sin embargo, la Ley de IA no ofrece directrices específicas sobre cómo demostrar dicha conformidad en la práctica.
Por ello, DNV ha elaborado una nueva Práctica Recomendada (RP) titulada «Aseguración de sistemas habilitados para IA». Esta RP responde a la Ley de IA de la UE y a la necesidad de los clientes de confiar en sistemas con IA integrada. La RP ofrece una perspectiva amplia y profunda sobre cómo generar confianza en la IA: aborda las distintas dimensiones de la confianza contempladas en la Ley de IA (técnicas y no técnicas) y describe una forma práctica de generarla mediante un razonamiento basado en evidencias sobre las afirmaciones. La RP se someterá a consulta externa en el primer trimestre de 2023.
Comprensión de los sistemas con IA integrada
Un aspecto clave de la RP es adoptar un enfoque de sistemas para comprender la IA y las posibles consecuencias que su uso puede tener en el mundo real. Los sistemas con IA integrada pueden ser ciberfísicos (buques, aerogeneradores, redes eléctricas, dispositivos médicos, etc.) o puramente digitales (gemelos digitales, cadenas de bloques, etc.). En ambos casos, nos interesan, en última instancia, las consecuencias en el mundo real para las personas, los activos y el medio ambiente. Cabe destacar que nuestra RP sobre IA forma parte de un conjunto más amplio de mecanismos que DNV utiliza para asegurar los componentes fundamentales de las aplicaciones de digitalización industrial, que incluye RP sobre la calidad de los datos, los algoritmos, los sistemas de sensores, los modelos de simulación y la solidez de la ciberseguridad.
¿Cómo garantiza el Foro Económico Mundial el desarrollo ético de la inteligencia artificial?
Los sistemas con IA integrada suelen ser complejos y su comportamiento resulta difícil de explicar por completo. Además, la interacción entre los aspectos técnicos, éticos y jurídicos de la tecnología añade complejidad. Su naturaleza dinámica plantea dificultades prácticas para mantener vigente nuestra comprensión durante el uso de la IA. Por ello, es necesario considerar todo el sistema en el que funciona la IA para comprender mejor las posibles consecuencias (tanto positivas como negativas) durante su uso.
Aseguramiento adecuado
El enfoque de aseguramiento descrito en nuestra RP es genérico y no está vinculado a ninguna jurisdicción jurídica ni marco regulatorio específico, pero uno de sus objetivos ha sido permitir demostrar la conformidad con los requisitos de la Ley de IA de la UE mediante el uso de la RP.
El aseguramiento consiste en establecer una confianza justificada en que se cumplen los requisitos, de modo que se genere confianza entre las partes interesadas afectadas por el sistema habilitado para IA. En la RP hemos utilizado un enfoque basado en afirmaciones y evidencias, en el que los requisitos regulatorios y de otro tipo se formulan como afirmaciones. Estas se validan posteriormente en función de los intereses de las partes interesadas involucradas. De este modo, es posible identificar y corregir afirmaciones injustificadas o irrelevantes. Se recopilan evidencias para verificar, con suficiente confianza, si una afirmación es cierta, y estas constituyen la base de la evaluación de la conformidad.
