La inteligencia artificial (IA) ya afecta a casi todos los aspectos de nuestras vidas, en el hogar, en el trabajo y en el ocio.
La gente desconfía de la forma en que las tecnologías de IA utilizan y aplican los datos que recopilan.
Singapur está desarrollando un marco y un conjunto de herramientas de pruebas de gobernanza de la IA que permite a los sectores demostrar el despliegue de una IA responsable mediante pruebas técnicas objetivas y verificaciones de procesos.
La inteligencia artificial (IA) se está volviendo omnipresente. Sustenta todo tipo de funciones, incluidas las críticas. Afecta a nuestro trabajo, a nuestra vida y a nuestro ocio. Se utiliza, por ejemplo, en imágenes médicas para detectar enfermedades graves y, mediante el reconocimiento facial, para desbloquear un teléfono inteligente.
No obstante, en algunos casos, los resultados de los modelos de IA no se comportan como se pretendía. Cuando el modelo de IA no se entrena ni se prueba con conjuntos de datos representativos, por ejemplo, puede haber sesgos contra determinadas poblaciones.
Con una mayor madurez y una adopción más generalizada de la IA, la sociedad necesita tener la garantía de que los sistemas de IA son justos, explicables y seguros, y de que las empresas que los despliegan son responsables y transparentes sobre su uso. Entonces, ¿cómo pueden las empresas demostrar a sus partes interesadas la implementación de una IA responsable de forma objetiva y verificable?
Autoevaluación voluntaria de la IA
En Singapur, creemos que la autoevaluación voluntaria es un comienzo. La Autoridad de Desarrollo de los Medios de Comunicación y las Infocomunicaciones (IMDA) y la Comisión de Protección de Datos Personales (PDPC) han dado el primer paso al desarrollar A.I. Verify. Se trata de un marco y un conjunto de herramientas de pruebas de gobernanza de la IA que permite a los sectores ser más transparentes sobre el despliegue de la IA mediante pruebas técnicas y verificaciones de procesos.
A.I. Verify tiene dos componentes. En primer lugar, el marco de pruebas de gobernanza especifica los criterios comprobables y los procesos correspondientes necesarios para llevar a cabo la prueba. En segundo lugar, el conjunto de herramientas de software realiza pruebas técnicas y registra los resultados de las verificaciones de procesos.
Disponible como producto mínimo viable (MVP), las empresas pueden utilizar A.I. Verify para demostrar lo que pueden hacer sus sistemas de IA y qué medidas se han adoptado para mitigar los riesgos de sus sistemas de IA. Los informes de pruebas de A.I. Verify mantienen mejor informadas a las partes interesadas de la empresa sobre las capacidades de los sistemas de IA con los que interactúan. Este proceso aporta transparencia y ayuda a generar confianza en la IA.
A.I. Verify no establece normas éticas. Valida las afirmaciones de las empresas sobre sus sistemas de IA frente a un conjunto de principios de gobernanza de la IA aceptados internacionalmente en torno a los cuales convergen los países y en los que también se sustentan las iniciativas de gobernanza de la IA de Singapur. Estos principios, organizados según las preocupaciones de las personas sobre los sistemas de IA, se muestran en el diagrama siguiente. Para el MVP, hemos seleccionado un conjunto inicial de ocho principios (en verde). Los regímenes de pruebas de seguridad y de gobernanza de datos (incluida la privacidad) están bien desarrollados a nivel internacional y, por ello, no se incluyen en el piloto actual.
Invitación a las empresas a participar en el piloto
Con este MVP, Singapur invita a las empresas a participar en el piloto internacional y espera alcanzar los siguientes objetivos:
Mejorar el MVP para garantizar que satisface las necesidades del sector: Invitamos a los sectores a aportar comentarios sobre el marco y el conjunto de herramientas de software para que A.I. Verify satisfaga las necesidades del sector de generar confianza entre sus partes interesadas internas y externas.
Contribuir al desarrollo de normas internacionales de IA: Mediante la participación del sector en este piloto, Singapur pretende trabajar con los propietarios y desarrolladores de sistemas de IA de todo el mundo para recopilar las mejores prácticas del sector y elaborar puntos de referencia. Estos, a su vez, pueden compartirse con los organismos de normalización internacionales como contribución de Singapur al desarrollo de normas internacionales de IA.
Facilitar la interoperabilidad de los marcos de gobernanza de la IA: La IMDA trabaja con reguladores y organismos de normalización para asignar A.I. Verify a marcos de IA establecidos con el fin de crear interoperabilidad. Esto ayudará a las empresas que ofrecen productos y servicios habilitados por IA en varios mercados a cumplir de forma más eficiente los requisitos regulatorios de dichos mercados.
Crear juntos una comunidad de pruebas de IA: Lograr una IA fiable es un imperativo mundial, pero es necesario seguir trabajando en el desarrollo de mejores prácticas, normas y métodos para verificar la IA fiable. Singapur espera seguir colaborando con socios afines, como el sector, los responsables políticos y la sociedad civil, para garantizar la pertinencia de esta iniciativa para las personas y organizaciones que se benefician de la IA.
A medida que más desarrolladores y propietarios de sistemas de IA utilicen A.I. Verify, podremos recopilar colectivamente y desarrollar conjuntamente puntos de referencia para los niveles aceptables de cumplimiento de los principios de gobernanza de la IA en diferentes sectores y casos de uso. También podemos trabajar con proveedores de soluciones tecnológicas para identificar lagunas y oportunidades de desarrollo en los métodos y tecnologías actuales de prueba de modelos de IA, y diseñar mejores formas de verificar la IA fiable.
Un elemento clave para generar confianza es comunicar de forma eficaz a todas las partes interesadas el comportamiento de las aplicaciones de IA. Las partes interesadas incluyen a reguladores, miembros de consejos de administración, alta dirección, socios comerciales, auditores, clientes y consumidores. Todos ellos necesitan información diferente, con distintos niveles de detalle y perspectivas, para facilitar su toma de decisiones. Por ello, deben desarrollarse plantillas de informes personalizadas que atiendan las necesidades específicas de información de las partes interesadas.
Estos objetivos no pueden alcanzarse sin la sabiduría y los esfuerzos colectivos de la comunidad en general. Como parte de la creación de comunidad, IMDA/PDPC organizará mesas redondas en las que el sector podrá dialogar con los reguladores sobre el pensamiento político temprano, así como talleres específicos por sector para alcanzar un consenso sobre los puntos de referencia del sector para una IA fiable. Estos puntos de referencia pueden compartirse con los organismos de normalización internacionales como contribución de la comunidad al debate mundial sobre la elaboración de normas.
Conclusión
Los principios de ética de la IA pueden ser universales, pero a menudo su interpretación y aplicación están influidas por variaciones culturales y geográficas. Estas variaciones pueden dar lugar a marcos de gobernanza de la IA fragmentados, lo que, a su vez, puede suponer obstáculos para que las empresas implementen una IA fiable y limitar su capacidad para ofrecer productos y servicios habilitados por IA a través de las fronteras.
A.I. Verify es el primer paso de Singapur para identificar y definir una forma objetiva y verificable de validar el rendimiento de los sistemas de IA. El piloto internacional facilitará la recopilación y el desarrollo de puntos de referencia del sector para los principios de ética de la IA. Esperamos seguir trabajando con socios afines en este viaje de aprendizaje y poner a prueba A.I. Verify.
