La inteligencia artificial (IA) impulsa avances impresionantes en muchos sectores. Garantizar que los sistemas de IA se implementen de forma responsable es un desafío urgente.
Los programas de certificación de sistemas de IA deberían ser una parte fundamental de cualquier enfoque regulatorio.
Deberían ser desarrollados por expertos en la materia, gestionados por terceros independientes y contar con registros auditables.
Garantizar que los sistemas de inteligencia artificial (IA) se implementen de forma responsable es un desafío urgente. La inversión privada en IA se duplicó entre 2020 y 2021 y se prevé que el mercado de la IA crezca a una tasa de crecimiento anual compuesta del 38.1% hasta 2030. La IA impulsa rápidamente avances impresionantes en muchos sectores. Por ejemplo, la innovadora publicación de DeepMind de predicciones de IA sobre las estructuras de casi todas las proteínas conocidas probablemente dará lugar a grandes avances en el descubrimiento de fármacos, la respuesta a pandemias y la innovación agrícola.
Sin embargo, los sistemas de IA pueden ser difíciles de interpretar y dar lugar a resultados impredecibles. La adopción de la IA también puede exacerbar las disparidades de poder existentes. A medida que aumenta el ritmo de adopción de la IA, los legisladores trabajan arduamente para establecer las salvaguardias adecuadas. Esto exige equilibrar la promoción de la innovación con la reducción de los daños, comprender los efectos de la IA en innumerables contextos y adoptar una visión a largo plazo para abordar el «problema del ritmo» de la IA, que avanza más rápido de lo que la sociedad puede regular sus efectos.
Programas de certificación de sistemas de IA
Los programas de certificación de sistemas de IA deberían ser una parte fundamental de cualquier enfoque regulatorio de la IA, ya que pueden ayudar a alcanzar todos estos objetivos. Para ser reconocidos como autoridad, deberían ser desarrollados por expertos en la materia, gestionados por terceros independientes y contar con registros auditables.
La implementación responsable de la IA significa cosas distintas en contextos diferentes. Un chatbot para inscribirse en un seguro de salud es muy distinto de un coche autónomo. Al certificar un sistema de IA, una organización podrá demostrar a los consumidores, socios comerciales y reguladores que el sistema cumple la normativa aplicable, se ajusta a las normas pertinentes y satisface los requisitos de calidad y pruebas de IA responsable que correspondan.
En otros ámbitos, los programas de certificación y otros mecanismos de «derecho indicativo» han complementado con éxito la legislación y contribuido a mejorar las normas transnacionales. La certificación Fairtrade para el café garantiza a los compradores que los agricultores que cultivan el grano recibieron un precio adecuado y aplicaron determinadas normas sociales y medioambientales en sus prácticas agrícolas. La certificación de pesca segura para los delfines en el caso del atún indica el cumplimiento de las leyes y las prácticas concebidas para evitar la muerte accidental de delfines durante la pesca del atún. La certificación LEED (Liderazgo en Energía y Diseño Ambiental) otorga las categorías Platino, Oro, Plata y Certificado como prueba del diseño, la construcción y el funcionamiento ecológicos de edificios.
Del mismo modo, los programas de certificación de IA podrían complementar la legislación y mejorar las normas transnacionales en muchos sectores, al tiempo que abordan las complejidades adicionales de los sistemas de IA.
Al certificar sus sistemas automatizados de concesión de préstamos, las instituciones financieras podrían indicar a los consumidores y reguladores que dichos sistemas son fiables, justos, auditables y capaces de explicar en lenguaje sencillo su funcionamiento y las decisiones que toman sobre las solicitudes de préstamo. Las empresas que adquieren sistemas automatizados de selección de personal podrían optar por comprar únicamente sistemas certificados para garantizar la supervisión continua de los sesgos, un proceso de adaptación razonable y el cumplimiento de las leyes y de mecanismos significativos de notificación y recurso. Las organizaciones que desarrollan aplicaciones que utilizan las cámaras de los teléfonos inteligentes para detectar automáticamente enfermedades cutáneas podrían recurrir a la certificación para demostrar a los consumidores que las soluciones son justas, fiables y se ajustan a las mejores prácticas emergentes.
Cómo aprovechar los beneficios sociales de los programas de certificación de IA
Dada la escala y el ritmo de adopción de la IA, muchos de los sistemas que se están implementando en todo el mundo podrían resultar ineficaces, inseguros o sesgados. Sin mecanismos regulatorios eficaces y duraderos —incluidos los mecanismos de derecho indicativo—, las personas, las empresas y los reguladores no podrán distinguir fácilmente esos sistemas de los sistemas de IA fiables.
Ha llegado el momento de que las organizaciones de la sociedad civil, las empresas y los legisladores consideren el potencial de los programas de certificación de IA responsable. Las organizaciones de la sociedad civil pueden asumir un papel de liderazgo desarrollando programas de certificación que tengan en cuenta la naturaleza dinámica de la IA y velando por que incorporen los intereses de las personas marginadas. Los líderes empresariales están bien posicionados para aportar conocimientos especializados, acceso y recursos que impulsen el desarrollo de programas de certificación independientes, pues conocen las deficiencias de implementación y las mejores prácticas para una adopción responsable de la IA.
¿Cómo garantiza el Foro Económico Mundial que la inteligencia artificial se desarrolle en beneficio de todas las partes interesadas?
Los legisladores de la Unión Europea, Estados Unidos y Canadá están a punto de promulgar requisitos legales amplios para los sistemas de IA, basados en los principios de IA responsable articulados por la comunidad internacional. Al incorporar programas de certificación y otros mecanismos de derecho indicativo como complemento de los requisitos legales para los sistemas de IA, los legisladores pueden garantizar que los objetivos legislativos se reflejen en requisitos para casos de uso específicos de la IA en distintos sectores. Los legisladores pueden financiar proyectos piloto de instrumentos de derecho indicativo para la IA en distintos sectores, estudiar cuidadosamente el desarrollo de mercados para la certificación, acreditación y auditoría de IA, y encargar a los departamentos gubernamentales que den ejemplo exigiendo o desarrollando programas de certificación para la contratación pública.
Hay indicios de avances en el ámbito regulatorio. Un primer borrador de la propuesta de Ley de IA de la UE reconoce el papel de los mecanismos de derecho indicativo. Según el borrador, armonizar los sistemas de IA con las normas de IA desarrolladas por las organizaciones europeas de normalización podría ayudar a demostrar el cumplimiento de la ley. En diciembre de 2021, el Centro de Ética de Datos e Innovación del Reino Unido publicó una hoja de ruta para crear mercados eficaces de aseguramiento y certificación de sistemas de IA.
La transformación notable y acelerada de nuestra sociedad impulsada por la IA exige adoptar una respuesta regulatoria flexible y duradera. Los programas de certificación de sistemas de IA deberían ser un elemento esencial de esa respuesta.
