Europa se convierte en la primera gran potencia mundial en aprobar regulaciones integrales sobre IA, que abarcan ámbitos como la transparencia, el uso de la IA en espacios públicos y los sistemas de alto riesgo.
Los modelos de alto impacto con riesgos sistémicos estarán sujetos a requisitos más estrictos, como la evaluación de modelos, la mitigación de riesgos y la notificación de incidentes.
Los gobiernos podrán utilizar el reconocimiento facial en tiempo real en casos limitados, quedando excluidas la manipulación cognitiva y la puntuación social.
La ley entrará en vigor dos años después de su ratificación formal, prevista para principios de 2024.
Europa alcanzó el viernes un acuerdo provisional sobre las históricas normas de la Unión Europea que regulan el uso de la inteligencia artificial, incluido el uso que hacen los gobiernos de la IA en la vigilancia biométrica, y la forma de regular sistemas de IA como ChatGPT.
Con el acuerdo político, la UE avanza hacia convertirse en la primera gran potencia mundial en aprobar leyes que regulen la IA. El acuerdo del viernes entre los países de la UE y los eurodiputados llegó tras casi 15 horas de negociaciones, que siguieron a un debate de casi 24 horas el día anterior.
Ambas partes se dispondrán a concretar los detalles en los próximos días, lo que podría cambiar la forma de la legislación final.
«Europa se ha posicionado como pionera, entendiendo la importancia de su papel como referente mundial en materia de normas. Creo que este es, en efecto, un día histórico», declaró el comisario europeo Thierry Breton en una rueda de prensa.
El acuerdo exige que los modelos fundacionales, como ChatGPT, y los sistemas de IA de propósito general (GPAI) cumplan con obligaciones de transparencia antes de comercializarse. Entre ellas figuran la elaboración de documentación técnica, el cumplimiento de la legislación de la UE en materia de derechos de autor y la difusión de resúmenes detallados sobre el contenido utilizado para el entrenamiento.
Los modelos fundacionales de alto impacto con riesgo sistémico deberán realizar evaluaciones de modelos, evaluar y mitigar los riesgos sistémicos, llevar a cabo pruebas adversariales, informar a la Comisión Europea sobre incidentes graves, garantizar la ciberseguridad e informar sobre su eficiencia energética.
¿Cómo crea el Foro Económico Mundial barreras de protección para la inteligencia artificial?
El Centre for AI Excellence conecta a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Apoya un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a los socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
Las GPAI con riesgo sistémico podrán basarse en códigos de buenas prácticas para cumplir con la nueva normativa.
Los gobiernos solo podrán utilizar la vigilancia biométrica en tiempo real en espacios públicos en casos de víctimas de determinados delitos, prevención de amenazas genuinas, presentes o previsibles, como los atentados terroristas, y búsqueda de personas sospechosas de los delitos más graves.
El acuerdo prohíbe la manipulación conductual cognitiva, la extracción indiscriminada de imágenes faciales de internet o de grabaciones de CCTV, la puntuación social y los sistemas de categorización biométrica para inferir creencias políticas, religiosas o filosóficas, la orientación sexual y la raza.
Los consumidores tendrían derecho a presentar reclamaciones y recibir explicaciones significativas, mientras que las multas por infracciones oscilarían entre 7,5 millones de euros (8,1 millones de dólares) o el 1,5 % de la facturación, hasta 35 millones de euros o el 7 % de la facturación mundial.
El grupo empresarial DigitalEurope criticó las normas por considerarlas una carga más para las empresas, que se suma a otra legislación reciente.
«Tenemos un acuerdo, pero ¿a qué precio? Apoyamos plenamente un enfoque basado en el riesgo según los usos de la IA, no la tecnología en sí, pero el intento de última hora de regular los modelos fundacionales ha dado la vuelta a la situación», declaró su directora general, Cecilia Bonefeld-Dahl.
El grupo de defensa de los derechos de privacidad European Digital Rights se mostró igualmente crítico.
«Es difícil entusiasmarse con una ley que, por primera vez en la UE, ha dado pasos para legalizar el reconocimiento facial público en tiempo real en todo el bloque», afirmó su asesora política sénior, Ella Jakubowska.
«Aunque el Parlamento luchó con firmeza para limitar el daño, el paquete general sobre vigilancia biométrica y elaboración de perfiles es, en el mejor de los casos, tibio».
Se espera que la legislación entre en vigor a principios del próximo año, una vez que ambas partes la ratifiquen formalmente, y que sea de aplicación dos años después.
Los gobiernos de todo el mundo buscan equilibrar las ventajas de una tecnología capaz de mantener conversaciones de tipo humano, responder preguntas y escribir código informático, con la necesidad de establecer barreras de protección.
Las ambiciosas normas de IA de Europa llegan en un momento en que empresas como OpenAI, en la que Microsoft (MSFT.O) es inversora, siguen descubriendo nuevos usos para su tecnología, lo que suscita tanto elogios como preocupaciones. Alphabet, propietaria de Google, (GOOGL.O) el jueves lanzó un nuevo modelo de IA, Gemini, para competir con OpenAI.
La ley de la UE podría convertirse en el modelo de referencia para otros gobiernos y en una alternativa al enfoque de intervención mínima de Estados Unidos y a las normas provisionales de China.
