Los legisladores de la UE han acordado introducir cambios en el proyecto de normas sobre inteligencia artificial.
Los cambios incluyen la prohibición del uso de la IA en la vigilancia biométrica y la obligación de que los sistemas de IA generativa revelen el contenido generado por IA.
Las enmiendas al proyecto de normas siguen sujetas a negociaciones entre los legisladores de la UE y los Estados miembros de la UE.
La UE espera que el proyecto de normas se convierta en ley antes de que finalice 2023.
El miércoles, los legisladores de la Unión Europea acordaron modificar el proyecto de normas sobre inteligencia artificial para incluir la prohibición del uso de esta tecnología en la vigilancia biométrica y la obligación de que los sistemas de IA generativa, como ChatGPT, revelen el contenido generado por IA.
Las enmiendas a la propuesta de la Comisión de la UE de ley histórica destinada a proteger a los ciudadanos de los peligros de la tecnología podrían provocar un enfrentamiento con los Estados miembros de la UE que se oponen a una prohibición total del uso de la IA en la vigilancia biométrica.
La rápida adopción de ChatGPT, de OpenAI respaldada por Microsoft, y de otros bots ha llevado a destacados científicos de la IA y directivos de empresas, entre ellos Elon Musk, de Tesla, y Sam Altman, de OpenAI, a advertir sobre los riesgos potenciales que plantea para la sociedad.
"Mientras las grandes tecnológicas dan la voz de alarma sobre sus propias creaciones, Europa ha seguido adelante y ha propuesto una respuesta concreta a los riesgos que la IA empieza a plantear", declaró Brando Benifei, ponente conjunto de la ley.
Entre otros cambios, los legisladores de la Unión Europea quieren que cualquier empresa que utilice herramientas generativas revele el material protegido por derechos de autor utilizado para entrenar sus sistemas, y que las empresas que trabajan en "aplicaciones de alto riesgo" realicen una evaluación del impacto en los derechos fundamentales y evalúen el impacto ambiental.
Los sistemas como ChatGPT tendrían que revelar que el contenido fue generado por IA, ayudar a distinguir las denominadas imágenes falsas (deep fakes) de las reales y garantizar salvaguardas frente a contenidos ilegales.
Microsoft (MSFT.O) e IBM (IBM.N) acogieron con satisfacción la última medida de los legisladores de la UE, pero esperan que la legislación propuesta siga perfeccionándose.
"Creemos que la IA requiere barreras legislativas, esfuerzos de armonización a nivel internacional y acciones voluntarias significativas por parte de las empresas que desarrollan y despliegan la IA", afirmó un portavoz de Microsoft.
Los legisladores tendrán ahora que ultimar los detalles con los Estados miembros de la UE antes de que el proyecto de normas se convierta en legislación.
"La IA es intrínsecamente buena"
Mientras que la mayoría de las grandes tecnológicas reconocen los riesgos que plantea la IA, otras, como Meta (META.O), propietaria de Facebook e Instagram, han desestimado las advertencias sobre los peligros potenciales.
"La IA es intrínsecamente buena, porque su efecto es hacer que las personas sean más inteligentes", declaró Yann LeCun, científico jefe de IA de Meta, en una conferencia celebrada en París el miércoles.
En el proyecto actual de ley de la UE, se han añadido a la lista de alto riesgo los sistemas de IA que podrían utilizarse para influir en los votantes y en el resultado de las elecciones, así como los sistemas utilizados por plataformas de redes sociales con más de 45 millones de usuarios.
Meta y Twitter entrarán en esa clasificación.
"La IA plantea muchas cuestiones: sociales, éticas y económicas. Pero ahora no es el momento de pulsar ningún 'botón de pausa'. Por el contrario, se trata de actuar con rapidez y asumir responsabilidades", declaró Thierry Breton, director de Industria de la UE.
Afirmó que viajará a Estados Unidos la próxima semana para reunirse con Mark Zuckerberg, consejero delegado de Meta, y con Altman, de OpenAI, para debatir el proyecto de Ley de IA.
La Comisión anunció el proyecto de normas hace dos años, con el objetivo de establecer un estándar global para una tecnología clave en prácticamente todos los sectores y empresas, mientras la UE trata de alcanzar a los líderes en IA, Estados Unidos y China.
