La IA ha llegado y debemos regularla.
Pero regular la IA es difícil porque, como muchas tecnologías, la IA no es intrínsecamente buena ni mala.
La naturaleza inherente y la rápida evolución de la IA exigen que las normativas evolucionen continuamente y se centren en sus resultados, lo que requiere una vigilancia permanente.
Es poco probable que la inteligencia artificial (IA) destruya a la humanidad, pero ya está provocando trastornos sociales en la industria, el gobierno, la educación y las artes creativas. Ya se culpa a los «deepfakes» de medios políticos falsos. La IA ha llegado y debemos regularla. Pero regular la IA es difícil porque, como muchas tecnologías, la IA no es intrínsecamente buena ni mala. Depende de cómo se utilice.
La UE emitió recientemente normas sobre la IA, clasificando su uso en niveles. Estos abarcan desde los usos de riesgo inaceptablemente alto y prohibidos hasta las aplicaciones de riesgo mínimo y con regulación ligera. Aunque se trata de un marco útil y fácil de conceptualizar, determinar los niveles de riesgo no es sencillo. La mejor regulación no se centra en las herramientas de IA, sino en sus usuarios y en su uso. Aplicamos este mismo método a la regulación de los cuchillos. Las normas previas no van a ser suficientes. En cambio, debemos examinar continuamente los resultados de la IA.
Muchas normativas tradicionales especifican de antemano qué está permitido y qué no. Existen límites, por ejemplo, a la cantidad de un producto químico que puede utilizarse en un proceso determinado. Estas normas son fáciles de entender y de cumplir para los usuarios. Pero la naturaleza de la IA significa que no podemos depender de este tipo de regulación. La IA no es solo una tecnología de caja negra, opaca para los ajenos; sus resultados son desconocidos incluso para sus creadores. Se basa en el aprendizaje y produce una forma de «comportamiento emergente» que no puede conocerse a priori. Para complicar aún más las cosas, el proceso de aprendizaje también es incierto, lo que da lugar a riesgos inherentes de sesgos basados en los datos de entrenamiento.
¿Cómo está creando el Foro Económico Mundial salvaguardas para la inteligencia artificial?
El Centro de Excelencia en IA reúne a líderes de distintos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Favorece un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculadas a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a los socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
Abordar estos desafíos requiere una regulación de la IA basada en al menos tres conjuntos de principios:
1. Trazabilidad
En primer lugar, debe existir trazabilidad de la IA, que abarque sus aplicaciones e interacciones. Incluso cuando las empresas externalizan servicios o tienen una cadena de suministro amplia, cada capa debe cumplir individualmente y en conjunto.
Si a alguien se le deniega de forma inadecuada un préstamo y en ese proceso interviene la IA, debemos saber qué causó ese resultado. La trazabilidad está vinculada a la comprobabilidad – ¿fue ese el resultado correcto?
2. Comprobabilidad
La comprobabilidad es una cuestión compleja que exige una vigilancia perpetua y no puede someterse a prueba con un conjunto de datos predefinido. Si así fuera, las empresas podrían manipular el sistema. Y, si nos preocupa que la IA pueda manipular el sistema de pruebas, el primer mandato para la IA debería ser la honestidad al informar sobre lo que hace. Ya existen casos de sistemas de IA que descubren cómo mentir para aumentar sus probabilidades de éxito en sus objetivos, sin programación ni solicitudes de mentir por parte de los creadores o usuarios.
3. Responsabilidad
En tercer lugar, necesitamos un sistema de responsabilidad que desincentive el fraude o que simplemente trate las sanciones como un coste de hacer negocios. Si las normativas sobre IA son económicamente lo bastante severas, los usuarios se preocuparán por el uso y los resultados de la IA.
Algunos aspectos de estos tres principios normativos están parcialmente cubiertos en otros ámbitos, pero los marcos regulatorios de propósito general no están diseñados para la velocidad, el volumen y la opacidad de la IA. Por ejemplo, existen leyes sobre propiedad intelectual, pero la mayoría de los sistemas de IA se entrenan con la web pública. Aunque la web sea en apariencia pública, es posible que los titulares de los contenidos no quieran que se utilice para entrenar sistemas de IA; las empresas de medios, por ejemplo, están ahora demandando a las empresas de IA al respecto. Como subconjunto de la trazabilidad, es posible que necesitemos normativas que abarquen también los datos de entrada.
La regulación de los algoritmos es un punto de partida útil para regular la IA, pero solo unos pocos países regulan siquiera los algoritmos. Canadá lo hace mejor que la mayoría de los países. Amplía la regulación de los algoritmos para incluir la IA y se centra en los impactos, examinando “Tipo de automatización (total o parcial); duración y reversibilidad de la decisión; y ámbitos afectados (por ejemplo, derechos, privacidad y autonomía, salud, intereses económicos, medio ambiente).”
Centrarse en los impactos, es decir, la regulación a posteriori, no es algo nuevo. Los medicamentos se regulan para su autorización y, además, se supervisan intensamente después. De forma similar, los algoritmos están sujetos a escrutinio –o al menos deberían estarlo– por los resultados que producen. Por ejemplo, ¿deniegan los bancos préstamos o los sistemas de bienestar social prestaciones a las madres solteras de forma discriminatoria?
Las normativas no evitarán los problemas derivados de la IA, por lo que también debemos diseñar sistemas de IA capaces de gestionar los fallos. Los ciudadanos deben disponer de vías de recurso frente a las decisiones adoptadas mediante IA, por ejemplo, una denegación de préstamo. Incluso sin IA, a los solicitantes de préstamos denegados a menudo no se les dan motivos suficientes. Corregir estas asimetrías de poder requiere una regulación más amplia, como la mejora de los derechos de los consumidores y de la ciudadanía, un desafío que va más allá de la IA.
Los críticos temen que las normativas estrictas ahoguen a una industria incipiente. No solo este temor carece de fundamento, sino que la falta de regulación genera en realidad más incertidumbre y riesgos sin límite definido. La responsabilidad no se traduce en normativas o cargas inherentemente nuevas: ya imponemos responsabilidades por amenazas, fraude, discriminación, infracción de derechos de autor, etc. Cabe señalar que la trazabilidad y la comprobabilidad no exigen la explicabilidad, el santo grial de los sistemas de IA, que resultaría gravosa en el futuro previsible.
Las empresas que utilizan IA también quieren protección. Un marco tradicional ha ofrecido a las empresas tecnológicas «puerto seguro» para determinadas actividades permitidas. Un proveedor de servicios de Internet no es responsable de que cualquier usuario final infrinja la ley utilizando sus servicios, por ejemplo, empleando una plataforma social en línea para vender copias ilegales de películas. Los tecnólogos de la IA deberían disfrutar de estas protecciones, pero la condición es que, una vez detectada una infracción, la entidad está obligada a actuar al respecto, como ocurre hoy con las notificaciones de retirada de contenido ilegal alojado en una plataforma de Internet. La experiencia de la Electronic Frontier Foundation muestra que las notificaciones de retirada suelen ser erróneas o estar sujetas a abusos, pero el principio de retirada a posteriori sigue siendo valioso.
Los bancos nos dieron el «demasiado grande para caer». La IA no debería dar lugar a un «demasiado integrado para corregirlo» (sin apagarlo todo). Las empresas que utilizan herramientas de IA en sus procesos deberían demostrar que las han hecho modulares, de modo que puedan desactivar o sustituir los componentes pertinentes si se produce una infracción sin poner en peligro el sistema en su conjunto.
Regular la IA se enfrenta a otros desafíos similares a los de la regulación de Internet, como las cuestiones de soberanía, jurisdicción y dominio. La transparencia y la armonización de las normativas pueden ayudar hasta cierto punto. El hecho de que la IA evolucione tan rápidamente puede ser un desafío, pero también nos recuerda que nuestras normativas deben evolucionar y que debemos aceptar una vigilancia permanente.
