Ante la creciente preocupación por la amenaza que los sistemas basados en IA suponen para perpetuar la discriminación y el sesgo y vulnerar la privacidad, California ha presentado varios proyectos de ley destinados a frenar los efectos negativos. Entre ellos destacan los relacionados con la mitigación de los efectos negativos de tecnologías específicas basadas en IA, como los sistemas de reconocimiento facial. El 14 de mayo de 2019, San Francisco se convirtió en la primera gran ciudad de EE. UU. en prohibir el uso de la tecnología de reconocimiento facial por parte de las agencias municipales y las fuerzas del orden. Dos meses después, la ciudad vecina de Oakland adoptó restricciones similares.
Puede que se trate de leyes a nivel municipal, pero su aprobación ha influido en la legislación estatal y federal. En California, un proyecto de ley denominado Ley de Rendición de Cuentas sobre las Cámaras Corporales busca prohibir el uso del reconocimiento facial en las cámaras corporales de la policía, mientras que otro exigiría a las empresas revelar públicamente su uso de la tecnología de reconocimiento facial. A nivel federal, cuatro proyectos legislativos se están proponiendo actualmente para limitar el uso de esta tecnología, especialmente en el ámbito de las fuerzas del orden.
Tras la transformadora Reglamento General de Protección de Datos, California aprobó la primera ley nacional de privacidad de datos de Estados Unidos. La Ley de Privacidad del Consumidor de California (CCPA) entró en vigor en 2018 y está previsto que se aplique a partir de enero de 2020. La CCPA otorga a los consumidores el derecho a exigir a las empresas que revelen los datos que poseen sobre ellos, solicitar la supresión de datos, restringir la venta de sus datos a terceros y demandar por violaciones de datos. Esta ley también ha tenido repercusión a nivel federal, lo que ha impulsado la elaboración de una ley federal de privacidad de datos. Estas leyes de privacidad de datos son especialmente pertinentes para sectores que dependen de los datos, como la IA.
Integridad electoral
Como respuesta a la grave amenaza que los bots y deepfakes basados en IA suponen para la integridad electoral, el Gobierno de California ha impulsado iniciativas legislativas progresistas que han influido en los esfuerzos federales e internacionales. Aprobada en 2018, la “Ley de Divulgación de Bots” establece como ilegal utilizar un bot para influir en una transacción comercial o en un voto en unas elecciones sin revelarlo en California. Esto incluye los bots desplegados por empresas de otros estados y países, lo que obliga a dichas empresas a desarrollar normas específicas para los residentes de California o a armonizar sus estrategias entre jurisdicciones para mantener la eficiencia. A nivel federal, la “Ley de Divulgación y Rendición de Cuentas sobre Bots” incluye muchas de las mismas estrategias propuestas en California. El “Proyecto de Ley contra los Deepfakes” busca mitigar la difusión y el impacto de los deepfakes políticos malintencionados antes de unas elecciones, y la “Ley de Rendición de Cuentas sobre Deepfakes” persigue el mismo objetivo.
Riesgos y desafíos
Si bien California puede estar liderando la aplicación de estrategias de gobernanza responsable de la IA, las leyes mal concebidas, especialmente aquellas que influyen en estrategias similares a nivel federal e internacional, causarán más daño que beneficio. Por ejemplo, en la “Ley de Divulgación de Bots”, algunos comentaristas han criticado una falta de claridad en la ley sobre qué se considera y qué no se considera un “bot”, así como sobre las funciones y responsabilidades de las partes, en especial las plataformas, para identificar y frenar la influencia de bots malintencionados. Esto debilita su aplicabilidad y su impacto. Las iniciativas federales basadas en la ley de California solo servirán para erosionar aún más la rendición de cuentas y la confianza pública.
También existe el riesgo de que una legislación beneficiosa se politice de forma perjudicial. Observamos un creciente rechazo federal al “efecto California”, como lo ejemplifican recientes esfuerzos por revocar la capacidad de California para aplicar normas de emisiones más estrictas que las directrices federales. Las iniciativas federales podrían tratar de limitar la influencia del estado en las normas nacionales e internacionales de gobernanza responsable de la IA. Esto ya se observa en los esfuerzos federales por anular la CCPA.
Hacerlo bien
California avanza rápidamente en la legislación sobre IA, que abarca desde la supervisión de la discriminación y el sesgo hasta la protección de la privacidad y la integridad electoral. La legislación progresista de California sobre IA ya ha tenido una influencia notable en los esfuerzos federales y es probable que tenga alcance mundial si las empresas de IA con sede en California, entre ellas Google, Facebook y OpenAI, modifican sus prácticas. El estado tiene la oportunidad y la obligación de liderar el camino en el establecimiento de normas y mecanismos de supervisión eficaces que garanticen que los sistemas de IA se desarrollen e implementen de forma segura y responsable. California puede orientar sobre la gobernanza responsable de la IA al resto del país y al mundo, pero debe actuarse con cautela para aplicar la diligencia debida en la identificación y mitigación de cualquier efecto negativo antes de que sea demasiado tarde.
