Los gobiernos de todo el mundo han empezado a diseñar nuevos marcos para regular las plataformas en línea.
La próxima era de gobernanza de Internet regulada exigirá que las empresas tecnológicas se adapten y desarrollen nuevos procesos y herramientas de gestión de riesgos.
En última instancia, cumplir las nuevas regulaciones exigirá un cambio hacia una cultura de la responsabilidad.
Casi dos décadas después del auge de las plataformas en línea, gobiernos de todo el mundo, incluidos los de la Unión Europea, el Reino Unido, Canadá y Australia, han empezado a diseñar nuevos marcos para regular estos servicios. El debate y la controversia han sido intensos, como demuestra la reciente comparecencia ante el Congreso de Frances Haugen, la denunciante de Facebook y la revocación de Apple de su plan de analizar imágenes y videos en sus dispositivos para detectar material de abuso sexual infantil (CSAM). El aumento de la regulación tendrá importantes repercusiones tanto para estas empresas como para la sociedad en general.
Los gobiernos democráticos afrontan numerosos desafíos al intentar regular el espacio en línea. Se enfrentan a objetivos a veces contradictorios mientras intentan encontrar un equilibrio entre mantener la seguridad de Internet y proteger al mismo tiempo los derechos fundamentales, incluida la libertad de expresión.
Desafíos para los reguladores
1. El enorme volumen de contenido publicado en línea hace prácticamente imposible garantizar una revisión judicial antes de cada retirada de contenido. Los gobiernos tendrán que depender del establecimiento de obligaciones para que el sector privado modere el contenido ilegal conforme a principios regulatorios específicos. Cuanto más estrictas sean las normas, mayor será el riesgo de retirar contenido en exceso; cuanto más laxas, mayor será el riesgo de que se propague contenido ilegal o perjudicial.
2. Los legisladores deben definir qué constituye «contenido ilegal» de forma lo bastante amplia como para abarcar los daños que se pretende combatir, pero lo bastante precisa como para evitar el riesgo de una «expansión progresiva de la censura». Las definiciones excesivamente amplias y poco prácticas podrían dejar importantes «zonas grises» y obligar a las empresas a decidir por sí solas qué contenido retirar. Si la definición de contenido ilegal es ambigua, aumenta el riesgo de censura excesiva, con posibles repercusiones importantes para la libertad de expresión.
3. Los reguladores deben definir nuevas obligaciones mínimas para las plataformas en línea sin crear obstáculos a la innovación o a la entrada en el mercado.
Los enfoques regulatorios adoptados por los responsables de formular políticas pueden dividirse en dos grandes categorías:
Un enfoque específico para cada tipo de contenido
La legislación se diseña para abordar un tipo concreto de daño en línea, como las infracciones de derechos de autor, el contenido terrorista, el CSAM, el discurso de odio ilegal o los productos ilegales, y se centra en su retirada oportuna. Entre los ejemplos de este tipo de regulación figuran el Reglamento de la UE sobre contenidos terroristas en línea, la ley francesa sobre desinformación, la Ley alemana de aplicación de la ley en las redes (NetzDG), así como la Directiva sobre derechos de autor en el mercado único digital.
Un enfoque sistémico
Este enfoque busca proporcionar un marco jurídico que abarque distintos tipos de daños, en el que los proveedores de servicios intermediarios (ISP) deban demostrar que sus políticas y procesos están concebidos y se aplican para contrarrestar los abusos de sus servicios. Esta es la orientación propuesta por la UE en su Ley de Servicios Digitales (DSA), que no define qué constituye contenido ilegal. En cambio, establece nuevas obligaciones de diligencia debida para que los ISP actúen eficazmente sobre el contenido cuando tengan conocimiento de su ilegalidad. El incumplimiento puede acarrear multas de hasta el 6 % del volumen de negocio mundial.
Desafíos para las empresas
Cumplir exigencias complejas (y a veces contradictorias entre distintas jurisdicciones) y, al mismo tiempo, mantener la confianza de los clientes planteará nuevos desafíos a todos los ISP. Tendrán que desarrollar nuevos marcos de gestión de riesgos y crear nuevas funciones y responsabilidades, lo que en última instancia dará lugar a cambios organizativos y culturales. Sería útil aprender de otros sectores, como el financiero.
Por ejemplo, según el primer borrador de la DSA, los ISP tendrán que establecer procesos adecuados para abordar el contenido ilegal sobre el que les hayan alertado diversas fuentes. Para hacer un seguimiento de estas notificaciones, de las decisiones posteriores y de la comunicación con los usuarios, los ISP tendrán que desarrollar procesos sólidos de moderación de contenido y gestión. Estos también deberán cumplir obligaciones como las «declaraciones de motivos», la gestión de reclamaciones y la elaboración de informes de transparencia. La recopilación de datos en esta compleja red de partes interesadas requerirá herramientas específicas, que deberán ser seguras y estar actualizadas para garantizar el cumplimiento en distintas jurisdicciones.
Las plataformas en línea también deberán cumplir nuevas obligaciones de transparencia en materia de publicidad en línea, que les exigirán proporcionar a sus usuarios información sobre los anunciantes y su público objetivo. Además, los mercados en línea deberán establecer políticas de «conocimiento del cliente empresarial» («Know Your Business Customer») para recopilar información de identificación de los vendedores que operan en sus plataformas; una obligación también inspirada en gran medida en el sector financiero. Esto requerirá asimismo nuevos procesos y herramientas.
Las plataformas en línea más grandes estarán sujetas a requisitos adicionales, incluida la obligación de realizar evaluaciones anuales de los riesgos sistémicos. Una vez más, estas empresas podrían beneficiarse de las metodologías de evaluación de riesgos de cumplimiento y las mejores prácticas desarrolladas por el sector financiero.
Todos estos cambios aumentarán inevitablemente los costos para las empresas: según las estimaciones de la Comisión Europea, los costos anuales podrían alcanzar decenas de millones de euros para los actores de mayor tamaño.
Una nueva cultura
Además de estos procesos y herramientas, una gestión eficaz de los riesgos exigirá una estructura empresarial equilibrada y una cultura de gestión de riesgos que armonicen las obligaciones regulatorias, los modelos de negocio y la gestión del riesgo reputacional, y que posiblemente establezcan funciones de cumplimiento independientes, como ocurre en el sector financiero.
Sin embargo, los cambios organizativos no serán suficientes. A medida que crezcan, las plataformas en línea tendrán que adaptarse a una cultura diferente, en la que todos comprendan los riesgos regulatorios y los empleados estén capacitados para tomar decisiones responsables. Esto allanará el camino hacia un uso nuevo y más responsable de la tecnología.
