Aunque la confianza y la seguridad son fundamentales para nuestra experiencia en las plataformas digitales, este trabajo es prácticamente desconocido fuera de un reducido círculo de expertos.
Los equipos, procesos y tecnologías que utilizan las empresas para abordar los daños reciben relativamente poca atención pública.
Si documentamos y compartimos qué prácticas de confianza y seguridad han adoptado las empresas, cómo las aplican y por qué, podemos hacer de internet un lugar más seguro.
Todo el mundo está de acuerdo en que necesitamos un internet más seguro, pero pocos coinciden en qué significa eso. Las empresas tecnológicas se enfrentan a presiones contrapuestas: eliminar los contenidos dañinos o reducir su difusión sin frenar la innovación y la expresión en línea.
Una mirada incluso superficial a los numerosos ejemplos de dilemas de moderación de contenidos muestra que no existe una solución única para la confianza y la seguridad digitales. Aunque actualmente las grandes empresas tecnológicas ocupan el centro de la atención mundial, ningún producto o servicio digital es inmune a los contenidos o comportamientos dañinos. Como afirma la académica especializada en moderación de contenidos Evelyn Douek“Si vas a permitir que los usuarios generen contenido, también vas a tener usuarios que generen contenido dañino”.
Sin embargo, eso no es motivo para caer en la complacencia: hay otras formas de mejorar la calidad de nuestra experiencia en línea. En otros ámbitos, desde la gestión de riesgos hasta la ciberseguridad, las buenas prácticas y las evaluaciones han sido fundamentales para desarrollar y organizar campos dentro de la industria tecnológica y reforzar la seguridad de los consumidores. Debemos hacer lo mismo con la confianza y la seguridad.
Por eso, una amplia variedad de empresas tecnológicas se han unido para crear la organización que dirijo: la Digital Trust & Safety Partnership (DTSP). Creada para identificar buenas prácticas de confianza y seguridad, la alianza permite a las empresas abordar los riesgos relacionados con los contenidos y las conductas en una variedad de servicios y modelos de negocio.
Este enfoque llevaba mucho tiempo haciendo falta. Muchas empresas han creado equipos de confianza y seguridad para abordar los contenidos y comportamientos dañinos en línea. Estos profesionales diseñan, desarrollan y supervisan tanto herramientas digitales como procesos dirigidos por personas para tomar decisiones difíciles sobre lo que se permite en sus productos y servicios.
Aunque la confianza y la seguridad son fundamentales para nuestra experiencia en las plataformas digitales, este trabajo es prácticamente desconocido fuera de un reducido círculo de expertos. Los equipos, procesos y tecnologías que utilizan las empresas para abordar los daños reciben relativamente poca atención pública.
La aparición de organizaciones como DTSP y la Trust & Safety Professional Association, que reúnen a las personas que trabajan en este campo, demuestra que las empresas están descorriendo el telón para revelar esta faceta de su actividad, antes poco conocida.
Iniciativas como la Coalición Global para la Seguridad Digital del Foro Económico Mundial son un mecanismo fundamental para impulsar la cooperación público-privada frente a las actividades dañinas en línea, con la participación de expertos de gobiernos, la sociedad civil, el mundo académico y las empresas.
En conjunto, estas organizaciones trabajan para definir los principios y responsabilidades fundamentales que rigen la seguridad digital entre los sectores público y privado, así como nuevas medidas y normas internacionales que promuevan un entorno en línea seguro y confiable para todos. Pero ¿qué implica reforzar la confianza y la seguridad digitales?
1. Centrarse en los procesos para estar preparados hoy ante las crisis de contenidos del mañana
Antes del auge del ISIS, solo un pequeño número de expertos se centraba en el uso de internet por parte de terroristas. Lo mismo ocurría con la desinformación médica antes de la COVID-19 y con la injerencia electoral antes de las elecciones de Estados Unidos y otros países en 2016. No todas las empresas pueden dedicar especialistas a estos temas, pero empresas de cualquier tamaño pueden desarrollar procesos lo bastante sólidos para abordar desafíos nuevos y cambiantes.
Esto implica contar con procesos para anticipar riesgos, adoptar políticas adecuadas y comprensibles para abordarlos, hacer cumplir esas políticas, adaptarse y mejorar en respuesta a los desafíos que surjan y actuar con transparencia.
Anticiparse mediante el desarrollo de procesos y controles capaces de responder a las innumerables formas en que un producto podría utilizarse indebidamente para causar daño contribuirá a crear comunidades en línea más inclusivas, seguras y confiables.
2. Abandonar los enfoques uniformes
La economía digital es diversa: abarca algunas de las plataformas de redes sociales más grandes del mundo y pequeñas empresas emergentes que podrían convertirse en los próximos gigantes tecnológicos. Necesitamos prácticas de confianza y seguridad que se adapten a empresas de distintos tamaños, con sus propios valores, y a productos y servicios cuyos riesgos para la seguridad varían en gravedad y probabilidad.
Mientras las empresas de DTSP realizan revisiones internas de sus prácticas, hemos publicado nuestro enfoque para adaptar estas evaluaciones de forma proporcional al tamaño y al perfil de riesgo de cada empresa. En pocas palabras, para determinar el nivel de escrutinio adecuado, las empresas deben tener en cuenta su tamaño y plantilla, así como el volumen de usuarios y los riesgos que plantean sus productos y servicios.
3. Para generar confianza, hay que verificar
No hay sustituto para las evaluaciones independientes, objetivas y cuantificables. La industria debe tomar la iniciativa, porque quienes trabajan en confianza y seguridad dentro de las empresas se enfrentan a estos desafíos a diario y tienen acceso directo a ámbitos que quizá otros no conocen. El público y los responsables de formular políticas tendrían razón en desconfiar de un proceso llevado a cabo únicamente por las empresas; de ahí la necesidad de evaluadores externos, que es precisamente lo que DTSP está impulsando.
El último informe Freedom on the Net señala que al menos 48 países han impulsado nuevas normas para las empresas tecnológicas durante el último año, y que la mitad de ellas examina cómo gestionan los contenidos las plataformas.
La realidad es que esta oleada de regulaciones provocará un cambio generacional en la forma de gestionar los riesgos relacionados con los contenidos. Podría dar lugar a una cacofonía de requisitos contradictorios que aborden de manera insuficiente los riesgos reales y, al mismo tiempo, generen consecuencias imprevistas tanto para los derechos humanos como para las oportunidades económicas.
La alternativa es un mundo en el que una arquitectura mundial de normas del sector oriente y armonice las regulaciones nacionales. Este enfoque estaría respaldado por un mecanismo objetivo de rendición de cuentas, desarrollado por profesionales en estrecha consulta con gobiernos y expertos del mundo académico y la sociedad civil.
Al igual que las amenazas a la ciberseguridad cambian constantemente, también lo harán los contenidos y comportamientos dañinos, impulsados por la conducta humana. Aun así, si las empresas documentan y comparten mucho más qué prácticas han adoptado, cómo las aplican y por qué, el resultado será un internet más seguro y confiable para los consumidores.
