La industria del videojuego podría valer 321.000 millones de dólares para 2026.
Pero el coste del contenido tóxico y del acoso es elevado tanto para los jugadores como para la industria.
Debemos trazar un camino hacia una comunidad de videojuegos que celebre la diversidad, fomente la inclusión y ponga fin a los comportamientos tóxicos.
Todos recordamos los días más sencillos de los videojuegos: juegos sin conexión impulsados por la emoción de los encuentros presenciales. La escena actual es radicalmente distinta en cuanto a cómo y dónde interactúan los jugadores, desde los encuentros en línea hasta las plataformas multimodales y para llevar. Se prevé que la industria del videojuego mantenga su reciente y rápido crecimiento y que podría valer 321.000 millones de dólares para 2026.
Con este crecimiento, también han surgido varios desafíos para la industria del videojuego, entre los que destaca la toxicidad. Reach3 Insights, una empresa de investigación de mercados, afirmó que “el 77 % de las mujeres jugadoras sufre discriminación por motivos de género al jugar, incluidos insultos, recepción de mensajes sexuales inapropiados, control de acceso y desdén”. El coste del contenido tóxico y del acoso es elevado tanto para los jugadores como para la industria. Otro informe concluyó que “el 28 % de los jugadores de multijugador en línea que sufrieron acoso dentro del juego evitó ciertos juegos por su reputación de entornos hostiles y el 22 % dejó de jugar por completo a ciertos juegos”.
La brecha de género en los videojuegos quedó patente gracias a Maybelline NY, la marca mundial de cosméticos, que realizó un experimento para comprobar cómo se trataría a jugadores varones cuando sus voces y perfiles se modificaban para aparentar ser mujeres. La experiencia de los dos jugadores habituales fue radicalmente distinta de lo que estaban acostumbrados: algunos compañeros abandonaron la partida en cuanto oyeron voces femeninas, otros empezaron a lanzar mensajes inapropiados, incluidos insultos e invitaciones a volver a realizar “tareas domésticas de mujeres”.
Aunque se avanza en la lucha contra esta toxicidad, aún existen desafíos. Mejorar la confianza y la seguridad en los videojuegos es fundamental para una evolución inclusiva.
Situación de la moderación de contenidos en los videojuegos en línea
La confianza y la seguridad no son nuevas en el mundo de los videojuegos; sin embargo, no existe una práctica estándar en toda la industria. Queda mucho margen para el desarrollo e interpretación de las políticas. Un buen ejemplo de esta situación surge en el debate sobre la moderación proactiva frente a la reactiva, con organizaciones que debaten cómo enfrentar y controlar las acciones de los usuarios sin perder la autonomía natural del juego. Al mismo tiempo, la falta de proactividad en las políticas podría significar exponer a los jugadores a contenidos inapropiados mientras se espera un informe o una escalada adecuados.
A medida que las prácticas de moderación de contenidos se desarrollan en la industria, estas son algunas de las oportunidades que nuestro equipo ha identificado:
1. Articulación exhaustiva, pero sencilla, de las políticas y las medidas de aplicación
Allí donde existen políticas de moderación de contenidos en el universo de los videojuegos, algunas carecen de alcance, definición o claridad en ámbitos como el discurso deshumanizador, la incitación a la violencia, el extremismo, y las políticas redactadas de forma que no son fáciles de comprender. Las partes interesadas necesitan motivos específicos y fácilmente comprensibles para cualquier medida que la empresa adopte sobre su cuenta o su contenido, de modo que puedan mejorar su comportamiento en el futuro. Según ADL, el 59 % de los jugadores adultos cree que es necesaria una regulación para aumentar la transparencia sobre la forma en que las empresas abordan el odio, el acoso y el extremismo.
2. Mirar más allá de las políticas de contenido
Tenemos que pasar de un enfoque centrado en el contenido a otro centrado en el entorno, con una visión más amplia. En los juegos multimodales, por ejemplo, debemos examinar la voz, las características de creación de cuentas y otras señales para tratar de centrar los esfuerzos en los grupos de usuarios responsables de la mayor parte de los comportamientos tóxicos en los juegos.
Centrarse en estas señales puede eliminar de inmediato gran parte del contenido de odio en un juego, dado que este comportamiento se concentra en una pequeña minoría de usuarios, normalmente menos del 3 % de los usuarios es responsable del 30 % al 60 % del contenido tóxico en todo tipo de plataformas. Si se actúa contra la pequeña minoría de jugadores que genera contenido tóxico, pueden emplearse para la mayoría de los jugadores de las plataformas intervenciones más leves, avisos, advertencias y otras formas de modificación del comportamiento grupal para frenar cualquier comportamiento tóxico restante.
3. Puesta en práctica
En materia de seguridad, gran parte de la experiencia del usuario puede atribuirse a la forma en que se definen y se ponen en práctica las políticas de los videojuegos. La moderación del contenido de los videojuegos mejorará si las políticas están disponibles, en todos los idiomas, para los mercados en los que la plataforma está activa; si las políticas se aplican de manera coherente a todos los usuarios; si los informes de usuarios sobre acciones se resuelven con rapidez; y si existen mecanismos rápidos y eficaces de reparación para las personas que no están de acuerdo con las decisiones de moderación de contenidos. Las plataformas deben ser ágiles y modificar o ampliar sus políticas con frecuencia, dada la velocidad de los cambios que hemos observado en el sector en un período tan corto.
Oportunidades de soluciones: construir un entorno de videojuegos más seguro
La buena noticia es que existen oportunidades de crecimiento y mejora. Una de las primeras recomendaciones para las nuevas operaciones que inician su andadura en materia de confianza y seguridad es crear un equipo de moderación diverso que refleje la base de jugadores. Según un estudio de la International Game Developers Association (IGDA), los equipos diversos están mejor preparados para comprender y abordar los desafíos únicos a los que se enfrentan los distintos grupos de jugadores. “El sesgo no intencionado hacia grupos concretos de personas, temas o contextos puede deberse a deficiencias de representación o a la falta de diversidad social en el grupo de moderadores.”
La diversidad en los equipos de moderación tiene un beneficio cuantificable para las plataformas y la experiencia de usuario. Se ha demostrado que la ausencia o la escasa representación de mujeres en los equipos de moderación repercute directamente en la experiencia del usuario final, en este caso, los jugadores.
A medida que la base de usuarios de las plataformas de juego se amplía, abordar el sesgo implícito en la aplicación de las políticas mediante equipos de moderación diversos beneficiará a los usuarios, aumentará la fidelidad de los jugadores hacia las plataformas y favorecerá el crecimiento de estas. Esta es también una oportunidad para recordarnos que la diversidad debe trascender a los moderadores de contenido y debe impregnar todos los niveles de la organización. En última instancia, es obra de muchos asegurar la transformación de las normas de género en todo el ecosistema. “La definición de las reglas es subjetiva y refleja los sesgos y las visiones del mundo de los responsables de establecer las reglas.”
A medida que avanzamos en la evolución natural de las operaciones de moderación de contenidos, el primer paso consiste en establecer normas comunitarias y códigos de conducta claros y transparentes, que todos los jugadores deben aceptar antes de participar. Los principios fundamentales son la transparencia y una comunicación sólida que refuercen la conciencia sobre las consecuencias de sus actos.
Mike Pappas, consejero delegado y cofundador de Modulate, sugiere que cualquier norma comunitaria o código de conducta de cara al público se redacte para una audiencia amplia, y afirma: “Muchos niños u otros jugadores, sobre todo en juegos que reúnen a personas de contextos culturales muy distintos, pueden simplemente no saber qué comportamientos son o no tóxicos. Cuando hablamos de toxicidad, se nos viene a la mente la imagen de un ‘troll’, pero más del 50 % del contenido disruptivo procede en realidad de estos errores involuntarios. Esto significa que un código de conducta claro, legible y sin jerga jurídica puede ser una herramienta sumamente poderosa para fijar las expectativas de comportamiento de la comunidad y reducir la toxicidad.”
Este es también un momento crucial para determinar los protocolos de denuncia, que permitan a los jugadores denunciar comportamientos tóxicos y fomenten una cultura de rendición de cuentas. Según una encuesta de la Fair Play Alliance, el 85 % de los jugadores considera que los sistemas de denuncia son fundamentales para una experiencia de juego en línea positiva. Diseñar desde el principio los flujos de trabajo adecuados para denunciar contenidos infractores garantiza un buen comienzo para las nuevas plataformas y una vía hacia el éxito sostenido.
Paralelamente, diseñar y aplicar sanciones eficaces para los infractores, como las suspensiones temporales o permanentes, puede actuar como elemento disuasorio. Como se ha mencionado antes, clasificar los distintos tipos de infracciones y aplicar medidas en consecuencia educará a la comunidad y creará una responsabilidad compartida. La aplicación coherente de estas sanciones, incluidos los avisos, las advertencias, otras formas de modificación del comportamiento grupal y las suspensiones o prohibiciones, envía un mensaje claro de que el acoso no será tolerado.
La inteligencia artificial (IA) y los algoritmos de aprendizaje automático pueden contribuir a la moderación de contenidos. Las herramientas automatizadas analizan los registros de chat, las comunicaciones de voz y las acciones dentro del juego para identificar y señalar comportamientos inapropiados. Las herramientas de IA pueden integrarse para filtrar directamente los contenidos tóxicos y derivar contenidos a la intervención humana. Sin embargo, estas soluciones deben funcionar siempre en tándem con moderadores humanos para garantizar que el contexto se tenga en cuenta con precisión.
Los moderadores formados siguen superando a los grandes modelos de lenguaje, especialmente en casos límite o cuando se necesita información adicional. Por ejemplo, en ámbitos que requieren más contexto lingüístico o cultural, como el odio y el acoso, todavía existe una brecha de rendimiento de más de un 20 % entre la IA y los moderadores humanos según un conjunto de datos de OpenAI. Algunas herramientas basadas en IA están diseñadas para que humanos e IA se complementen, de modo que la IA ayude a priorizar en qué deben centrar su atención los moderadores, pero dejando a los moderadores la última palabra sobre qué, si es que algo, debe hacerse.
La confianza y la seguridad, en el centro del crecimiento de los videojuegos en línea
A medida que la industria del videojuego sigue creciendo, es imperativo que las empresas de videojuegos inviertan en estrategias integrales de moderación de contenidos que prioricen la seguridad y el bienestar de los jugadores. Mediante el uso de la tecnología, la participación de la comunidad y la diversidad, la industria puede avanzar hacia un futuro en el que jugadores de todos los orígenes puedan disfrutar de sus títulos favoritos sin temor al acoso ni al abuso.
La responsabilidad de crear un entorno de juego más seguro recae en todos los implicados, desde los jugadores, desarrolladores y responsables políticos hasta los moderadores. Juntos podemos trazar un camino hacia una comunidad de videojuegos que celebre la diversidad, fomente la inclusión y ponga fin a los comportamientos tóxicos.
