Por primera vez, YouTube ha revelado un informe que detalla cuántos videos retira por infringir las políticas de la plataforma, y es una cifra realmente enorme.
El sitio, propiedad de Alphabet, eliminó más de 8 millones de videos durante el último trimestre de 2017. Pero ¿cómo decidió retirarlos? La tecnología de aprendizaje automático desempeñó un papel importante.
Según YouTube, las máquinas, en lugar de las personas, marcaron para revisión más del 83% de los videos ahora eliminados. Además, más de tres cuartas partes de esos videos fueron retirados antes de recibir alguna visualización. La mayoría eran spam o pornografía.
El aprendizaje automático, o IA, como suele llamarlo la industria tecnológica, consiste en entrenar algoritmos con datos para que puedan identificar patrones y tomar medidas por sí mismos, sin intervención humana. En este caso, YouTube utiliza la tecnología para detectar automáticamente contenido objetable.
En una entrada de blog, el equipo de YouTube afirmó que el uso de esta técnica tuvo un gran efecto.
Con respecto a los videos que contienen “extremismo violento”, que están prohibidos en la plataforma, solo el 8% de estos videos fueron marcados y eliminados a principios de 2017, antes de alcanzar 10 visualizaciones. Después de que YouTube comenzó a usar el aprendizaje automático para la detección a mediados de año, “más de la mitad de los videos que eliminamos por extremismo violento tienen menos de 10 visualizaciones”, afirmó el equipo.
Sin embargo, el uso del aprendizaje automático sí plantea serias dudas sobre el contenido que se retira y que debería permanecer publicado: algunas representaciones del extremismo violento, por ejemplo, pueden ser sátira o simples reportajes.
Varias organizaciones de noticias, como Middle East Eye y Bellingcat, descubrieron a finales del año pasado que YouTube estaba eliminando videos que habían compartido, en los que se mostraban crímenes de guerra en Siria. Bellingcat, que desempeñó un papel clave como periodismo ciudadano en la investigación del derribo del vuelo 17 de Malaysia Airlines sobre Ucrania en 2014, vio cómo se suspendía todo su canal.
“Con el enorme volumen de videos en nuestro sitio, a veces tomamos una decisión equivocada. Cuando se nos informa de que un video o canal se ha eliminado por error, actuamos con rapidez para restablecerlo”, dijo YouTube afirmó en ese momento.
En su entrada de blog del lunes, YouTube afirmó que sus sistemas de aprendizaje automático aún requieren que personas revisen las posibles infracciones de las políticas de contenido, y que el número de videos marcados mediante esta tecnología ha aumentado las necesidades de personal.
“El año pasado nos comprometimos a llevar el número total de personas que trabajan para abordar el contenido que infringe las normas a 10.000 en Google para finales de 2018”, afirmó el equipo. “En YouTube hemos cubierto la mayoría de los puestos adicionales necesarios para alcanzar nuestra contribución a ese objetivo. También hemos contratado especialistas a tiempo completo con experiencia en extremismo violento, contraterrorismo y derechos humanos, y hemos ampliado nuestros equipos regionales de expertos.”
