Youtube continúa borrando contenidos para luchar contra los discursos del odio: el caso del clásico del cine nazi
A principios de verano la conocida plataforma digital de vídeos Youtube presentaba sus nuevas políticas destinadas a luchar contra los discursos de odio. En medio de un contexto político en el que cada vez más se habla sobre supremacismo u odio, la empresa se vio obligada a aclarar y endurecer sus medidas al respecto, anunciando el 5 de junio en su blog su intención de intervenir drásticamente en la situación:
Hoy estamos dando un paso más en nuestra política de discurso de odio al prohibir específicamente los videos que alegan que un grupo es superior para justificar la discriminación, la segregación o la exclusión basada en cualidades como edad, género, raza, casta, religión, orientación sexual o veterano. estado. Esto incluiría, por ejemplo, videos que promueven o glorifican la ideología nazi, que es inherentemente discriminatoria. Finalmente, eliminaremos el contenido negando que ocurrieron eventos violentos bien documentados, como el Holocausto o el tiroteo en Sandy Hook Elementary.
Esta semana también compartían en su blog que han borrado más de 100.000 contenidos desde abril y más de 17.000 canales. La presión ha ido aumentando para la plataforma en un contexto social donde ya no solo hay casos de acoso online o de polarización política extrema: hay quién comienza a considerar que Youtube (y otras redes sociales) responsable de algunas de estas situaciones. Sucedió por ejemplo con el periodista y activista LGTB Carlos Maza, quien denunció públicamente que un youtuber estaba atacándolo de forma sistemática por su orientación sexual y su condición étnica.
Youtube contestó en un breve hilo de Twitter en el que anunciaba tomarse muy serio el acoso online y los discursos del odio, sin embargo consideraban que los vídeos en cuestión no debían ser borrados: “Gracias por tomarte el tiempo de compartir toda esta información con nosotros. Nos tomamos las acusaciones de acoso muy seriamente. Sabemos que esto es importante y que afecta a mucha gente. Nuestros equipos han pasado los últimos días revisando los vídeos y aunque son claramente hirientes, no consideramos que violen nuestras políticas”. Pero la presión y las denuncias han seguido en aumento.
En total en el segundo cuarto del año, Youtube ha borrado más de 9 millones de vídeos de un total de 4 millones de canales. Dos tercios de este contenido son spam o contenido engañoso. Violaciones sobre la nueva política contra los discursos del odio supusieron un total del 1.2% de los vídeos borrados y un 0.4% de los canales suspendidos. Youtube asegura que más del 80% de los videos que violaban sus políticas fueron borrados antes de que recibieran una sola visita. Esto podría resultar tranquilizador si no fuera porque, como quedara demostrado con Facebook, los sistemas de revisión son mucho menos infalibles de lo que parecen y en ocasiones “se permite el fascismo y el acoso machista”.
Uno de los contenidos que fueron borrados fue el largometraje “El triunfo de la voluntad” dirigido la conocida documentalista nazi Leni Riefenstahl en 1934 fue borrado recientemente y tras aplicar las nuevas políticas contra discurso del odio de la plataforma. En donde antes podía verse el documental desde hace poco aparece un mensaje que dice: “Este vídeo se ha retirado por infringir la política de YouTube sobre la incitación al odio. Obtén más información sobre cómo combatir la incitación al odio en tu país”. En el enlace, se ofrecen algunos ejemplos concretos. “Me alegro de que este [evento violento] haya ocurrido. Se lo merecían [refiriéndose a personas con atributos mencionados anteriormente]”. Y además se ofrece un vídeo (en inglés).
Eric Kohn, periodista de la revista IndieWire, comentaba en un artículo esta semana la contradicción que supone borrar este tipo de contenidos: “Youtube flota en una paradoja: es una plataforma para fomentar la expresión que vacila sobre los tipos de expresión que quiere admitir. Incluso cuando el sitio realiza cambios constructivos en el contenido que promueve o prohíbe, los resultados generan dudas sobre la censura y la curaduría (...) La desgarradora representación de Riefenstahl de las manifestaciones de Nuremberg se mantiene como una mirada esencial al poder ideológico que genera la imagen en movimiento y de cómo cooptar a las masas. A pesar de los objetivos de la película, ésta se ha mostrado en universidades durante décadas y no porque los profesores de cine deseen difundir la horrible mentalidad del Tercer Reich”.
Así pues, los retos continuarán para Youtube: ¿servirá prohibir contenidos que incitan al odio para detener los discursos del odio? ¿Dónde están los límites entre intervenir para proteger a comunidades vulnerables que son atacadas y censurar contenidos? ¿Es posible desarrollar una política equilibrada que permita la libertad de expresión al tiempo que bloquee o margine los discursos del odio? Muchas de estas preguntas son equiparables a otras redes sociales y forman parte de los debates políticos, sociales y culturales de nuestro tiempo sobre el uso de la tecnología.
