54.000 casos de extorsión sexual y porno de venganza al mes en Facebook
Las cifras compartidas con el personal revelan que en enero Facebook tuvo que desactivar más de 14.000 cuentas relacionadas con este tipo de abuso sexual. En 33 de esos casos había niños involucrados. La empresa se basa en las notificaciones de usuarios sobre posible contenido abusivo, lo que significa que la escala real del problema podría ser mucho mayor.
Para los moderadores, las políticas de Facebook sobre contenido sexual son las más difíciles de seguir. “Es en la que los moderadores cometen más errores”, reconoce una fuente. “Es muy complejo”. Facebook admite que se trata de un área de alta prioridad y que está utilizando un software de “comparación de imágenes” para impedir que el contenido explícito llegue al sitio. También reconoce que es difícil establecer una línea entre contenido sexual aceptable e inaceptable.
“Constantemente revisamos y mejoramos nuestras políticas”, afirma Monika Bickert, directora de gestión de políticas globales de Facebook. “Son áreas complejas pero estamos decididos a hacerlo bien”. La compañía se niega a comentar las cifras del documento: “Recibimos millones de informes cada semana, pero no publicamos cifras”.
La proliferación de la pornografía y el aumento de casos de porno de venganza y sextorsion se han convertido en algunos de los mayores desafíos para las plataformas sociales. Hay una enorme presión política enorme para que hagan más por mantener el contenido abusivo e ilegal fuera de sus plataformas o bajo amenaza de sustanciosas multas.
Los documentos analizados por the Guardian, que forman parte de los archivos de Facebook, incluyen una diapositiva con la que los moderadores alertaron en enero a los altos directivos sobre 51.300 casos potenciales de pornografía de venganza o porn revenge (intentos de usar imágenes íntimas para avergonzar o humillar a una persona).
Además, Facebook identificó 2.450 potenciales intentos de extorsión con imágenes sexuales, el llamado ‘sextorsion’. Esto llevó a inhabilitar un total de 14.130 cuentas, y 16 casos fueron asumidos por los equipos de investigación interna de Facebook.
Un documento de 53 diapositivas explica que Facebook ha introducido dos “hotkeys” para los moderadores para ayudarles a identificar rápidamente casos potenciales de pornografía por venganza o extorsión, a las que se refiere como “imágenes íntimas no consensuadas”.
Facebook clasifica estos casos en las mismas categorías de gravedad que los de explotación infantil y terrorismo. Pero en el caso de los archivos de caracter sexual los límites son difusos.
Los documentos especifican que se permiten “exhibiciones moderadas de sexualidad, besos con la boca abierta, sexo simulado con ropa y actividad sexual pixelada” (solo para adultos). Las guías internas establecen subcategorías detalladas, como “excitación”, “manoseo”, “sexo con las manos”, “con la boca”, “penetración” y “fetichismo” .
En los papeles también se aborda el uso del lenguaje sexualizado. Facebook decide si permite o prohibe comentarios basándose en el nivel de detalle que contienen.
