Redes sociales, extremismo y miedo: estamos perdiendo la guerra online
La iniciativa de Theresa May de ejercer más presión sobre las compañías tecnológicas en torno al extremismo online nace de una frustración que no ha hecho más que aumentar tras el atentado en Manchester. Existe un sentimiento generalizado de que no se esta haciendo lo suficiente ni lo suficientemente rápido para abordar el problema que suponen la duras palabras y amenazas que inundan las redes sociales en Reino Unido y en toda Europa.
A todo esto se une la ansiedad de que se está perdiendo la guerra online. Internet es el lugar en el que, a menudo, se libra una batalla que esculpe las mentes y los corazones. Es el sitio en el que se comparten llamamientos a favor de la violencia, donde proliferan vídeos sobre cómo facturar bombas y donde se celebran muchas veces completas atrocidades.
No existe ninguna duda de que las personas que forman parte o que apoyan a ISIS se han convertido en expertos a la hora de explotar Internet. Pocos minutos después del ataque del lunes, hashtags, memes, instrucciones e infografías se distribuyeron por Internet a través de mensajerías web y redes sociales.
“Siempre son muy rápidos”, afirma una fuente encargada de hacer seguimiento del extremismo online. “Tratan de capitalizar los ataques y el caos. Se abren paso en las conversaciones online de las redes sociales. ISIS indica a sus jóvenes fanáticos cómo tienen que hacerlo”, apunta.
Este mes, el comité de asuntos de Interior dijo que el problema, lejos de mejorar, estaba empeorando. Así lo aseguraron los parlamentarios al entregar un análisis inusualmente tajante sobre la industria tecnológica: “Hay un gran número de pruebas que confirman que esas plataformas se están utilizando para expandir odio, abusos y extremismo. Dicha pauta continua aumentando a un ritmo alarmante pero sigue sin control e incluso, en donde es ilegal, está poco vigilada. Las pruebas sugieren que el problema está yendo a peor”.
Y eso es lo que parece. Los archivos de Facebook publicados por the Guardian esta semana dan una impresionante visión sin precedentes sobre la manera en que la red social aborda el extremismo en Internet, y el lío en el que se ha metido. Aunque los directivos parecen tremendamente heridos por las acusaciones de que no están haciendo lo suficiente y están ofendidos por la idea de que no se están tomando en serio el asunto, la realidad es que es muy difícil contener dicho problema.
Los moderadores de Facebook contaron a the Guardian que hacen frente a una “misión imposible” tratando de mantener la red social limpia. Hay tanto contenido y es tan fácil desafiar las normas que Facebook no puede impedir que se publique material lleno de odio.
Durante un mes del año pasado, los moderadores dieron aviso de más de 1.300 posts con posibles vínculos terroristas. Los moderadores aseguraron que esto solo es la punta del iceberg. En la red hay vídeos sobre cómo fabricar una bomba o un chaleco suicida y están ahí si quieres encontrarlos.
Facebook informó a the Guardian de que tiene un software que impide que se puedan ver ciertas imágenes y que está realizando fuertes inversiones en inteligencia artificial. Esto se ve como otra manera de desinfectar la red social.
Pero la realidad para Facebook y para May es que puede que ni el número de moderadores ni el de algoritmos sea suficiente. Los terroristas, y los que los respaldan, han sido muy listos y han sabido adaptarse. Un moderador le aseguró a the Guardian: “Siempre nos sentimos como si estuviéramos un paso por detrás”.
Traducido por Cristina Armuia Berges
