Para Patrizia Schlosser, todo comenzó con una llamada de un colega pidiendo disculpas. “Lo siento, pero me he encontrado esto. ¿Sabes de qué va?”. Le envió un enlace que la llevó a un sitio web llamado Mr DeepFakes. Allí encontró imágenes falsas de sí misma, desnuda, en cuclillas, encadenada, practicando actos sexuales con varios animales. Estaban etiquetadas como “Patrizia Schlosser, puta FUNK (sic)”.
“Eran muy explícitas, muy humillantes”, recuerda Schlosser, periodista alemana de Norddeutscher Rundfunk (NDR) y Funk. “Además, estaban muy mal hechas, lo que me facilitó distanciarme y decirme a mí misma que estaba claro que eran falsas. Pero era muy inquietante imaginar que alguien en algún lugar se hubiese pasado horas en Internet buscando fotos mías y montando todo esto”, añade.
La web era nueva para Schlosser, a pesar de sus investigaciones previas de gran calado sobre la industria del porno. “Nunca había oído hablar de Mr DeepFakes, un sitio porno dedicado íntegramente a vídeos y fotos falsos. Me sorprendió lo grande que era, con tantos vídeos de todas las famosas que puedas conocer”.
La primera reacción de Schlosser al verse entre ellos fue ignorarlos. “Intenté apartarlo de mi mente, lo que en realidad era una estrategia para no enfrentarme a ello”, afirma. “Pero es extraño cómo funciona el cerebro. Sabes que es falso, pero sigues viéndolo. No eres tú, pero también eres tú. Ahí estás, con un perro y una cadena. Te sientes violada, pero también confundida. En algún momento, decidí: 'No. Estoy enfadada. No quiero que esas imágenes se difundan”.
En algún momento, decidí: 'No. Estoy enfadada. No quiero que esas imágenes se difundan'
El documental posterior de Schlosser para el programa STRG_F de la NDR logró que se eliminaran las imágenes. También localizó al joven que las había creado y publicado, e incluso visitó su casa y habló con su madre. (El autor no salió de su habitación). Sin embargo, Schlosser no pudo identificar al susodicho “Mr DeepFakes”, o a quienquiera que estuviera detrás de la web, a pesar de contar con la ayuda de Bellingcat, un colectivo de periodismo de investigación online.
Ross Higgins, de Bellingcat, formaba parte del equipo. “Mi experiencia es en la investigación del blanqueo de capitales”, afirma. “Analicé la estructura del sitio web y vi que utilizaba los mismos proveedores de servicios de Internet (ISP) que los delincuentes organizados más serios”. Los ISP sugerían vínculos con el grupo mercenario ruso Wagner y con personas mencionadas en los Papeles de Panamá. Entre los anuncios que incluía había algunos de aplicaciones propiedad de empresas tecnológicas chinas, lo que permitía al Gobierno de China acceder a todos los datos de los clientes. “Supuse que todo esto era demasiado sofisticado para ser un sitio web de aficionados”, afirma Higgins.
Resultó ser exactamente eso.
La zona cero de la pornografía ultrafalsa
La historia de Mr DeepFakes, la web de pornografía deepfake no consentida más grande y notoria del mundo, es en realidad la historia de la propia pornografía con IA: se cree que el término lo acuñó su creador. Considerado la “zona cero” de la pornografía generada por IA, sus páginas, que han sido vistas más de 2.000 millones de veces, han mostrado a innumerables famosas, políticas, princesas europeas, esposas e hijas de presidentes estadounidenses siendo secuestradas, torturadas, afeitadas, atadas, mutiladas, violadas y estranguladas.
Sin embargo, todo este contenido (que llevaría más de 200 días ver) era solo el “escaparate” del sitio. Su verdadero corazón, su “sala de máquinas”, era su foro. Aquí, cualquiera que quisiera crear deepfakes de alguien que conociese (una novia, hermana, compañera de clase o colega) podía encontrar a alguien dispuesto a hacerlos por encargo por el precio adecuado.
También era un “campo de entrenamiento”, un centro técnico donde los “aficionados” se enseñaban unos a otros, compartían consejos, publicaban artículos académicos y “resolvían problemas”. (Un problema recurrente era cómo hacer deepfakes sin un buen “conjunto de datos”. Esto significa que cuando intentas hacer un deepfake de alguien de quien no tienes muchas fotos; es decir, no una celebridad, sino quizá alguien que conoces y de quien has hecho capturas de pantalla en las redes sociales, por ejemplo).
Sin esa web, no creo que el problema hubiese explotado de la forma en que lo hizo
La cineasta y activista Sophie Compton pasó muchas horas supervisando Mr DeepFakes mientras investigaba para el galardonado documental de 2023 Another Body. “Echando la vista atrás, creo que ese sitio web desempeñó un papel fundamental en la proliferación de los deepfakes en general”, afirma. “Creo de verdad que existe un mundo en el que esa web no se creó, no se permitió su creación o se cerró rápidamente, y el porno deepfake solo es una pequeña parte del problema que tenemos hoy en día. Sin ese sitio, no creo que hubiera explotado de la forma en que lo hizo”.
La realidad que imagina Compton era totalmente factible. Los orígenes de Mr Deepfakes se remontan a 2017-2018, cuando el porno con IA empezaba a desarrollarse en redes sociales como Reddit. Un usuario anónimo de Reddit y “pionero” del porno con IA que se hacía llamar “deepfakes” concedió una primera entrevista a Vice sobre su potencial. Sin embargo, poco después, a principios de 2018, Reddit prohibió el porno deepfake en su sitio web. “Tenemos capturas de pantalla de sus foros de mensajes de aquella época y la comunidad deepfake, que era pequeña, se asustó y abandonó el barco”, dice Compton.
Fue entonces cuando se creó Mr DeepFakes, con el nombre de dominio inicial dpfks.com. El administrador tenía el mismo nombre de usuario, dpfks, y era la persona que anunciaba que se buscaban voluntarios para trabajar como moderadores y publicaba las normas y directrices, así como vídeos deepfake y una guía detallada sobre el uso del software para este tipo de porno.
“Pura misoginia”
“Lo más deprimente de leer los mensajes y ver el origen es darse cuenta de lo fácil que hubiese sido para los gobiernos ponerle freno”, dice Compton. “Quienes lo hacían no creían que se les fuera a permitir actuar con total libertad. Decían: '¡Vienen a por nosotros!, '¡nunca nos van a dejar hacer esto!'. Pero continuaban sin ningún problema y se envalentonaban cada vez más. La COVID contribuyó a la explosión, ya que todo el mundo dejó de moderar los contenidos. El resultado fue violento: era completamente degradante para las personas. Las famosas que eran realmente populares solían ser muy jóvenes: Emma Watson, Billie Eilish, Millie Bobby Brown”, enumera. (Greta Thunberg es otro ejemplo).
¿Quién estaba detrás de todo esto? De vez en cuando, Mr DeepFakes concedía entrevistas anónimas. En un documental de la BBC de 2022, Deepfake Porn: Could You Be Next? (Porno 'deepfake': ¿podrías ser tú la siguiente?), el “propietario” y desarrollador web“ del sitio, bajo el seudónimo ”Deepfakes“, argumentaba que no era necesario el consentimiento de las mujeres, ya que se trataba de ”una fantasía“ que no era ”real“.
¿El dinero era el único móvil? Mr DeepFakes publicaba anuncios y tenía una suscripción premium que se pagaba en criptomonedas: en 2020, un foro mencionó que ganaba entre 4.000 y 7.000 dólares (3.400 y 6.000 euros) al mes. “Había un aspecto comercial”, dice Higgins. “Era un negocio secundario, pero era más que eso. Le dio notoriedad”.
Tuvimos que cambiar el lenguaje para nuestro informe en línea porque no queríamos que fuera provocador, pero esto es pura misoginia. Puro odio
En un momento dado, la web “publicó 6.000 fotos de la cara de la política estadounidense Alexandria Ocasio-Cortez para que la gente pudiera hacer pornografía deepfake con ella”, dice Higgins. “Es una locura. [Había] todos estos archivos de youtubers y políticos. Lo que esto dice es que, si eres mujer en este mundo, solo puedes llegar hasta cierto punto, porque si te atreves a dar la cara, si tienes la osadía de hacer algo públicamente, puedes esperar que tu imagen sea utilizada de la forma más degradante posible para obtener beneficios personales”.
“Lo que más me impactó fue el lenguaje con el que se hablaba de las mujeres”, continúa. “Tuvimos que cambiarlo para nuestro informe online porque no queríamos que fuera provocador, pero esto es pura misoginia. Puro odio”, asegura.
Los investigadores creyeron haber dado con Mr DeepFakes en abril y enviaron correos electrónicos al sospechoso. Mr DeepFakes cerró el 4 de mayo. Un aviso en su página de inicio culpaba a la “pérdida de datos” causada por la retirada de un “proveedor de servicios crucial”. “No volveremos a abrir”, continuaba. “Cualquier sitio web que afirme lo contrario es falso. Este dominio acabará caducando y no nos hacemos responsables de su uso futuro. Este mensaje se eliminará en aproximadamente una semana”, terminaba.
Algo ya muy arraigado
Mr DeepFakes ha desaparecido, pero según Compton, podría haber ocurrido mucho antes. “Todas las señales estaban ahí”, afirma. En abril de 2024, cuando el Gobierno de Reino Unido anunció sus planes de penalizar la creación y el intercambio de material de abuso sexual deepfake, Mr DeepFakes respondió bloqueando inmediatamente el acceso a los usuarios del país. (Los planes se archivaron posteriormente cuando se convocaron las elecciones de 2024). “Esto demostró que Mr DeepFakes obviamente no estaba tan dedicado a la causa como para que los gobiernos no pudieran hacer nada”, afirma Compton. “Si gestionar el sitio web se convertía en una molestia y un riesgo tan grande, no les iba a seguir mereciendo la pena”, razona.
Pero el porno deepfake se ha extendido tanto y se ha vuelto algo tan habitual que ya no necesita una gran ‘base de operaciones’. Según Compton, “las cosas que esos tipos se enorgullecían de haber aprendido a hacer, y de enseñar a otros, están ya tan arraigadas que cualquiera puede acceder a ellas con solo pulsar un botón en una aplicación”.
Y para los que necesitan algo más sofisticado, los autodenominados expertos que antes rondaban por el foro de Mr Deepfakes están ahí fuera promocionando sus servicios como creadores. Patrizia Schlosser lo sabe con certeza. “Como parte de mi investigación, me infiltré y me puse en contacto con algunas de las personas del foro para pedirles el deepfake de una exnovia”, dijo. “La respuesta que me dieron fue ‘sí, claro’; a menudo se dice que el sitio solo era sobre famosos, pero eso no era cierto”.
Después de que cerrara Mr DeepFakes, Schlosser recibió un correo electrónico automatizado de uno de ellos. Esto es lo que decía: “Si quieres que te hagamos algo, házmelo saber. Mr DeepFakes ha cerrado, pero por supuesto, seguimos trabajando”.
Traducción de Francisco de Zárate