Qué pasó con Almendralejo, el primer gran caso 'deepfake' que desnudó a menores con inteligencia artificial
Miriam Al Adib es ginecóloga y divulgadora en Almendralejo (Badajoz), un pueblo de 34.000 habitantes. Tras una vida dedicada a enseñar educación sexual y prevención a otros, le tocó intervenir en septiembre de 2023 en el caso más difícil de su carrera: su hija había sido desnudada artificialmente junto a otras compañeras por un grupo de menores de su instituto.
Los chicos, de entre 13 y 15 años, modificaron imágenes reales de las niñas con aplicaciones de inteligencia artificial generativa para simular desnudos y difundirlos masivamente a través de WhatsApp y Telegram: con una plataforma por la que se pagan nueve euros cambiaron los cuerpos reales por desnudos tipo porno y reenviaron las fotos, creando un cisma en el pueblo y llevando a terapia a muchas de esas niñas y sus familias. Unicef calcula que 1,2 millones de niños en el mundo han sido 'desnudados' y ha mostrado su preocupación por un fenómeno que no son bromas o cosas de chavales, sino que está enmarcado en la violencia contra la infancia y la violencia machista.
“Cuando me enteré, ni yo misma sabía si denunciar era una exageración, la policía no sabía ni lo que hacer, no sabían si era un delito porque en realidad no eran ellas, sino cuerpos de otras. Pero hice un vídeo que se volvió viral y hubo respuesta masiva con apoyo total”, cuenta esta madre, que también viajó al Parlamento Europeo a exponer el caso. En total, se acumularon 22 denuncias. “Vi cuatro violencias juntas en un clic: género, sexual, digital y acoso escolar, se me vino el mundo encima”, cuenta Miriam.
Hoy, tres años después de las medidas impuestas por la Fiscalía de Menores –encajó los hechos dentro de los delitos contra la integridad moral y la revelación de secretos y abrió la vía a la indemnización por daños morales a las víctimas– y de las resoluciones pioneras que sentaron jurisprudencia sobre el porno simulado con IA en Europa, el pueblo sigue digiriendo una lección que pilló a toda la sociedad con las defensas bajas. Además, el delito tiene dificultades probatorias, como admitió la memoria de la Fiscalía en 2023. Los autores se esconden tras perfiles falsos y las plataformas donde sucede y donde se deja que suceda (WhatsApp, Instagram, Facebook y otras redes sociales) tienen sus sedes fuera de España y Europa, y no siempre son colaboradoras con las autoridades.
Punto de inflexión penal en España y Europa
El impacto del caso trascendió con rapidez las fronteras de Extremadura. En España, aceleró la necesidad de reformar el Código Penal para tipificar de forma explícita la pornografía simulada y el acoso digital mediante IA. El Gobierno ha aprobado recientemente una ley de derecho al honor para castigar los desnudos como los que permitió Elon Musk con Grok y que recoge protección a menores. Otra ley específica de protección de menores está en el Congreso esperando a ser aprobada en el próximo periodo de sesiones.
Europa también movió ficha después de caso Almendralejo tras la iniciativa tomada por el Gobierno español después del escándalo, que evidenció la necesidad de prevenir y castigar. La Unión Europea acordó en mayo “prohibir en todo el territorio comunitario la introducción en el mercado, puesta en servicio y el uso de sistemas de Inteligencia Artificial que generen 'deepfakes' sexuales”. La UE, de hecho, acaba de aprobar un reglamento sobre IA que protege a la infancia.
Pero tras el hito jurídico, la respuesta social y el debate legislativo, en Almendralejo quedaron las secuelas humanas y el tema sigue siendo un tabú, según algunos vecinos. Las jóvenes afectadas, una veintena, recibieron atención psicológica y tuvieron a su disposición recursos especializados de la Junta de Extremadura. Las familias quisieron evitar a toda costa su exposición y aceptaron una resolución judicial de conformidad, también para evitar un juicio que revictimizara a las menores.
Los quince responsables fueron condenados por veinte delitos de pornografía infantil y veinte delitos contra la integridad moral, aunque tuvieron diferentes niveles de implicación. La justicia consideró a once de los menores como los responsables de usar la IA para generar los falsos desnudos y compartirlos.
Los otros cuatro fueron considerados cómplices por colaborar en la difusión. La condena fue un año de libertad vigilada para los principales responsables y la obligación de realizar cursos educativos (afectivo-sexuales y de uso responsable de la tecnología). Además, la resolución estableció una indemnización de 2.000 euros por cada víctima en concepto de daños morales, de la que deben responder subsidiariamente los padres de los menores condenados. Entre los implicados también había jóvenes de 13 años, inimputables en ese momento, a quienes se les aplicaron medidas correctoras de carácter social y educativo a través de los Servicios Sociales.
“No éramos unas madres histéricas”
“Conseguimos sentencia ejemplar, así que ahí descansamos, porque cuando el delito tiene un nombre dignifica a las víctimas, evidencia que no éramos unas madres histéricas, porque había un sector de la sociedad que pensaba que exagerábamos y que queríamos llamar la atención”, cuenta Al Adib. “Por suerte mi hija está bien y yo no quería un castigo de cárcel, pero sí que pusieran conciencia en esto”.
A la respuesta penal se sumó la actuación contundente de la Agencia Española de Protección de Datos (AEPD). El organismo no solo abrió expedientes sancionadores, sino que puso a prueba la eficacia de su Canal Prioritario para exigir la retirada inmediata del material íntimo simulado de las plataformas y redes sociales. La AEPD dictaminó que el uso del rostro real de una persona asociado a un cuerpo desnudo sin su consentimiento es una vulneración del Reglamento General de Protección de Datos (RGPD), al tratarse de un tratamiento ilícito de datos personales.
El organismo, con una sanción pionera en Europa, demostró que, más allá de la lentitud habitual de los procesos judiciales, existía un mecanismo administrativo de emergencia capaz de frenar la hemorragia digital y evitar que la agresión siguiera propagándose a golpe de clic.
Vulnerables ante la tecnología
En Almendralejo, quien más y quien menos conoce a la familia de unas de las víctimas o de los responsables. “Eso ya fue hace mucho, no volváis con ese tema, que ya está olvidado”, pide Carlos, un operario municipal que a las diez de la mañana se encuentra realizando su trabajo en la calle Mérida, a pocos metros del ayuntamiento.
Sin embargo, es un asunto que ha dejado huella. Paz Macías es madre de un niño y una niña: “Lo viví con mucha angustia porque pensé en la desprotección de mis hijos y en la frustración de nosotros como padres por no ser capaces de prevenirlo y no saber cómo actuar”. Pero actuó porque investigando por internet dio con una aplicación de Android que instalaron en el móvil de la pequeña. “En el de mi hijo no porque es un iPhone y no encontramos nada”, explica.
Esa aplicación le permite controlar el dispositivo de la menor: desde el lugar en el que se encuentra cuando está fuera de casa a consultar el móvil, apagarlo y lanzar una alarma. Como hizo Paz hicieron muchas otras familias, lo que da una idea del alcance del caso y de la profunda sensación de vulnerabilidad ante una situación impensable hasta entonces.
Del shock a la pedagogía
El alcalde de Almendralejo, José María Ramírez (PSOE), recuerda bien aquellos días de septiembre en los que la ciudad se convirtió, de la noche a la mañana, en el epicentro de un debate nacional. “El revuelo fue enorme, el pueblo entró en shock. Pero es algo comprensible, eran familias conocidas y tuvimos mucha presión, sobre todo mediática”, describe desde su despacho en el ayuntamiento
Ramírez lamenta la “mala imagen” de la ciudad que se pudo trasladar desde algunos medios de comunicación, pero valora que este lamentable caso sirvió para “generar un debate que no sabíamos lo necesario que era”.
Desde entonces son frecuentes las charlas sobre IA organizadas o impulsadas por muchos ayuntamientos, como el de Almendralejo. Incluso los propios centros educativos promueven estas formaciones no solo dirigidas a los alumnos, también para padres y madres. Uno de ellos es el instituto donde estudiaban las víctimas y los menores que hicieron los 'deepfakes' que helaron la sangre de millones de padres y llevaron a la administración, el Gobierno y la justicia a poner los esfuerzos en dar nombre, prevención y castigo a un delito que vulneró a los más vulnerables.