Multa de 2.000 euros a los padres de un menor que creó una imagen de una compañera desnuda con inteligencia artificial

La Agencia Española de Protección de Datos (AEPD) ha multado con 2.000 euros a los padres de un menor de edad que usó una herramienta de inteligencia artificial para crear una imagen falsa de una de sus compañeras desnuda. Se trata de la primera resolución de este tipo que se impone en España y, aunque los datos presentes en la notificación pública están anonimizados, la Agencia ha confirmado que deriva de los hechos sucedidos en Almendralejo en 2023.

En septiembre de aquel año, varias menores de un instituto de la localidad pacense denunciaron que imágenes que las mostraban sin ropa estaban circulando en los teléfonos de sus compañeros de clase. Más tarde se conoció que estaban creadas con una app llamada ClothOff, basada en inteligencia artificial, actualmente cerrada y cuyos creadores se enfrentan a un proceso judicial en EEUU por un caso similar.

La herramienta se basa en la cara de la víctima para generar una imagen de ella sin ropa, teniendo en cuenta detalles como su complexión o tono de piel. Las familias de las menores denunciaron el gran realismo de las imágenes falsas. El caso español también avanzó por la vía penal, terminando en una condena de un año de libertad vigilada y un curso de formación para los acusados, que en el momento de los hechos tenían entre 12 y 14 años.

La resolución de la AEPD revela que la institución decidió investigar de oficio lo sucedido, a raíz de las publicaciones en medios de comunicación. “Los hechos consistían en la manipulación de imágenes con inteligencia artificial para asociar rostros reales de un grupo de personas a cuerpos desnudos que no les correspondían. Estas imágenes manipuladas fueron difundidas por sus autores a través de redes sociales, un grupo de mensajería, y, según la información publicada, también en portales de internet como Only fans y diversas páginas pornográficas”, explica el organismo.

La AEPD pudo acceder a la identidad de los presuntos autores gracias a la información facilitada por la Fiscalía. Tras un análisis, el regulador decidió imponer la citada multa de 2.000 euros a los “progenitores y, por lo tanto, representantes legales” de uno de los menores implicados. Estos han optado por acogerse a las dos reducciones posibles para este tipo de sanciones, asunción de responsabilidad y pronto pago, de un 20% cada una. La cifra final de la multa ha sido, por tanto, de 1.200 euros.

El regulador de privacidad recuerda que la imagen de una persona es un dato personal y que los hechos se refieren a la difusión de imágenes manipuladas con IA de menores, que “cuentan con una protección reforzada en el ámbito de la protección de sus datos”.

La AEPD, en cambio, no profundiza en esta resolución en la responsabilidad de los creadores de la aplicación ClothOff, dedicada específicamente a generar imágenes de mujeres desnudas sin su consentimiento. En el caso estadounidense, la víctima que ha llevado el caso a los tribunales cita expresamente lo sucedido en Almendralejo para justificar la afectación mundial que ha tenido esta herramienta.

En otra resolución por unos hechos posteriores a este, la AEPD se vio obligada a archivar una denuncia similar debido a la imposibilidad de identificar al responsable de la difusión de una imagen de desnudo integral de una alumna de un instituto.

“Es una pandemia de violencia tremenda a la que hay que combatir con estrategias políticas, grupos de trabajo y protocolos eficaces de protección a las víctimas”, denunció en Al Adib, divulgadora y educadora sexual, quien hizo pública la denuncia del grupo de madres pacenses a través de sus redes sociales después de que se difundieron imágenes falsas de sus hijas.