Investigado un hombre en Cáceres por crear y difundir 'deepfakes' sexuales de menores con Inteligencia Artificial
La Guardia Civil investiga a un varón como supuesto autor de varios delitos contra la libertad e indemnidad sexual, relacionados con la creación de imágenes sexualizadas de menores generadas mediante inteligencia artificial, conocidas como 'deepfake', en una localidad de la provincia de Cáceres.
La investigación se inició cuando la Guardia Civil tuvo conocimiento de la existencia de varias imágenes manipuladas digitalmente en las que aparecían menores de edad, perfectamente reconocibles, utilizando sus rostros sobre cuerpos desnudos mediante técnicas de edición y generación artificial de imágenes. A raíz de estos hechos se interpusieron hasta cuatro denuncias, iniciándose una investigación para esclarecer lo ocurrido e identificar al responsable.
Las gestiones practicadas permitieron averiguar que las imágenes habían sido elaboradas mediante una aplicación de inteligencia artificial utilizando fotografías obtenidas de perfiles de redes sociales de las víctimas, principalmente Instagram, con las que el investigado mantenía relación de amistad o contacto en dicha plataforma.
Advertencias de la Guardia Civil
La Guardia Civil señala que este tipo de conductas pueden constituir delitos graves contra la libertad e indemnidad sexual, especialmente cuando afectan a menores de edad, incluso aunque las imágenes hayan sido creadas artificialmente y no correspondan a fotografías reales.
Por este motivo, hace una serie de recomendaciones sobre el uso seguro de redes sociales y los riesgos de los 'deepfake', como la importancia de realizar un uso responsable y seguro de las redes sociales, especialmente entre menores de edad, ante el aumento de casos relacionados con la manipulación de imágenes mediante inteligencia artificial.
Aconseja como prevención, configurar los perfiles sociales como privados y limitar el acceso únicamente a personas de confianza, evitar compartir imágenes personales sensibles o fotografías que puedan ser utilizadas de forma indebida y supervisar periódicamente las listas de seguidores y contactos en redes sociales.
También desconfiar de aplicaciones o herramientas que permitan modificar imágenes mediante inteligencia artificial con fines aparentemente lúdicos, hablar con los menores sobre los riesgos digitales y fomentar la comunicación ante cualquier situación incómoda o sospechosa.
Conservar pruebas, capturas o enlaces en caso de detectar imágenes manipuladas o difundidas sin consentimiento, denunciar inmediatamente este tipo de hechos ante las Fuerzas y Cuerpos de Seguridad son otras recomendaciones.
Ademas, recuerda que la creación y difusión de imágenes sexuales falsas de menores mediante inteligencia artificial “no es una broma ni un juego” y puede tener graves consecuencias penales y psicológicas para la víctimas.