Los 10 días de porno machista que pueden costar caro a Elon Musk: “No es cuestión de bikini o burka, sino de consentimiento”

“Grok es la número 1 en España”, presumía esta semana Elon Musk. La app de su inteligencia artificial superó a ChatGPT unos breves instantes entre las más descargadas en Google Play, la tienda de aplicaciones de Android. Una escalada que se ha producido a la vez que la avalancha de denuncias públicas e institucionales contra Musk y su desarrolladora, xAI, por permitir su uso para desnudar a mujeres e incluso menores de edad. Los especialistas consultados, no obstante, dudan que el escándalo pueda pasar factura.

Este tipo de ataques se han viralizado desde el 31 de diciembre en X, la red social del magnate, ante la pasividad de este y de la plataforma para contrarrestarlos. Grok está integrado de manera nativa en X, permitiendo a los usuarios citar a la IA en sus publicaciones para que aclare dudas, verifique hechos o responda preguntas. Desde agosto, también puede generar imágenes, algo que algunos usuarios están aprovechando para que Grok modifique una fotografía publicada en la red social para quitarle la ropa, mostrando a la persona en lencería o bikini.

Sus contestaciones se publican de manera abierta y son visibles para todos los usuarios, lo que aumenta el impacto del ataque contra la propia imagen. Aunque puede lanzarse contra cualquier persona, la mayoría de afectadas son mujeres, tanto personalidades públicas como usuarias anónimas de X, así como menores de edad.

La situación ha provocado múltiples quejas contra el hombre más rico del mundo y su plataforma. “El contenido sexual degradante y el material de abuso sexual infantil no son consecuencias inevitables de la tecnología. Son el resultado de una estrategia de producto deliberada por parte de X y de Elon Musk”, ha denunciado Hilary Manson, cofundadora de Hidden Doors, una desarrolladora de IA especializada en videojuegos.

Investigaciones independientes, como la realizada por la organización AI Forensics, han documentado más de 800 vídeos e imágenes que simulaban agresiones sexuales, feminicidios y vídeos pornográficos generados por Grok a partir de fotos de mujeres reales sin su consentimiento.

“El entorno que permite que esto prospere existe desde hace tiempo. La IA amplifica estos fallos ya presentes en el sistema y agrava los daños”, recalca la especialista: “Hemos tolerado la falta de seguridad en las redes sociales, la desatención general y la escasa aplicación de la ley frente a los delitos sexuales contra mujeres y menores”. “Ahora hay un líder que se aprovecha de todo ello sin ninguna consideración por los daños que causa”.

Musk se mofó de este tipo de denuncias en X, publicando una imagen suya en bikini generada por Grok. Sin embargo, la Unión Europea y organismos reguladores de múltiples países ya habían puesto a la plataforma en su punto de mira. Ante la presión, Musk ha terminado dando orden este viernes de bloquear la generación de imágenes en Grok, excepto para los usuarios de pago. Una maniobra que podría tener como objetivo impedir que usuarios anónimos utilicen la herramienta sin poder ser identificados por la Justicia en caso de ser necesario.

La UE pide información

“Somos plenamente conscientes de que X, a través de Grok, está ofreciendo ahora un 'modo picante' que muestra contenido sexual explícito, con algunas salidas generadas que incluyen imágenes de apariencia infantil. Esto no es 'picante'. Es ilegal. Es espantoso. Es repugnante. Así es como lo vemos, y esto no tiene cabida en Europa”, ha declarado este viernes un portavoz de la Comisión Europea.

Bruselas ha ordenado a X que retenga todos los documentos y datos internos relacionados con Grok hasta finales de 2026, aunque todavía no ha abierto una comunicación oficial. También se ha descartado una posible prohibición de Grok.

“No estamos aquí para prohibir plataformas. No estamos aquí para decirles a los ciudadanos qué plataforma es más segura o qué herramienta de IA es mejor. Nuestro objetivo es obligar a cada plataforma a poner su propia casa en orden. Es responsabilidad de X encargarse de Grok y asegurarse de que no genere ese tipo de contenido”, ha continuado el portavoz de la Comisión Europea.

Al movimiento de la UE se suman otros como el de Francia y Reino Unido, que han llevado el caso ante la justicia. En España, la ministra de Juventud e Infancia, Sira Rego, remitió un escrito a la Fiscalía para solicitar que investigue a Grok por presuntos delitos de difusión de material de violencia sexual contra la infancia.

Los juristas consultados dudan de que el escándalo vaya a salirle gratis a Elon Musk. “Estoy prácticamente seguro de que les van a abrir un expediente”, avanza Borja Adsuara, abogado especializado en derechos digitales, que explica que las leyes europeas establecen que las redes sociales “tienen que suprimir el ilícito en cuanto son conscientes de él”.

El propio Musk, con su mofa autopublicando una imagen falsa que le mostraba en bikini, reconoció ser consciente del escándalo y estar ignorándolo. En su debe, detalla Adsuara, está el “haber permitido que se difunda, con independencia de qué o quién lo haya hecho”. “Esto es lo que despista a la gente. No es una cuestión de bikini o burka, sino de consentimiento”, “tú tienes derecho a que otros no manipulen tu imagen”.

El abogado se refiere así a una reacción que ha existido en X a raíz de la polémica. Creadoras de contenido de OnlyFans aprovecharon toda la atención que estaba generando la situación para pedirle a Grok que las desnudara en sus propias fotos y conseguir suscriptores. La reacción de una parte de los usuarios fue solicitar a la IA que las mostrara con un burka.

La generación de imágenes de mujeres en bikini o lencería mediante inteligencia artificial se mueve, en todo caso, en un vacío legal. Los juristas consultados dudan que suponga un delito por si mismo, si no va acompañado de una campaña de acoso. Esto cambia si las víctimas son menores. En España el Código Penal incluye tanto la generación de imágenes “reales” como las “realistas”. El proyecto de ley de protección de menores en entornos digitales, que se encuentra en trámite en el Congreso, incluye una disposición para extender una protección similar a los adultos.

elDiario.es ha contactado con X y xAI, que no han contestado a los requerimientos de información. Tampoco han emitido ningún comunicado oficial sobre lo sucedido.

El canal de denuncia prioritaria para las víctimas

Las víctimas de este tipo de ataques tienen diferentes cauces para denunciar lo sucedido, explica la abogada especialista en privacidad Elena Gil. Uno de ellos, no siempre conocido, es el Canal Prioritario de la Agencia Española de Protección de Datos (AEPD). “Ellos tienen mecanismos de comunicación urgente con las redes sociales para retirar el contenido en horas sin que tú tengas que pegarte directamente con una gran plataforma. Este diría que es el mayor mitigante del daño, que en la mayoría de ocasiones es reputacional”, señala.

Esta herramienta se puede activar para frenar la difusión de ataques sexuales, pero también de violencia o vejaciones en las que se vean involucrados menores. Es gratuito. El proceso activa también la investigación de la AEPD, que podría sancionar al responsable de los hechos si puede identificarlo. Sus multas, no obstante, son administrativas, no indemnizatorias.

“El Canal Prioritario es el mecanismo que iría primero, para que el contenido deje de estar ahí. Luego, si se quiere ir contra la propia persona, ahí es donde entra la denuncia ante la Policía”, desglosa Gil. La abogada avisa, eso sí, que el procedimiento jurídico es largo y “puede llevar años”. “Si realmente te han provocado un daño, pues desde luego puedes tener una indemnización, y pedir una multa para la persona autora. Pero eso sirve de poco si la foto sigue colgada en redes, que es lo que normalmente te provoca el daño”, insiste.

Más allá del impacto emocional inmediato, este tipo de ataques provoca un daño reputacional en las víctimas, como señala Gil. La manipulación de una imagen para mostrar a alguien en ropa interior o en una situación sexualizada altera la percepción pública de esa persona y la expone a juicios, burlas o acoso. Al difundirse de forma pública en una red social, el contenido pasa a formar parte de la huella digital de la víctima, afectando a su vida personal, profesional y social.

Recientemente, la política de Irlanda del Norte Cara Hunter ha revelado que un deepfake porno de contenido sexual difundido en 2022 sigue afectando a su vida personal. “Ahora hay chicas que me llaman para decirme que les ha pasado lo mismo y que les ha arruinado la vida. Una joven me contó hace poco que le había pasado a ella y a otras 14 personas, todas menores de 18”, ha relatado Hunter.

La actriz española Sara Sálamo, una de las afectadas, se ha posicionado en el mismo sentido. “Durante años he dicho que he rechazado papeles porque hay personas que cogen secuencias de mis pelis de ficción, las sacan de contexto y las suben a páginas porno. Eso ya era violencia. Lo dije como actriz, pero sobre todo como madre. Porque no es abstracto: son mis hijos, su colegio, lo que oyen, lo que cargarán en unos años... Ahora resulta que ni siquiera dejando de trabajar basta. Porque con una IA y cero escrúpulos pueden volver a sexualizarte sin tu consentimiento”.

Tensión por el control de las plataformas

Hace solo un mes la Comisión Europea multó a X con 120 millones de euros por incumplir sus obligaciones de transparencia de acuerdo a la ley de servicios digitales. Ha sido la primera multa europea contra la plataforma de Musk por violar la legislación comunitaria. La sanción provocó incluso un comentario del presidente estadounidense, Donald Trump, que la calificó de “desagradable” y avisó de que Europa “va en mala dirección”.

En un intento por tratar de rebajar las tensiones con EEUU, la Comisión rebajó la normativa de la Inteligencia Artificial. Las prácticas de alto riesgo de la IA, como la creación de contenidos manipulados, tendrán una moratoria de 16 meses para que las empresas puedan adaptarse a las nuevas exigencias. Las ONG calificaron la nueva regulación como “el mayor retroceso de los derechos digitales fundamentales en la historia de la UE”.

Pero este paso no evitó la represalia de la Administración Trump, que en un primer momento amenazó con multar a empresas europeas, aunque no cuenta con legislación para ello, y posteriormente impuso la prohibición de viajar a EEUU a ciudadanos europeos que han destacado por su posición contra el discurso de odio en internet.

Con el apoyo legislativo de la DSA y la DMA, Bruselas sancionó a Apple y Meta con 500 y 200 millones de euros por vulnerar leyes digitales, además multó con 2.950 millones a Google por prácticas abusivas con la publicidad digital y le abrió una investigación por manipular los resultados de búsqueda de medios de comunicación, y también está haciendo indagaciones sobre Microsoft y Amazon por su posición de mercado de servicios en la nube, entre otras sanciones.

El Gobierno de Trump no ha parado de amenazar con que “si la UE y sus Estados miembros insisten en seguir restringiendo, limitando y desalentando la competitividad de los proveedores de servicios estadounidenses mediante medidas discriminatorias, Estados Unidos no tendrá más remedio que empezar a utilizar todos los instrumentos a su disposición para contrarrestar medidas irrazonables”.

Mientras, la Comisión Europea se defiende al recordar que “la UE es un mercado único abierto y basado en reglas, con el derecho soberano de regular la actividad económica de acuerdo con nuestros valores democráticos y compromisos internacionales”. Las espadas siguen el alto.