Bruselas abre una investigación sobre Grok y X por la creación de imágenes pornográficas no consentidas

Bruselas vuelve a poner a Elon Musk contra las cuerdas. La Comisión Europea ha anunciado este lunes el inicio de una nueva investigación contra X bajo la Ley de Servicios Digitales (DSA) para evaluar si la empresa controló y mitigó adecuadamente los riesgos asociados con el despliegue de las funcionalidades de la inteligencia artificial Grok en la red social X en la UE. La investigación se va a centrar en la difusión de contenido ilegal en la UE de imágenes sexuales manipuladas, incluyendo contenido que puede constituir “abuso sexual infantil”.

Un portavoz de la Comisión Europea ha explicado que “se ha visto imágenes pornográficas de mujeres no consensuadas y se ha visto material de abuso sexual infantil en Europa. Ninguna empresa ganará dinero violando nuestros derechos fundamentales. Alguien argumentará que X ha limitado estas funcionalidades a suscriptores Premium. Seamos muy claros, el material de abuso sexual infantil no es un privilegio premium, porque tal contenido no tiene cabida en Europa. Vamos proteger a nuestros ciudadanos de posibles daños futuros”.

 El Center for Countering Digital Hate (CCDH) realizó un informe en el que señalaba que con la inteligencia artificial de Elon Musk, Grok, se generaron en su red social X aproximadamente tres millones de imágenes sexualizadas fotorrealistas, la mayoría de mujeres que no dieron su consentimiento para su creación, y unas 23.000 que mostraban a niños y adolescentes. Otra investigación independiente, como la realizada por la organización AI Forensics, han documentado más de 800 vídeos e imágenes que simulaban agresiones sexuales, feminicidios y vídeos pornográficos generados por Grok a partir de fotos de mujeres reales sin su consentimiento.

A principios de enero, Bruselas ya había solicitado a X que retuviera todos los documentos y datos internos relacionados con Grok hasta finales de 2026. Entonces no se había abierto aún la investigación oficial, pero un portavoz de la Comisión Europea señaló que “somos plenamente conscientes de que X, a través de Grok, está ofreciendo ahora un 'modo picante' que muestra contenido sexual explícito, con algunas salidas generadas que incluyen imágenes de apariencia infantil. Esto no es 'picante'. Es ilegal. Es espantoso. Es repugnante. Así es como lo vemos, y esto no tiene cabida en Europa”.

El escándalo fue de tal magnitud que el multimillonario tecnológico tuvo que dar su brazo a torcer y once días después limitó algunas funcionalidades de su IA a los suscriptores de pago, precisamente aquellas que permitían la creación de imágenes pornográficas con personas o representaciones de violencia sexual generadas con Grok. 

Se esperaba que la Bruselas iniciase la investigación ante las pruebas palpables de la falta de control en la gestión de imágenes pornográficas falsas generadas por la IA de Musk, pero el Gobierno de Donald Trump ha estado presionando para que la UE retire multas y deje de investigar a las grandes corporaciones estadounidenses.

Según la Comisión, los riesgos parecen haberse materializado y han “expuesto a los ciudadanos de la UE a un grave daño”. Como consecuencia, la Comisión investigará más a fondo si X cumple con sus obligaciones del DSA relacionadas con la evaluación y mitigación diligentemente de riesgos sistémicos, incluyendo la difusión de contenido ilegal, los efectos negativos en relación con la violencia de género y las graves consecuencias negativas para el bienestar físico y mental derivadas del despliegue de las funcionalidades de Grok en su plataforma, además de comprobar si se realizó un informe de evaluación de riesgos ad hoc para las funcionalidades de Grok en el servicio X antes de su implementación.

No es el único dolor de cabeza que le ha dado Grok a Musk en la Unión Europea. En septiembre, la Comisión también le solicitó información a la red social por los contenidos antisemitas que estaba generando la inteligencia artificial.

Paralelamente, la Comisión ha ampliado su investigación en curso lanzada en diciembre de 2023 sobre el cumplimiento por parte de X de sus obligaciones de gestión de riesgos de los sistemas de recomendación, debido a un reciente anuncio de cambio a un sistema de recomendación basado en Grok.

Al preparar esta investigación, la Comisión señala que ha colaborado estrechamente con Coimisiún na Meán, el Coordinador de Servicios Digitales de Irlanda.

Multa de 120 millones a X

La investigación se puede traducir en una multa millonaria para la red social de Elon Musk. No sería la primera penalización que sufre X. El pasado diciembre Bruselas le impuso a la red social de Musk 120 millones de euros de multa por incumplir sus obligaciones de transparencia de acuerdo a la ley de servicios digitales comunitaria. Ha sido la primera decisión contra una plataforma por violar esa legislación.

Las infracciones de la empresa de Elon Musk, según explicó la CE en un comunicado, incluyen el “diseño engañoso” de su marca de verificación azul, la falta de transparencia de su repositorio publicitario y la falta de acceso a los datos públicos para los investigadores.

Las relaciones entre la Comisión Europea y Musk se han deteriorado profundamente en el último año. Hace justo un año, Bruselas decidió dejar de pagar por promocionar sus contenidos en la red social X, ante los desafíos constantes de Musk a las reglas europeas en materia digital.