Elon Musk limita la generación de imágenes por IA en X tras la ola de denuncias por pornografía no consentida

Por una vez, Elon Musk ha tenido que dar su brazo a torcer. La ola de indignación y el riesgo real de que su red social fuera bloqueada o sancionada por la justicia de varios países han forzado al magnate a desativar la capacidad de generar imágenes con su inteligencia artificial, Grok, que se estaba utilizando masivamente para crear montajes de mujeres y menores de edad sin ropa.

La decisión llega tras semanas de críticas por la proliferación descontrolada de pornografía no consentida y representaciones de violencia sexual generadas con su IA, que está integrada de manera nativa en la red social X, también de su propiedad. Sin embargo, la función no ha desaparecido, sino que queda limitada para los “suscriptores de pago” de la plataforma, según ha revelado la propia IA en un mensaje.

Esta medida no desactivará por completo la generación de estas imágenes, pero dificultará que usuarios anónimos hagan uso de la herramienta y esquiven las consecuencias legales. La generación de este tipo de contenidos, conocidos como “deepfakes”, se ha convertido en un ataque cada vez más habitual contra las mujeres en internet, tanto personalidades públicas como usuarias anónimas.

La polémica estalló a finales de diciembre tras una actualización de Grok que facilitó la creación de imágenes hiperrealistas sin apenas salvaguardas éticas. Investigaciones independientes, como la realizada por la organización AI Forensics, detectaron cientos de vídeos e imágenes que simulaban agresiones sexuales, feminicidios y vídeos pornográficos generados a partir de fotos de mujeres reales sin su consentimiento.

En un primer momento, Musk intentó restar importancia a la situación publicando una imagen suya en bikini generada por Grok. Sin embargo, la Unión Europea y organismos reguladores de múltiples países ya habían puesto a la plataforma en su punto de mira. Bruselas ha ordenado al magnate que conserve el registro de todas las imágenes generadas por Grok en este período con el fin de investigar lo sucedido.

En España, la ministra de Juventud e Infancia, Sira Rego, pidió este miércoles a la Fiscalía que investigue a X por presuntos “delitos de difusión de material de violencia sexual contra la infancia”, mientras que el Reino Unido, por ejemplo, ha llevado el caso ante la justicia por presunta creación de pornografía no consentida y abuso infantil. El Gobierno francés, por su parte, fue el primero en llevar a Musk y X ante la justicia, con una denuncia por “contenidos de carácter sexista y sexual”, presentada el 2 de enero.

Este tipo de ataques a la propia imagent están siendo perseguidos tanto judicialmente como de manera admistrativa. En noviembre, la Agencia Española de Protección de Datos impuso la primera sanción en este sentido. En aquel caso, la resolución condenó a los padres de un menor que había creado imágenes de sus compañeras de instituto desnudas con IA a pagar 2.000 euros por violación de su privacidad.