El Gobierno francés denuncia la IA de X ante la Justicia por generar contenidos sexistas

El Gobierno francés anunció este viernes que ha presentado una denuncia ante la Justicia, y ante el organismo de verificación de contenidos ilícitos en línea Pharos, contra la inteligencia generativa Grok, de la red social X, propiedad del multimillonario Elon Musk, por crear y divulgar “contenidos de carácter sexista y sexual”.

En un comunicado, los ministros de Economía, Roland Lescure; de la Inteligencia Artificial y la Economía Digital, Anne Le Henanff; y de Igualdad entre Hombres y Mujeres, Aurore Bergé, señalaron que dan ese paso amparándose en el artículo 40 del Código Penal francés.

Lo hacen porque dicen que “estos últimos días” Grok ha permitido generar y difundir “contenidos de carácter sexista y sexual, en particular en forma de falsos vídeos ('deepfakes') con personas sin su consentimiento”.

Se refieren así a la avalancha que se ha constatado sobre todo desde finales de diciembre de vídeos elaborados a partir de las peticiones de usuarios de X que le pedían a su inteligencia artificial que generara imágenes de mujeres desnudas y eso sin pedirles permiso.

Los tres ministros franceses condenaron “con la mayor firmeza” estas prácticas y subrayaron “el compromiso constante del Gobierno (francés) en la lucha contra cualquier forma de violencia sexual y sexista”.

Insistieron en que internet no es ni un espacio sin ley ni “una zona de impunidad” y que los delitos sexuales en línea son infracciones penales sobre las que se aplica la legalidad, como al resto.

En paralelo a su acción ante la Justicia, el Ejecutivo francés ha pedido a la Autoridad de Regulación de la Comunicación Audiovisual y Digital (Arcom) que verifique si X ha incumplido las obligaciones que derivan del Reglamento de Servicios Digitales de la Unión Europea, en particular en lo que respecta a la prevención de difusión de contenidos ilícitos.