IA : Grok dans le viseur de la justice française après la diffusion d'images sexualisées sur X
L’affaire prend de l’ampleur. En France, plusieurs membres du gouvernement et des parlementaires ont saisi la justice après la diffusion, sur le réseau social X, de contenus sexuellement explicites générés par Grok, le chatbot d’intelligence artificielle développé par xAI, l’entreprise d’Elon Musk. Les ministres ont estimé que ces contenus, qualifiés de "sexuels et sexistes", étaient "manifestement illégaux".
À l’origine de la polémique, l’utilisation détournée de Grok pour modifier des photographies publiées sur X. Des utilisateurs, majoritairement des hommes, ont formulé des requêtes demandant à l’IA de "dénuder" des femmes, voire des mineurs, à partir d’images existantes. Plusieurs responsables politiques ont dénoncé ces pratiques dès le 1er janvier. La haute-commissaire à l’enfance, Sarah El Haïry, s’est dite "scandalisée" par ces usages, rappelant que "si l’image est artificielle, le préjudice est bien réel".
"Cyberharcèlement"
Sur X, des témoignages de victimes se sont multipliés. La députée insoumise Sarah Legrain a dénoncé un outil supplémentaire "pour les agresseurs", relayant le récit d’une femme ciblée par plusieurs demandes de dénudement via Grok. Le député socialiste Arthur Delaporte a, de son côté, accusé l’IA de "cyberharcèlement".
Face à la situation, Arthur Delaporte et le député du bloc central Eric Bothorel ont saisi le parquet de Paris. Le gouvernement a également procédé à un signalement au procureur de la République, sur le fondement de l’article 40 du code de procédure pénale, et a alerté l’Arcom, le régulateur français des médias, afin d’examiner une éventuelle violation du Digital Services Act européen. Les responsables politiques concernés ont condamné "avec la plus grande fermeté" la génération et la diffusion de contenus sexuels sans consentement, rappelant qu’il s’agit d’infractions pénales à part entière.
Dans la soirée, le parquet de Paris a indiqué avoir étendu à Grok l’enquête déjà ouverte contre X depuis juillet, après plusieurs signalements visant la plateforme et ses dirigeants. Le délit de montage à caractère sexuel sans consentement est passible de peines de prison et d’amendes, a rappelé le parquet.
xAI a reconnu de son côté l’existence de "failles dans les dispositifs de sécurité" ayant conduit à la diffusion d’images montrant des mineurs en tenue légère, en violation de sa propre politique. L’entreprise affirme avoir retiré les images incriminées et engagé des corrections en urgence. Grok, présenté comme plus permissif que d’autres modèles d’IA, propose depuis l’été une fonctionnalité autorisant la nudité partielle d’adultes, tout en interdisant théoriquement la sexualisation de personnes réelles et, a fortiori, de mineurs.