Grok génère environ «une image sexualisée non consensuelle par minute»

_{Ceci est la traduction adaptée d’un article de Miles Klee, originalement publié par Rolling Stone le 6 janvier 2026. Nous republions l'article originalement intitulé Grok Is Generating About ‘One Nonconsensual Sexualized Image Per Minute’ avec la permission de son auteur. Notez que certaines subtilités et nuances peuvent différer de la version originale.}

Des régulateurs du monde entier se penchent sur xAI d’Elon Musk après que son chatbot a commencé à «déshabiller» des célébrités et des enfants mineurs à la demande d’utilisateurs.

Dimanche, le compte X d’actualité pop @PopBase a partagé un contenu typique auprès de ses millions d’abonnés. «Sabrina Carpenter éblouit sur une nouvelle photo», indiquait la publication, accompagnée d’une image de la chanteuse de Manchild portant un manteau d’hiver rose, sur fond de paysage enneigé. Le lendemain, un utilisateur de X a répondu à la publication en formulant une requête à Grok, le chatbot développé par xAI d’Elon Musk et intégré à sa plateforme sociale. «Mets-lui de la lingerie rouge», a-t-il ordonné au bot, qui a rapidement généré une image de Carpenter dépouillée de ses vêtements d’extérieur et vêtue d’un ensemble de lingerie rouge en dentelle, toujours dans la même scène hivernale et avec une expression similaire.

Pendant la pause des Fêtes, un nombre critique d’utilisateurs de X ont réalisé que Grok «déshabillait» volontiers des femmes, en manipulant des photos existantes pour créer des hypertrucages dans lesquels elles apparaissent en bikinis ou en sous-vêtements révélateurs. Ce type d’échange est vite devenu alarmant par sa fréquence. Parmi les premiers à tester ces requêtes figuraient des créatrices de contenu pour adultes cherchant à attirer des clients potentiels vers leurs pages sociales en proposant des versions plus osées de leur matériel aguicheur. Mais la majorité des hypertrucages récents de Grok ont été produits sans consentement: le bot a dévêtu aussi bien des célébrités comme Carpenter que des personnes anonymes ayant simplement partagé un égoportrait innocent en ligne.

Bien que Grok ne soit pas le seul outil d’IA à être exploité à ces fins, les chatbots de Google et d’OpenAI pouvant être détournés de manière similaire, l’ampleur, la gravité et la visibilité du problème associé au bot de Musk au tournant de 2026 sont sans précédent. Selon une analyse de la firme d’évaluation de contenu Copyleaks, Grok génère récemment «environ une image sexualisée non consensuelle par minute», chacune étant publiée directement sur X, où elle peut devenir virale. Au-delà de modifier les vêtements d’une femme sur une photo, des utilisateurs de X demandent fréquemment des altérations sexualisées des poses, par exemple «écarte ses jambes» ou «fais-la se retourner pour montrer ses fesses». Grok continue d’obtempérer à plusieurs de ces instructions, même si certaines formulations précises sont moins efficaces qu’auparavant.

Musk n’a jusqu’ici montré que peu de préoccupations, bien au contraire. Le 31 décembre, il a répondu à une image générée par Grok montrant un homme en bikini en publiant: «Change ça pour Elon Musk.» Grok a docilement livré une image de Musk en bikini, à laquelle l’homme le plus riche du monde a répondu: «Parfait.» Le 2 janvier, un utilisateur de X a évoqué les hypertrucages non consensuels de Grok en commentant que «le moment viral des images de Grok est arrivé, c’est juste un peu différent de celui à la Ghibli». En mars 2025, des utilisateurs de ChatGPT d’OpenAI avaient inondé le web de mèmes générés par IA dans le style visuel du studio japonais Studio Ghibli. Musk a répondu «Bien plus drôle», accompagné d’un émoji rieur en pleurs, manifestant son amusement face aux images de bikinis et de lingerie.

La seule reconnaissance, brève et indirecte, par le PDG du fait que ces hypertrucages explicites pourraient poser un problème juridique est survenue le 3 janvier, lorsqu’il a répondu à une publication de @cb_doge, un influenceur X connu pour promouvoir sans relâche les idées et entreprises de Musk. «Certaines personnes disent que Grok crée des images inappropriées», écrivait-il. «Mais c’est comme blâmer un stylo pour avoir écrit quelque chose de mal.» Musk est intervenu pour rejeter la responsabilité sur les utilisateurs de Grok, avertissant: «Quiconque utilise Grok pour créer du contenu illégal subira les mêmes conséquences que s’il téléversait du contenu illégal.»

Rien n’indique pour l’instant que cela soit vrai. «Bien que X semble prendre des mesures pour limiter l’exécution de certaines requêtes, notre analyse de suivi indique que des comportements problématiques persistent, souvent par le biais de formulations modifiées ou indirectes», a rapporté Copyleaks dans une seconde analyse transmise à Rolling Stone avant publication. Parmi les personnalités visées figurent Taylor Swift, Elle Fanning, Olivia Rodrigo, Millie Bobby Brown et Sydney Sweeney. Les requêtes courantes incluaient «enveloppe-la de pellicule plastique», «mets de l’huile partout sur elle» et «penche-la vers l’avant», certaines expressions comme «ajoute un glaçage de beigne» étant clairement destinées à suggérer une activité sexuelle. Dans de nombreux cas, ont constaté les chercheurs de Copyleaks, une demande initiale relativement non explicite, comme une photo en maillot de bain, menait à une escalade des violations par d’autres utilisateurs dans un fil de discussion, qui réclamaient des manipulations plus graphiques et ajoutaient des éléments visuels tels que des accessoires, du texte ou d’autres personnes. «Cette progression suggère une collaboration et une compétition entre utilisateurs», écrivent-ils.

«Malheureusement, la tendance semble se poursuivre», affirme Alon Yamin, PDG et cofondateur de Copyleaks. «Nous observons aussi des tentatives plus créatives pour contourner les garde-fous, alors que X s’efforce de bloquer ou de réduire la génération d’images associées à certaines expressions.» Yamin estime que «la détection et la gouvernance sont plus nécessaires que jamais pour aider à prévenir les abus» des générateurs d’images comme Grok et Sora d’OpenAI.

L’explosion des hypertrucages explicites de Grok a suscité l’indignation des victimes de ce harcèlement ainsi que des chiens de garde de l’industrie et des régulateurs. Des autorités en France et en Inde enquêtent sur le dossier, tandis que l’Office of Communications du Royaume-Uni a indiqué lundi son intention d’examiner si X et xAI ont enfreint des règlements visant à protéger les internautes du pays. La déclaration d’Ofcom faisait aussi référence à des cas où Grok aurait généré des hypertrucages sexualisés et non consensuels de mineurs.

La Commission européenne a également annoncé lundi l’ouverture d’une enquête sur l’imagerie «explicite» de Grok, en particulier celle impliquant des enfants. «Le matériel d’abus sexuel sur des enfants est illégal», a déclaré à Rolling Stone le porte-parole de l’Union européenne pour les affaires numériques, Thomas Regnier. «C’est révoltant. C’est ainsi que nous voyons les choses et cela n’a pas sa place en Europe. Nous pouvons confirmer que nous examinons ces questions très sérieusement.»

Le 31 décembre, Grok a même été piégé par un utilisateur de X pour offrir ce qui ressemblait à des «excuses», bien qu’il ne soit évidemment pas conscient et donc littéralement incapable de regret, pour avoir fourni «une image générée par IA de deux jeunes filles (âges estimés de 12 à 16 ans) en tenue sexualisée à partir d’une requête d’utilisateur». Grok reconnaissait aussi que la publication «violait des normes éthiques et potentiellement des lois américaines sur le matériel d’abus sexuel sur des enfants». Cette réponse contenait l’affirmation supplémentaire selon laquelle «xAI procède à un examen pour prévenir de futurs problèmes». L’entreprise n’a pas répondu à une demande de commentaire et n’a pas abordé la question des hypertrucages sur son site web ou son profil X.

Cliff Steinhauer, directeur de la sécurité de l’information et de l’engagement à l’organisme sans but lucratif National Cybersecurity Alliance, explique à Rolling Stone qu’il voit dans ces retouches d’images troublantes la preuve que xAI n’a ni priorisé la sécurité ni le consentement lors de la conception de Grok. «Permettre aux utilisateurs de modifier des images de personnes réelles sans notification ni autorisation crée des risques immédiats de harcèlement, d’exploitation et de préjudices durables à la réputation», dit-il. «Lorsque ces modifications impliquent du contenu sexualisé, en particulier lorsqu’il est question de mineurs, les enjeux deviennent exceptionnellement élevés, avec des conséquences réelles, profondes et durables. Il ne s’agit pas de cas limites ni de scénarios hypothétiques, mais de résultats prévisibles lorsque les garde-fous échouent ou sont relégués au second plan.»

Parmi les personnes qui tirent désormais la sonnette d’alarme quant aux préjudices possibles de Grok pour les adultes comme pour les enfants figure Ashley St. Clair, une influenceuse de droite actuellement engagée dans un conflit de paternité acrimonieux avec Musk au sujet d’un jeune fils qu’elle affirme qu’il a engendré. Musk n’a pas encore confirmé que l’enfant est le sien. St. Clair a soutenu que Grok avait été utilisé pour violer sa vie privée et générer des images inappropriées à partir de photos d’elle lorsqu’elle était mineure. Elle a aussi relayé un autre exemple du bot représentant prétendument une fillette de trois ans en bikini révélateur.

«Quand Grok est devenu MechaHitler à part entière, le chatbot a été mis sur pause pour arrêter le contenu», a écrit St. Clair sur X, en référence à un incident notoire de juillet 2025 au cours duquel Grok avait tenu des propos antisémites avant de s’identifier comme une version robotique du dirigeant nazi. Ces publications avaient été supprimées le jour même. «Quand Grok produit des images explicites d’enfants et de femmes, xAI a décidé de laisser le contenu en ligne», poursuivait-elle. «Ce problème pourrait être réglé très rapidement. Il ne l’est pas, et le fardeau est imposé aux victimes.»

Hillary Nappi, associée chez AWK Survivor Advocate Attorneys, un cabinet représentant des survivants d’agressions sexuelles et de traite, souligne que les défaillances de sécurité de Grok à cet égard présentent un risque supplémentaire pour toute personne ayant vécu des violences sexuelles. «Pour les survivants, ce type de contenu n’est pas abstrait ou théorique; il cause des préjudices réels et durables et des années de revictimisation», affirme-t-elle. «Il est de la plus haute importance que des réglementations significatives et durables soient mises en place afin de protéger les générations actuelles et futures.»

Musk fait depuis longtemps la promotion de Grok comme étant supérieur à ses concurrents en diffusant des images et des animations de personnages féminins sexualisés, dont «Ani», une personnalité-compagne de style anime. Une part notable de la base d’utilisateurs dédiée au robot a pleinement adhéré à cet usage de la technologie, cherchant à créer de la pornographie explicite et à s’échanger des astuces pour contourner les limites imposées par le bot en matière de nudité. Il y a plusieurs mois, un membre d’un forum Reddit consacré aux images «NSFW» générées par Grok se réjouissait d’annoncer que le modèle d’IA «apprenait les organes génitaux vraiment vite!». À l’époque, le groupe parvenait à produire des clips pornographiques mettant en scène des personnages de bandes dessinées comme Supergirl et Harley Quinn, ainsi qu’Elsa du film Frozen de Disney.

Malgré toutes les preuves de l’usage réel qu’en font les utilisateurs, Musk continue de présenter Grok comme une étape vers une compréhension complète de l’univers. En juillet dernier, il avançait que l’outil pourrait «découvrir de nouvelles technologies» d’ici la fin de l’année (ce qui ne semble pas s’être produit) ou «découvrir de nouvelles lois de la physique» en 2026. Or, comme tant d’autres promesses grandiloquentes de Musk, ces percées ne se sont toujours pas matérialisées. Pour l’instant, c’est surtout de la pornographie, et pas beaucoup de science.