La plateforme Grok Imagine, conçue par la startup d’Elon Musk xAI, permet désormais de générer des vidéos animées à partir de texte ou d’images.
Mais, le lancement en mode bêta inclut un mode « Spicy » controversé, capable de créer du contenu sexuel explicite ou des deepfakes non consentis de personnalités célèbres.
Qu’est-ce que le mode « Spicy » de Grok Imagine ?
Grok Imagine propose quatre modes vidéo : Custom, Normal, Fun et Spicy. C’est ce dernier qui suscite une vague d’inquiétudes. Accessible aux abonnés SuperGrok ou Premium+, ce mode génère des vidéos à caractère sexuel — avec nudité partielle, suggestions sexuelles, ou danses très révélatrices — avec peu ou pas de filtre de modération.
Bien que la politique d’utilisation de xAI interdise la représentation pornographique de personnes réelles, Grok Imagine semble ignorer ce principe : des vidéos non consenties de Taylor Swift (ou de sosies très convaincants) ont été produites dès le premier essai, sans demander à exprès une scène de nudité.
L’outil refuse ensuite l’affichage explicite, mais la vidéo générée reste sexuelle et non censurée… après un simple clic sur le mode « Spicy ».
Un outil puissant… aux garde-fous anémiques
Le mode « Spicy » n’est pas modéré au même niveau que les outils concurrents comme Google Veo ou OpenAI Sora, qui bloquent les requests pour contenu explicite ou deepfake de célébrités. L’activation nécessite juste une confirmation d’âge très superficielle, sans preuve : une procédure jugée ridicule de facilité à contourner.
Critiques et organisations dénoncent un manque flagrant de responsabilité. Selon la National Center on Sexual Exploitation, xAI encourage inconsciemment l’exploitation sexuelle non consentie par cette absence de protection effective. L’outil compte déjà plus de 34 millions d’images générées en quelques jours uniquement, ce qui multiplie les risques de diffusion massive de contenus préjudiciables.
Impacts légaux et dérives potentielles
Ce mode controversé expose xAI à des poursuites potentielles et à des inquiétudes réglementaires croissantes. Aux États-Unis, le Take It Down Act impose la suppression rapide des contenus explicites générés sans consentement — un cadre que Grok Imagine risque de violer frontalement.
Des personnalités ont déjà évoqué les deepfakes sexuels à leur sujet créés par l’outil avant sa mise à jour. Ces dérives soulignent l’urgence d’encadrer juridiquement ce type de technologie.
Analyse : innovation ou irresponsabilité ?
- Liberté contre modération ? xAI met en avant la créativité ouverte et la vitesse, mais cette posture affaiblit sa crédibilité sur la sécurité des contenus générés.
- Effets de réputation négatifs dès le départ, avec des contenus sexuellement explicites attribués à des célébrités non consentantes.
- Risque juridique global : atteinte à la vie privée, droit à l’image, diffusion de contenu pornographique non autorisée.
Grok Imagine montre l’avenir de l’IA multimodale, mais il le fait sans encadrement. Le mode « Spicy » pose les bases d’un potentiel d’abus massif, ce que la communauté technologique et les législateurs surveillent déjà de près. Si xAI refuse de renforcer ses mesures de contrôle, elle court droit vers des conséquences juridiques et éthiques graves — tout en aggravant le fossé entre innovation et responsabilité.
