La plateforme anciennement connue sous le nom de Twitter est dans une situation très chaude cette semaine, suite à des informations selon lesquelles son IA Grok était utilisée pour générer des images sexualisées et violentes de vraies femmes sans leur consentement.
Plus tôt ce mois-ci, une étude de Bloomberg a affirmé que Grok était utilisé pour créer des milliers d'images « nudifiantes » chaque heure. À la suite de ce rapport, les régulateurs et les gouvernements du monde entier ont lancé des enquêtes et/ou ont demandé à X de mettre de l’ordre dans ses affaires.
Il a également été question d’interdire X dans certains pays. La société a maintenant pris sa première mesure en réponse, limitant les fonctionnalités de génération et d'édition d'images de Grok aux seuls abonnés payants.
Est-ce que cela résout le problème ? Pas immédiatement, mais comme le souligne le Guardian, cela signifie que les personnes qui créent de telles images « voient leurs coordonnées complètes et celles de leur carte de crédit stockées par X, et peuvent donc être identifiées » si nécessaire.
« Quiconque utilise Grok pour créer du contenu illégal subira les mêmes conséquences que s'il télécharge du contenu illégal », a tweeté le propriétaire de X, Elon Musk, alors que les critiques montaient. Mais les régulateurs ne semblent pas être d’accord avec toute tentative de rejeter entièrement la responsabilité sur les utilisateurs de X.
