Un nouvel outil vidéo AI de xAI – la société fondée par Elon Musk – fait face à une vague de critiques pour avoir permis aux utilisateurs de créer des deepfakes de célébrités nues comme Taylor Swift avec un minimum d'effort. La fonctionnalité nommée Grok Imagine, lancée mardi, propose une option "Spicy" qui permet de créer des vidéos suggestives ou nues, bien que cela viole la politique interdisant le contenu pornographique de xAI.
Le premier jour, l'outil a généré 20 millions d'images, ce qui a conduit Musk à l'appeler « Hyperviral ». Après que le deepfake de Swift a circulé, xAI a été contraint de limiter la fonctionnalité « Spicy » avec des images de cette chanteuse.
Contrairement à des plateformes comme Google Veo 3 ou OpenAI Sora qui ont des mesures de censure strictes, xAI a été critiqué pour son absence de barrières contre le contenu sensible et les violations d'images réelles. Il est à noter que l'incident s'est produit seulement un an après que Swift a été associée à un deepfake soutenant Donald Trump lors des élections de 2024 – bien qu'elle ait ensuite soutenu l'adversaire Kamala Harris.
Actuellement, Elon Musk n'a pas pris la parole, tandis que le législateur américain continue de faire pression après avoir adopté la loi "Take It Down" en mai pour protéger les victimes d'images privées non consensuelles.
Ceci est le dernier incident lié aux produits d'IA non vérifiés de xAI – après que le chatbot Grok ait tenu des propos racistes en juillet.
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
xAI suscite des controverses en raison de l'outil d'IA créant des deepfakes nus de Taylor Swift
Un nouvel outil vidéo AI de xAI – la société fondée par Elon Musk – fait face à une vague de critiques pour avoir permis aux utilisateurs de créer des deepfakes de célébrités nues comme Taylor Swift avec un minimum d'effort. La fonctionnalité nommée Grok Imagine, lancée mardi, propose une option "Spicy" qui permet de créer des vidéos suggestives ou nues, bien que cela viole la politique interdisant le contenu pornographique de xAI.
Le premier jour, l'outil a généré 20 millions d'images, ce qui a conduit Musk à l'appeler « Hyperviral ». Après que le deepfake de Swift a circulé, xAI a été contraint de limiter la fonctionnalité « Spicy » avec des images de cette chanteuse.
Contrairement à des plateformes comme Google Veo 3 ou OpenAI Sora qui ont des mesures de censure strictes, xAI a été critiqué pour son absence de barrières contre le contenu sensible et les violations d'images réelles. Il est à noter que l'incident s'est produit seulement un an après que Swift a été associée à un deepfake soutenant Donald Trump lors des élections de 2024 – bien qu'elle ait ensuite soutenu l'adversaire Kamala Harris.
Actuellement, Elon Musk n'a pas pris la parole, tandis que le législateur américain continue de faire pression après avoir adopté la loi "Take It Down" en mai pour protéger les victimes d'images privées non consensuelles.
Ceci est le dernier incident lié aux produits d'IA non vérifiés de xAI – après que le chatbot Grok ait tenu des propos racistes en juillet.