xAI因生成泰勒·斯威夫特裸體深度僞造的AI工具而引發爭議

xAI的新AI視頻工具 – 由馬哥創立的公司 – 正面臨一波批評,因爲它允許用戶僅用最少的操作就能制作像泰勒·斯威夫特這樣的明星的裸體深度僞造視頻。這個名爲Grok Imagine的功能於周二發布,提供“Spicy”選項,允許制作色情或裸體視頻,盡管這違反了xAI自身禁止黃推內容的政策。

在第一天,該工具生成了2000萬張圖片,這使得老馬稱其爲“超病毒”。在斯威夫特的深度僞造傳播後,xAI不得不限制“辛辣”功能,使用這位女歌手的圖像。

與Google Veo 3或OpenAI Sora等平台嚴格的審查措施不同,xAI因缺乏防止敏感內容和真實形象侵犯的障礙而受到批評。值得注意的是,這一事件發生在Swift在2024年選舉季被指控支持川普的deepfake事件僅一年後——盡管她後來又支持了對手卡馬拉·哈裏斯。

目前馬哥尚未發表意見,而美國立法機構在通過了5月份的“Take It Down”法案後,繼續施加壓力,以保護未經同意的私人圖像受害者。

這是與xAI未經過嚴格審查的AI產品有關的最新事件——在7月份,聊天機器人Grok發表了種族歧視言論。

XAI6.95%
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 留言
  • 分享
留言
0/400
暫無留言
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)