假泰勒絲裸照「令人擔憂」- 白宮

(SeaPRwire) –   據報導,AI生成的假泰勒絲裸照在X平台上被觀看超過4700萬次,直到該帳號被停用。

流傳於社交媒體平台的流行歌手泰勒絲性感「照片」在本週早些時候引起了「令人不安」,白宮發言人卡琳·讓-皮埃爾在周五的新聞簡報會上告訴記者,政府將採取行動打擊未經同意的AI色情內容,並承諾將來將制定相關法律。

「我們將盡我們所能解決這個問題,」讓-皮埃爾說,並補充說,國會應該通過立法,社交媒體平台應該打擊分享和發布這類圖像。

「雖然社交媒體公司可以自行決定內容管理政策,但我們認為它們在執行自己的規則以防止傳播錯誤信息和未經同意的親密圖像是很重要的。」她說。

這些圖像中的一張,在X平台上發布後被觀看超過4700萬次,根據《紐約時報》的報導。X聲稱正在努力移除這些圖像,並已暫停了多個發布這些圖像的帳號。該平台的使用條款禁止分享真人的AI生成圖像,無論是色情圖像或其他圖像。

周六下午,在X平台上搜索「泰勒絲」會返回一個錯誤。一名泰勒絲粉絲在平台上說,這個搜索詞已經被「禁止」。但是,如果在「泰勒絲」前加上其他詞如「保護」或「AI生成」,仍然可以搜索到相關內容。

一些圖像最初於周四在一個名為「非法AI生成女性性圖像」的Telegram群組中發布,根據科技博客404 Media的報導。其他圖像在過去幾週一直在4chan和其他論壇流傳,直到最近才在主流社交媒體上傳播並引起熱議。

許多圖像是使用微軟的Designer創建的,這是一款商業可用的AI文字到圖像生成器。Telegram群組向新手解釋如何規避微軟自己對名人深度偽造和色情內容的保護機制,指出雖然程序在「泰勒絲」這個提示下不會生成圖像,但對「泰勒歌手絲」這樣的提示會給出肯定的回應。

微軟告訴該博客正在調查這些報告並採取相應行動應對,指出其服務條款禁止使用該程序創建「成人或未經同意的親密內容」。

美國國會議員本月初在眾議院提出法案,旨在對AI音頻和視頻深度偽造進行聯邦控制。據報導,該《禁止人工智能假回復和未經授權複製法案》(NO AI FRAUD法案)是基於參議院類似法案《培養原創作品,保護藝術和保障娛樂安全法案》(NO FAKES法案),允許名人對未經許可使用其形象或聲音創建「數字複製品」的人提起訴訟。