美媒:中國生成大量AI假帳號 發布短片攻擊川普

美媒近日報導稱,有來自中國的假戶口網絡以人工智能(AI,Artificial Intelligence)生成虛構人臉、創造虛假粉絲,在社交媒體 Facebook、Twitter 及 YouTube 上抨擊美國總統川普,消息引發廣泛關注。

據《華盛頓郵報》等多家美媒援引Graphika網絡公司的研究報告稱,自6月以來,有來自中國的假賬戶網絡 (Chinese network of fake accounts) 一直在Facebook、Twitter 及 YouTube 上發布批評川普政府的英語片段,並使用假賬戶轉發及發表評論,以吸引更多人瀏覽。乍看之下,並不察覺那些帳戶個人資料照片有任何異樣,但仔細觀察後,Graphika 發現似乎是由創建虛假人臉的 AI 程序生產而成。

專家:AI生成的偽造賬號有共同特點 親中立場毫不掩飾

總部位於紐約的Graphika的調查主管Ben Nimmo說:「這個網絡要是成功了可能會快速傳播開來。但也意味著這些發布虛假消息的網絡,他們必須密切關注所有美國對華政策,並力爭在新聞發出的1周內做出視頻來進行欺騙。」

報導稱,研究人員對這些假帳號關注新聞事件做出快速反應的能力感到震驚。當川普命令上個月關閉在休斯敦的中國領事館時,該網絡在幾天內回應了三段錄像,質疑美國此舉的合理性並為中國的潛在對策辯護。

Graphika首席創新官CamilleFrançois說: 「這些視頻主要是批判美國現有的選舉、種族問題和攻擊川普政府對COVID-19的處理方法。而且這些賬戶並沒有掩蓋他們與中國的隸屬關係,因為其中一些具有AI生成的偽造的個人資料圖片,但是對於親中立場毫不掩飾。」

Graphika 解釋這些假帳號的頭像有一個共同點就是模糊的背景,以及照片中眼球位置等,並指這些奇怪的照片很大可能是「生成對抗網絡(GAN,Generative Adversarial Network)」的作品。GAN是一種機器學習技術,擅長創建看似真實但偽造的人臉。該技術可以通過研究真人,學習如何將面部特徵重新創建,來製造合成人臉。由於目前AI程序通常很難在假人的臉部周圍展現耳環和其他物體,背景往往模糊不清。

根據Graphika的說法,那些片段製作是粗陋,帶有文法錯誤及尷尬的自動旁述,有些將美國(US)稱為「我們(us)」。在 Reddit 討論區上,有網民評論指中共大概是在 http://thispersondoesnotexist.com 截下照片,然後發布。

美國情報單位指出中國不希望川普當選

早前,美國情報單位曾表示,中國政府不希望川普在11月贏得連任,因為中國政府認為川普「難與預料」。在上周監督選舉安全的美國反情報總監(NCSC)凡尼娜(William Evanina)認為,中國正在「塑造他們想要美國政策環境」所作的努力與俄羅斯不希望拜登當選。

雖然目前Graphika並未將Spamouflage Dragon與中國政府視為相同的。但是該網絡已經製作了一些視頻,這些視頻對於埃凡尼娜(William Evanina)指控中國政府所為,試圖做出辯解。

Graphika還發現,8月4日,該網絡發布了一段視頻,批評川普威脅要從美國驅逐TikTok應用程序,指控他「禁止群眾發表言論自由」。

關注時事,訂閱新聞郵件
本訂閱可隨時取消

評論被關閉。