專家警告:AI換臉威脅國家安全

一位網路安全專家警告說,AI深度偽造技術可能損害國家安全。

倫敦大學國王學院網路安全研究小組主任Tim Stevens博士表示,深偽技術可以創造出逼真的人物圖像和視頻,有可能破壞民主體制和國家安全。

Stevens博士指出,這類工具的廣泛使用,可能會被俄羅斯等國家所利用,以惡意評論等方式「圍攻」目標人群,以實現外交政策目標,並「破壞」各國的國家安全。

他補充說:「人工智慧和深偽技術對國家安全的潛在影響是存在的。儘管這種影響可能不涉及高級別的國防和國際戰爭問題,但它會普遍削弱人們對民主制度和媒體的信任。它們可能會被俄羅斯這樣的威權政體利用,從而降低人們對這些機構和組織的信任度。」

甚麼是深偽技術?它是怎樣製作的?

如果您在TikTok上看過湯姆•克魯斯彈吉他,巴拉克•歐巴馬稱唐納德•川普為「徹頭徹尾的白痴」,或者馬克•扎克伯格吹噓他掌握了「數十億人的被盜數據」,你看到的很可能就是深偽技術創造的內容。

「深偽技術」(deepfake)是一種人工智慧技術,利用「深度學習」來操縱音頻、圖像和視頻,創造出逼真的媒體內容。該術語首次出現於2017年,當時Reddit的一位用戶,在論壇上發布了經過篡改的色情視頻。這些視頻將蓋爾•加朵、泰勒•斯威夫特和斯嘉麗•約翰遜等名人的臉部,放在色情明星身上。

深偽技術使用了人工智慧(AI)的一個子集——深度學習技術來構建被操縱的媒體。最常見的方法是使用「深度神經網路」、「編碼器演算法」、一個要插入人臉的基礎視頻和一個目標視頻的集合。深度學習AI研究各種條件下的數據,找到兩個主體之間的共同特徵,然後將目標的臉映射到基礎視頻中的人身上。

生成對抗網路(GANs)是另一種製作深偽技術內容的方法。GANs使用兩個具有雙重角色的機器學習(ML)演算法。第一個演算法創建偽造品,第二個演算法檢測偽造品。當第二個ML模型找不到不一致之處時,這個過程就完成了。

GANs的準確性取決於數據量。這就是為甚麼您會看到那麼多政治家、名人和成人電影明星的深度偽造內容,因為通常有大量這些人的媒體素材,可用於訓練機器學習演算法。

深偽技術的成功與失敗

深度偽造或「廉價偽造」的一個臭名昭著的例子是一段粗糙的偽造視頻,去年在俄羅斯社交媒體上廣泛流傳,視頻中,烏克蘭總統澤倫斯基似乎在向俄羅斯投降。視頻顯示,澤倫斯基在講台上講話,呼籲他的部隊放下武器,並默許普京的部隊入侵。

精明的網民立即注意到,澤倫斯基的脖子和臉的顏色之間的差異,奇怪的口音,以及他頭部周圍的像素化。

Truepic公司致力於揭露網路深度偽造,員工Mounir Ibrahim告訴《野獸日報》:「事實上,這個視頻做得太差了,讓人大跌眼鏡。你可以清楚地看出區別,和我們見過的最好的深度偽造視頻相比,差得太遠了。」

目前,社交媒體上深度偽造最有說服力的範例之一,是TikTok的惡搞賬號「deeptomcruise」。該賬戶創建於2021年2月,獲得了超過1,810萬個贊和500萬名關注者。

它發布好萊塢明星湯姆•克魯斯的逼真惡搞版本,展示的場景包括變魔術、打高爾夫、回憶與前蘇聯總統見面的時光,以及與模特帕里斯•希爾頓合影。

在一段視頻中,可以看到克魯斯摟著帕里斯•希爾頓,他們假裝是一對情侶。他告訴模特:「你實在太漂亮了」,希爾頓紅著臉表示感謝。

該賬戶的另一個視頻中,假克魯斯穿著一件喜慶的夏威夷襯衫,跪在鏡頭前。他展示了一枚硬幣,瞬間讓其消失,像變魔術一樣。

深偽技術是否構成威脅?

儘管深度偽造具有娛樂價值,但一些專家警告說,它們可能會帶來危險。Stevens博士警告說,深度偽造有可能被用來傳播假新聞和破壞國家安全。像俄羅斯這樣的威權國家,會利用這項技術來破壞民主制度,並為戰爭等外交政策目標的合法性提供支持。

他說,對澤倫斯基的深度偽造「非常令人擔憂」,因為有人「確實相信它」,也有人「想相信它」。

網路安全公司Fortalice的首席執行官Theresa Payton表示,深度偽造AI也有可能結合真實數據,創造出「虛假欺詐」,從而滲透到公司並竊取信息。「遠程工作增多的時代」,是這類「AI人員」蓬勃發展的完美環境。

Payton告訴《太陽報》:「隨著公司自動化其簡歷掃瞄流程,並進行遠程面試,欺詐分子和騙子將利用尖端深度偽造AI技術,創造具有合成身分的『克隆』工人。數字步入自然人身分,將幾乎無法被阻止、檢測和恢復。」

Stevens博士補充說:「我們想要甚麼樣的社會?我們希望AI的使用是甚麼樣子的?因為目前已無法剎車,我們正在進入一個非常混亂的領域。如果現在看起來很糟糕,將來會更糟。我們需要進行對話,討論這些工具的用途和它們可能的用途,以及21世紀剩下的時間裡,我們的社會會是甚麼樣子。這個問題不會消失。它們是非常強大的工具,既能善用,也能惡用。」

關注時事,訂閱新聞郵件
本訂閱可隨時取消

評論被關閉。