專家警告：AI換臉威脅國家安全

一位網路安全專家警告說，AI深度偽造技術可能損害國家安全。

倫敦大學國王學院網路安全研究小組主任Tim Stevens博士表示，深偽技術可以創造出逼真的人物圖像和視頻，有可能破壞民主體制和國家安全。

Stevens博士指出，這類工具的廣泛使用，可能會被俄羅斯等國家所利用，以惡意評論等方式「圍攻」目標人群，以實現外交政策目標，並「破壞」各國的國家安全。

他補充說：「人工智慧和深偽技術對國家安全的潛在影響是存在的。儘管這種影響可能不涉及高級別的國防和國際戰爭問題，但它會普遍削弱人們對民主制度和媒體的信任。它們可能會被俄羅斯這樣的威權政體利用，從而降低人們對這些機構和組織的信任度。」

甚麼是深偽技術？它是怎樣製作的？

如果您在TikTok上看過湯姆•克魯斯彈吉他，巴拉克•歐巴馬稱唐納德•川普為「徹頭徹尾的白痴」，或者馬克•扎克伯格吹噓他掌握了「數十億人的被盜數據」，你看到的很可能就是深偽技術創造的內容。

「深偽技術」（deepfake）是一種人工智慧技術，利用「深度學習」來操縱音頻、圖像和視頻，創造出逼真的媒體內容。該術語首次出現於2017年，當時Reddit的一位用戶，在論壇上發布了經過篡改的色情視頻。這些視頻將蓋爾•加朵、泰勒•斯威夫特和斯嘉麗•約翰遜等名人的臉部，放在色情明星身上。

深偽技術使用了人工智慧（AI）的一個子集——深度學習技術來構建被操縱的媒體。最常見的方法是使用「深度神經網路」、「編碼器演算法」、一個要插入人臉的基礎視頻和一個目標視頻的集合。深度學習AI研究各種條件下的數據，找到兩個主體之間的共同特徵，然後將目標的臉映射到基礎視頻中的人身上。

生成對抗網路（GANs）是另一種製作深偽技術內容的方法。GANs使用兩個具有雙重角色的機器學習（ML）演算法。第一個演算法創建偽造品，第二個演算法檢測偽造品。當第二個ML模型找不到不一致之處時，這個過程就完成了。

GANs的準確性取決於數據量。這就是為甚麼您會看到那麼多政治家、名人和成人電影明星的深度偽造內容，因為通常有大量這些人的媒體素材，可用於訓練機器學習演算法。

深偽技術的成功與失敗

深度偽造或「廉價偽造」的一個臭名昭著的例子是一段粗糙的偽造視頻，去年在俄羅斯社交媒體上廣泛流傳，視頻中，烏克蘭總統澤倫斯基似乎在向俄羅斯投降。視頻顯示，澤倫斯基在講台上講話，呼籲他的部隊放下武器，並默許普京的部隊入侵。

精明的網民立即注意到，澤倫斯基的脖子和臉的顏色之間的差異，奇怪的口音，以及他頭部周圍的像素化。

Truepic公司致力於揭露網路深度偽造，員工Mounir Ibrahim告訴《野獸日報》：「事實上，這個視頻做得太差了，讓人大跌眼鏡。你可以清楚地看出區別，和我們見過的最好的深度偽造視頻相比，差得太遠了。」

目前，社交媒體上深度偽造最有說服力的範例之一，是TikTok的惡搞賬號「deeptomcruise」。該賬戶創建於2021年2月，獲得了超過1,810萬個贊和500萬名關注者。

它發布好萊塢明星湯姆•克魯斯的逼真惡搞版本，展示的場景包括變魔術、打高爾夫、回憶與前蘇聯總統見面的時光，以及與模特帕里斯•希爾頓合影。

在一段視頻中，可以看到克魯斯摟著帕里斯•希爾頓，他們假裝是一對情侶。他告訴模特：「你實在太漂亮了」，希爾頓紅著臉表示感謝。

該賬戶的另一個視頻中，假克魯斯穿著一件喜慶的夏威夷襯衫，跪在鏡頭前。他展示了一枚硬幣，瞬間讓其消失，像變魔術一樣。

深偽技術是否構成威脅？

儘管深度偽造具有娛樂價值，但一些專家警告說，它們可能會帶來危險。Stevens博士警告說，深度偽造有可能被用來傳播假新聞和破壞國家安全。像俄羅斯這樣的威權國家，會利用這項技術來破壞民主制度，並為戰爭等外交政策目標的合法性提供支持。

他說，對澤倫斯基的深度偽造「非常令人擔憂」，因為有人「確實相信它」，也有人「想相信它」。

網路安全公司Fortalice的首席執行官Theresa Payton表示，深度偽造AI也有可能結合真實數據，創造出「虛假欺詐」，從而滲透到公司並竊取信息。「遠程工作增多的時代」，是這類「AI人員」蓬勃發展的完美環境。

Payton告訴《太陽報》：「隨著公司自動化其簡歷掃瞄流程，並進行遠程面試，欺詐分子和騙子將利用尖端深度偽造AI技術，創造具有合成身分的『克隆』工人。數字步入自然人身分，將幾乎無法被阻止、檢測和恢復。」

Stevens博士補充說：「我們想要甚麼樣的社會？我們希望AI的使用是甚麼樣子的？因為目前已無法剎車，我們正在進入一個非常混亂的領域。如果現在看起來很糟糕，將來會更糟。我們需要進行對話，討論這些工具的用途和它們可能的用途，以及21世紀剩下的時間裡，我們的社會會是甚麼樣子。這個問題不會消失。它們是非常強大的工具，既能善用，也能惡用。」