专家警告：AI换脸威胁国家安全

一位网路安全专家警告说，AI深度伪造技术可能损害国家安全。

伦敦大学国王学院网路安全研究小组主任Tim Stevens博士表示，深伪技术可以创造出逼真的人物图像和视频，有可能破坏民主体制和国家安全。

Stevens博士指出，这类工具的广泛使用，可能会被俄罗斯等国家所利用，以恶意评论等方式“围攻”目标人群，以实现外交政策目标，并“破坏”各国的国家安全。

他补充说：“人工智慧和深伪技术对国家安全的潜在影响是存在的。尽管这种影响可能不涉及高级别的国防和国际战争问题，但它会普遍削弱人们对民主制度和媒体的信任。它们可能会被俄罗斯这样的威权政体利用，从而降低人们对这些机构和组织的信任度。”

甚么是深伪技术？它是怎样制作的？

如果您在TikTok上看过汤姆•克鲁斯弹吉他，巴拉克•欧巴马称唐纳德•川普为“彻头彻尾的白痴”，或者马克•扎克伯格吹嘘他掌握了“数十亿人的被盗数据”，你看到的很可能就是深伪技术创造的内容。

“深伪技术”（deepfake）是一种人工智慧技术，利用“深度学习”来操纵音频、图像和视频，创造出逼真的媒体内容。该术语首次出现于2017年，当时Reddit的一位用户，在论坛上发布了经过篡改的色情视频。这些视频将盖尔•加朵、泰勒•斯威夫特和斯嘉丽•约翰逊等名人的脸部，放在色情明星身上。

深伪技术使用了人工智慧（AI）的一个子集——深度学习技术来构建被操纵的媒体。最常见的方法是使用“深度神经网路”、“编码器演算法”、一个要插入人脸的基础视频和一个目标视频的集合。深度学习AI研究各种条件下的数据，找到两个主体之间的共同特征，然后将目标的脸映射到基础视频中的人身上。

生成对抗网路（GANs）是另一种制作深伪技术内容的方法。GANs使用两个具有双重角色的机器学习（ML）演算法。第一个演算法创建伪造品，第二个演算法检测伪造品。当第二个ML模型找不到不一致之处时，这个过程就完成了。

GANs的准确性取决于数据量。这就是为甚么您会看到那么多政治家、名人和成人电影明星的深度伪造内容，因为通常有大量这些人的媒体素材，可用于训练机器学习演算法。

深伪技术的成功与失败

深度伪造或“廉价伪造”的一个臭名昭著的例子是一段粗糙的伪造视频，去年在俄罗斯社交媒体上广泛流传，视频中，乌克兰总统泽伦斯基似乎在向俄罗斯投降。视频显示，泽伦斯基在讲台上讲话，呼吁他的部队放下武器，并默许普京的部队入侵。

精明的网民立即注意到，泽伦斯基的脖子和脸的颜色之间的差异，奇怪的口音，以及他头部周围的像素化。

Truepic公司致力于揭露网路深度伪造，员工Mounir Ibrahim告诉《野兽日报》：“事实上，这个视频做得太差了，让人大跌眼镜。你可以清楚地看出区别，和我们见过的最好的深度伪造视频相比，差得太远了。”

目前，社交媒体上深度伪造最有说服力的范例之一，是TikTok的恶搞账号“deeptomcruise”。该账户创建于2021年2月，获得了超过1,810万个赞和500万名关注者。

它发布好莱坞明星汤姆•克鲁斯的逼真恶搞版本，展示的场景包括变魔术、打高尔夫、回忆与前苏联总统见面的时光，以及与模特帕里斯•希尔顿合影。

在一段视频中，可以看到克鲁斯搂著帕里斯•希尔顿，他们假装是一对情侣。他告诉模特：“你实在太漂亮了”，希尔顿红著脸表示感谢。

该账户的另一个视频中，假克鲁斯穿著一件喜庆的夏威夷衬衫，跪在镜头前。他展示了一枚硬币，瞬间让其消失，像变魔术一样。

深伪技术是否构成威胁？

尽管深度伪造具有娱乐价值，但一些专家警告说，它们可能会带来危险。Stevens博士警告说，深度伪造有可能被用来传播假新闻和破坏国家安全。像俄罗斯这样的威权国家，会利用这项技术来破坏民主制度，并为战争等外交政策目标的合法性提供支持。

他说，对泽伦斯基的深度伪造“非常令人担忧”，因为有人“确实相信它”，也有人“想相信它”。

网路安全公司Fortalice的首席执行官Theresa Payton表示，深度伪造AI也有可能结合真实数据，创造出“虚假欺诈”，从而渗透到公司并窃取信息。“远程工作增多的时代”，是这类“AI人员”蓬勃发展的完美环境。

Payton告诉《太阳报》：“随著公司自动化其简历扫瞄流程，并进行远程面试，欺诈分子和骗子将利用尖端深度伪造AI技术，创造具有合成身分的‘克隆’工人。数字步入自然人身分，将几乎无法被阻止、检测和恢复。”

Stevens博士补充说：“我们想要甚么样的社会？我们希望AI的使用是甚么样子的？因为目前已无法刹车，我们正在进入一个非常混乱的领域。如果现在看起来很糟糕，将来会更糟。我们需要进行对话，讨论这些工具的用途和它们可能的用途，以及21世纪剩下的时间里，我们的社会会是甚么样子。这个问题不会消失。它们是非常强大的工具，既能善用，也能恶用。”