专家警告:AI换脸威胁国家安全

一位网路安全专家警告说,AI深度伪造技术可能损害国家安全。

伦敦大学国王学院网路安全研究小组主任Tim Stevens博士表示,深伪技术可以创造出逼真的人物图像和视频,有可能破坏民主体制和国家安全。

Stevens博士指出,这类工具的广泛使用,可能会被俄罗斯等国家所利用,以恶意评论等方式“围攻”目标人群,以实现外交政策目标,并“破坏”各国的国家安全。

他补充说:“人工智慧和深伪技术对国家安全的潜在影响是存在的。尽管这种影响可能不涉及高级别的国防和国际战争问题,但它会普遍削弱人们对民主制度和媒体的信任。它们可能会被俄罗斯这样的威权政体利用,从而降低人们对这些机构和组织的信任度。”

甚么是深伪技术?它是怎样制作的?

如果您在TikTok上看过汤姆•克鲁斯弹吉他,巴拉克•欧巴马称唐纳德•川普为“彻头彻尾的白痴”,或者马克•扎克伯格吹嘘他掌握了“数十亿人的被盗数据”,你看到的很可能就是深伪技术创造的内容。

“深伪技术”(deepfake)是一种人工智慧技术,利用“深度学习”来操纵音频、图像和视频,创造出逼真的媒体内容。该术语首次出现于2017年,当时Reddit的一位用户,在论坛上发布了经过篡改的色情视频。这些视频将盖尔•加朵、泰勒•斯威夫特和斯嘉丽•约翰逊等名人的脸部,放在色情明星身上。

深伪技术使用了人工智慧(AI)的一个子集——深度学习技术来构建被操纵的媒体。最常见的方法是使用“深度神经网路”、“编码器演算法”、一个要插入人脸的基础视频和一个目标视频的集合。深度学习AI研究各种条件下的数据,找到两个主体之间的共同特征,然后将目标的脸映射到基础视频中的人身上。

生成对抗网路(GANs)是另一种制作深伪技术内容的方法。GANs使用两个具有双重角色的机器学习(ML)演算法。第一个演算法创建伪造品,第二个演算法检测伪造品。当第二个ML模型找不到不一致之处时,这个过程就完成了。

GANs的准确性取决于数据量。这就是为甚么您会看到那么多政治家、名人和成人电影明星的深度伪造内容,因为通常有大量这些人的媒体素材,可用于训练机器学习演算法。

深伪技术的成功与失败

深度伪造或“廉价伪造”的一个臭名昭著的例子是一段粗糙的伪造视频,去年在俄罗斯社交媒体上广泛流传,视频中,乌克兰总统泽伦斯基似乎在向俄罗斯投降。视频显示,泽伦斯基在讲台上讲话,呼吁他的部队放下武器,并默许普京的部队入侵。

精明的网民立即注意到,泽伦斯基的脖子和脸的颜色之间的差异,奇怪的口音,以及他头部周围的像素化。

Truepic公司致力于揭露网路深度伪造,员工Mounir Ibrahim告诉《野兽日报》:“事实上,这个视频做得太差了,让人大跌眼镜。你可以清楚地看出区别,和我们见过的最好的深度伪造视频相比,差得太远了。”

目前,社交媒体上深度伪造最有说服力的范例之一,是TikTok的恶搞账号“deeptomcruise”。该账户创建于2021年2月,获得了超过1,810万个赞和500万名关注者。

它发布好莱坞明星汤姆•克鲁斯的逼真恶搞版本,展示的场景包括变魔术、打高尔夫、回忆与前苏联总统见面的时光,以及与模特帕里斯•希尔顿合影。

在一段视频中,可以看到克鲁斯搂著帕里斯•希尔顿,他们假装是一对情侣。他告诉模特:“你实在太漂亮了”,希尔顿红著脸表示感谢。

该账户的另一个视频中,假克鲁斯穿著一件喜庆的夏威夷衬衫,跪在镜头前。他展示了一枚硬币,瞬间让其消失,像变魔术一样。

深伪技术是否构成威胁?

尽管深度伪造具有娱乐价值,但一些专家警告说,它们可能会带来危险。Stevens博士警告说,深度伪造有可能被用来传播假新闻和破坏国家安全。像俄罗斯这样的威权国家,会利用这项技术来破坏民主制度,并为战争等外交政策目标的合法性提供支持。

他说,对泽伦斯基的深度伪造“非常令人担忧”,因为有人“确实相信它”,也有人“想相信它”。

网路安全公司Fortalice的首席执行官Theresa Payton表示,深度伪造AI也有可能结合真实数据,创造出“虚假欺诈”,从而渗透到公司并窃取信息。“远程工作增多的时代”,是这类“AI人员”蓬勃发展的完美环境。

Payton告诉《太阳报》:“随著公司自动化其简历扫瞄流程,并进行远程面试,欺诈分子和骗子将利用尖端深度伪造AI技术,创造具有合成身分的‘克隆’工人。数字步入自然人身分,将几乎无法被阻止、检测和恢复。”

Stevens博士补充说:“我们想要甚么样的社会?我们希望AI的使用是甚么样子的?因为目前已无法刹车,我们正在进入一个非常混乱的领域。如果现在看起来很糟糕,将来会更糟。我们需要进行对话,讨论这些工具的用途和它们可能的用途,以及21世纪剩下的时间里,我们的社会会是甚么样子。这个问题不会消失。它们是非常强大的工具,既能善用,也能恶用。”

关注时事,订阅新闻邮件
本订阅可随时取消

评论被关闭。