美媒:中国生成大量AI假帐号 发布短片攻击川普

美媒近日报导称,有来自中国的假户口网络以人工智能(AI,Artificial Intelligence)生成虚构人脸、创造虚假粉丝,在社交媒体 Facebook、Twitter 及 YouTube 上抨击美国总统川普,消息引发广泛关注。

据《华盛顿邮报》等多家美媒援引Graphika网络公司的研究报告称,自6月以来,有来自中国的假账户网络 (Chinese network of fake accounts) 一直在Facebook、Twitter 及 YouTube 上发布批评川普政府的英语片段,并使用假账户转发及发表评论,以吸引更多人浏览。乍看之下,并不察觉那些帐户个人资料照片有任何异样,但仔细观察后,Graphika 发现似乎是由创建虚假人脸的 AI 程序生产而成。

专家:AI生成的伪造账号有共同特点 亲中立场毫不掩饰

总部位于纽约的Graphika的调查主管Ben Nimmo说:“这个网络要是成功了可能会快速传播开来。但也意味著这些发布虚假消息的网络,他们必须密切关注所有美国对华政策,并力争在新闻发出的1周内做出视频来进行欺骗。”

报导称,研究人员对这些假帐号关注新闻事件做出快速反应的能力感到震惊。当川普命令上个月关闭在休斯敦的中国领事馆时,该网络在几天内回应了三段录像,质疑美国此举的合理性并为中国的潜在对策辩护。

Graphika首席创新官CamilleFrançois说: “这些视频主要是批判美国现有的选举、种族问题和攻击川普政府对COVID-19的处理方法。而且这些账户并没有掩盖他们与中国的隶属关系,因为其中一些具有AI生成的伪造的个人资料图片,但是对于亲中立场毫不掩饰。”

Graphika 解释这些假帐号的头像有一个共同点就是模糊的背景,以及照片中眼球位置等,并指这些奇怪的照片很大可能是“生成对抗网络(GAN,Generative Adversarial Network)”的作品。GAN是一种机器学习技术,擅长创建看似真实但伪造的人脸。该技术可以通过研究真人,学习如何将面部特征重新创建,来制造合成人脸。由于目前AI程序通常很难在假人的脸部周围展现耳环和其他物体,背景往往模糊不清。

根据Graphika的说法,那些片段制作是粗陋,带有文法错误及尴尬的自动旁述,有些将美国(US)称为“我们(us)”。在 Reddit 讨论区上,有网民评论指中共大概是在 http://thispersondoesnotexist.com 截下照片,然后发布。

美国情报单位指出中国不希望川普当选

早前,美国情报单位曾表示,中国政府不希望川普在11月赢得连任,因为中国政府认为川普“难与预料”。在上周监督选举安全的美国反情报总监(NCSC)凡尼娜(William Evanina)认为,中国正在“塑造他们想要美国政策环境”所作的努力与俄罗斯不希望拜登当选。

虽然目前Graphika并未将Spamouflage Dragon与中国政府视为相同的。但是该网络已经制作了一些视频,这些视频对于埃凡尼娜(William Evanina)指控中国政府所为,试图做出辩解。

Graphika还发现,8月4日,该网络发布了一段视频,批评川普威胁要从美国驱逐TikTok应用程序,指控他“禁止群众发表言论自由”。

关注时事,订阅新闻邮件
本订阅可随时取消