OpenAI AI机器人突破Medicare防火墙 澳政府启动紧急调查

AI 入侵医疗系统

OpenAI一名AI代理突破澳大利亚Medicare网站防火墙后,联邦政府启动紧急调查。但这起事件的争议焦点已经从“AI如何攻破政府系统”,进一步转向了另一个问题:OpenAI早在8月就发现这起攻击,却直到9月10日才通知澳方;而澳洲政府工作人员收到通知后,又过了数天才将事件逐级上报。

总理阿尔巴尼斯为政府没有更早公开事件辩护,称当时不希望在尚未确认个人数据是否遭到获取的情况下“无谓地制造恐慌”,以免不必要地吓到澳大利亚人。

他表示,政府需要先确认究竟发生了什么,以及是否有个人信息被访问。初步调查显示,没有私人医疗信息遭到获取。

但这一解释没有平息质疑。

反对党领袖安格斯·泰勒指责阿尔巴尼斯在纽约“到处闲逛”,却没有把注意力放在影响澳大利亚人的问题上。

泰勒还表示,阿尔巴尼斯自己承认从未使用过AI,也没有充分认识到人工智能带来的网络安全风险。“总理已经证明,他根本没有真正掌握这个问题。面对任何新技术,首先必须确保澳大利亚人的安全。但这显然不是他们关注的重点。”

他表示,即使政府形容这次攻击造成的影响“较小”,任何政府数据遭到入侵都是重大问题。

“政府的首要职责就是保护澳大利亚人的安全……,在人工智能和澳大利亚人安全问题上,这原本是政府最应该优先考虑的事情。”

联盟党和一国党还质疑,政府是否因为阿尔巴尼斯正在纽约推动加强AI监管,而有意推迟公布这起事件。

副总理理查德·马勒斯(Richard Marles)对此予以反驳。他表示,政府部长实际上知道此事“还不到一周”,政府需要先谨慎核实掌握的信息,并在可能的情况下尽快向公众通报。

与此同时,阿尔巴尼斯也对OpenAI的处理方式表达了强烈不满。

他说,自己已经与OpenAI首席执行官萨姆·奥尔特曼(Sam Altman)谈过,并明确表达了失望,认为OpenAI花了“太长时间”才通知澳洲政府,而且通知的方式“不可接受”。

这起事件被认为可能是全球首次由AI实施、针对国家政府系统的网络攻击。

据悉,这名OpenAI AI代理在执行美国操作人员下达的任务时,试图研究澳洲公共医疗支出。当它遭遇Medicare网站的安全防护后,并没有停止,而是“找到了绕过这些安全屏障的方法”。

阿尔巴尼斯称,该AI代理最终于6月18日访问了Medicare部分公开及非公开信息。

“这是一个AI代理,它的行为超出了原本给它的指令……它自己在学习。”阿尔巴尼斯说。“这是对现实风险的一次警钟。”

政府表示,目前没有证据显示私人医疗信息遭到访问或获取。不过,这个AI代理不仅进入了Medicare,还访问了至少另外3个澳洲政府网站,包括新州犯罪统计与研究局(NSW Bureau of Crime Statistics and Research)、维州卫生厅以及澳大利亚健康与福利研究所(Australian Institute of Health and Welfare)。

更令人担忧的是,这次攻击没有触发澳洲政府相关安全警报。

OpenAI直到8月才发现Medicare遭到攻击,却直到9月10日才通过一个普通政府公共邮箱向Services Australia发出通知。

OpenAI随后承认,其AI机器人采取了一些“我们原本无意让它采取的行动”。

Services Australia工作人员于9月11日才发现这封邮件。然而,他们直到9月15日,也就是收到邮件4天后,才将事件报告给澳大利亚信号局(ASD)。

又过了两天,即9月17日,财政部长凯蒂·加拉格尔(Katy Gallagher)才获悉此事。

9月19日至20日周末期间,加拉格尔与马勒斯、内政部长托尼·伯克(Tony Burke)、Services Australia及ASD进行了讨论,阿尔巴尼斯也在此期间听取了汇报。

目前,联邦政府已经启动快速调查,重点审查OpenAI AI代理究竟如何突破政府系统,以及政府自身的应对过程。

政府也正在研究是否能够对OpenAI采取处罚措施,或者是否应该将案件移交澳大利亚联邦警察(AFP)。

OpenAI已确认,全球还有数十起类似事件,涉及政府、大学和公共机构。澳洲参议院也已要求OpenAI和Anthropic两家公司的CEO出席AI调查听证,进一步解释AI代理绕过安全控制的问题。 

版权声明:
本文由看新闻网原创、编译或首发,并保留版权。转载必须保持文本完整,声明文章出自看新闻网并包含原文标题及链接。

关注时事,订阅新闻邮件

本订阅可随时取消

你可能还喜欢

编辑推荐

浏览最多