澳总理阿尔巴尼斯周四（9月24日）透露，OpenAI 的人工智能代理程序（AI agent）未经授权访问Medicare统计门户 ，并访问非公开文件。OpenAI 承认，公司发现了其AI 代理的涉及多个“澳大利亚政府网站”的活动。

该事件发生在 6 月 份，OpenAI 于 9 月 10 日才通过一个公开电子邮箱联系了澳大利亚服务部。而一直到周四，阿尔巴尼斯才在联合国大会上披露这一入侵事件。

今年6月18日，OpenAI内部AI代理在执行一项“查询澳洲公共医疗支出”的研究任务时，访问了澳洲政府的Medicare统计门户网站。

它原本只能看到公开数据，但在网站多次阻止访问后，AI自行寻找绕过限制的方法，最终进入了非公开区域，并访问了一些内部文件。

据报道，更为离谱的是，该 AI 代理程序还修改了 Medicare 系统中的部分文件，但具体涉及哪些文件尚未查明。

目前没有证据表明任何澳洲人的个人Medicare或医疗资料被获取。被访问的主要是汇总后的医疗统计数据以及内部文件名称。

OpenAI 在一份声明中表示，其模型出现的“偏离预期”行为，即人工智能在人类控制之外运作，偏离了其既定目标或规则。

该公司确认，直到 8 月份才察觉到这些活动，并于 9 月 10 日通知了澳大利亚服务局（Services Australia）。据该公司称，未涉及任何个人患者信息，仅涉及“汇总的健康统计数据和内部文件名”。

周四，阿尔巴尼斯在联合国大会上大力推介其政府提出的互联网管理机制时，首次披露了这一事件，“我想向澳大利亚民众通报一起事件：一个人工智能代理程序入侵了澳大利亚政府的网站。” 

“在澳大利亚信号局的协助下，目前正在进行取证调查，以查明更多信息，包括还有哪些政府系统受到了影响，”他说。

这位总理表示，他就此事向 OpenAI 负责人提出了交涉。“我与 OpenAI 首席执行官山姆·奥特曼（Sam Altman）进行了交谈，表达了澳大利亚对此事件的极度关切，我还表达了我的失望之情，因为该公司花了太长时间才通知政府发生了什么事，而且这种通知方式本身也是不可接受的。”

阿尔巴尼斯表示，这起事件凸显了人工智能的风险，但这项技术也蕴藏着巨大的潜力。“我们需要确保建立相应的系统和规程。”他说。

副总理回应

副总理理查德·马尔斯（Richard Marles）告诉24News，该 OpenAI 智能体当时被分配了一项看似常规的研究任务。

它在网上搜索医疗和健康统计数据，随后进入了澳大利亚服务部的门户网站，并遇到了起初无法访问的信息。随后，该 AI 智能体找到了绕过这些限制的方法，“它便以未经授权的方式侵入了系统。”

马尔斯表示，这起事件应被视为一个警示，提醒人们注意快速发展的人工智能所带来的风险。“尽管从没有个人数据被窃取这一角度来看，其影响相对较小——我们谈论的并非某个系统遭受了实质性破坏——”“但发生未经授权访问澳大利亚政府网站的情况，依然是一件非常严重的事情。”

马尔斯还强调，这一活动是由人工智能系统自主执行的，而非由人类操作。“是的，必须明确一点：这不是人类所为，”他说。“这是一个AI模型。执行此操作的是非人类的人工智能智能体。”

就在这起入侵事件曝光的几个小时前，奥特曼刚在联合国安理会发表讲话，警告人工智能带来的危险。