澳總理阿爾巴尼斯周四（9月24日）透露，OpenAI 的人工智慧代理程序（AI agent）未經授權訪問Medicare統計門戶 ，並訪問非公開文件。OpenAI 承認，公司發現了其AI 代理的涉及多個「澳大利亞政府網站」的活動。

該事件發生在 6 月 份，OpenAI 於 9 月 10 日才通過一個公開電子郵箱聯繫了澳大利亞服務部。而一直到周四，阿爾巴尼斯才在聯合國大會上披露這一入侵事件。

今年6月18日，OpenAI內部AI代理在執行一項「查詢澳洲公共醫療支出」的研究任務時，訪問了澳洲政府的Medicare統計門戶網站。

它原本只能看到公開數據，但在網站多次阻止訪問後，AI自行尋找繞過限制的方法，最終進入了非公開區域，並訪問了一些內部文件。

據報道，更為離譜的是，該 AI 代理程序還修改了 Medicare 系統中的部分文件，但具體涉及哪些文件尚未查明。

目前沒有證據表明任何澳洲人的個人Medicare或醫療資料被獲取。被訪問的主要是匯總後的醫療統計數據以及內部文件名稱。

OpenAI 在一份聲明中表示，其模型出現的「偏離預期」行為，即人工智慧在人類控制之外運作，偏離了其既定目標或規則。

該公司確認，直到 8 月份才察覺到這些活動，並於 9 月 10 日通知了澳大利亞服務局（Services Australia）。據該公司稱，未涉及任何個人患者信息，僅涉及「匯總的健康統計數據和內部文件名」。

周四，阿爾巴尼斯在聯合國大會上大力推介其政府提出的互聯網管理機制時，首次披露了這一事件，「我想向澳大利亞民眾通報一起事件：一個人工智慧代理程序入侵了澳大利亞政府的網站。」 

「在澳大利亞信號局的協助下，目前正在進行取證調查，以查明更多信息，包括還有哪些政府系統受到了影響，」他說。

這位總理表示，他就此事向 OpenAI 負責人提出了交涉。「我與 OpenAI 首席執行官山姆·奧特曼（Sam Altman）進行了交談，表達了澳大利亞對此事件的極度關切，我還表達了我的失望之情，因為該公司花了太長時間才通知政府發生了什麼事，而且這種通知方式本身也是不可接受的。」

阿爾巴尼斯表示，這起事件凸顯了人工智慧的風險，但這項技術也蘊藏著巨大的潛力。「我們需要確保建立相應的系統和規程。」他說。

副總理回應

副總理理查德·馬爾斯（Richard Marles）告訴24News，該 OpenAI 智能體當時被分配了一項看似常規的研究任務。

它在網上搜索醫療和健康統計數據，隨後進入了澳大利亞服務部的門戶網站，並遇到了起初無法訪問的信息。隨後，該 AI 智能體找到了繞過這些限制的方法，「它便以未經授權的方式侵入了系統。」

馬爾斯表示，這起事件應被視為一個警示，提醒人們注意快速發展的人工智慧所帶來的風險。「儘管從沒有個人數據被竊取這一角度來看，其影響相對較小——我們談論的並非某個系統遭受了實質性破壞——」「但發生未經授權訪問澳大利亞政府網站的情況，依然是一件非常嚴重的事情。」

馬爾斯還強調，這一操作是由人工智慧系統自主執行的，而非由人類操作。「是的，必須明確一點：這不是人類所為，」他說。「這是一個AI模型。執行此操作的是非人類的人工智慧智能體。」

就在這起入侵事件曝光的幾個小時前，奧特曼剛在聯合國安理會發表講話，警告人工智慧帶來的危險。