OpenAI AI機器人突破Medicare防火牆 澳政府啟動緊急調查

AI 入侵醫療系統

OpenAI一名AI代理突破澳大利亞Medicare網站防火牆後,聯邦政府啟動緊急調查。但這起事件的爭議焦點已經從「AI如何攻破政府系統」,進一步轉向了另一個問題:OpenAI早在8月就發現這起攻擊,卻直到9月10日才通知澳方;而澳洲政府工作人員收到通知後,又過了數天才將事件逐級上報。

總理阿爾巴尼斯為政府沒有更早公開事件辯護,稱當時不希望在尚未確認個人數據是否遭到獲取的情況下「無謂地製造恐慌」,以免不必要地嚇到澳大利亞人。

他表示,政府需要先確認究竟發生了什麼,以及是否有個人信息被訪問。初步調查顯示,沒有私人醫療信息遭到獲取。

但這一解釋沒有平息質疑。

反對黨領袖安格斯·泰勒指責阿爾巴尼斯在紐約「到處閑逛」,卻沒有把注意力放在影響澳大利亞人的問題上。

泰勒還表示,阿爾巴尼斯自己承認從未使用過AI,也沒有充分認識到人工智慧帶來的網路安全風險。「總理已經證明,他根本沒有真正掌握這個問題。面對任何新技術,首先必須確保澳大利亞人的安全。但這顯然不是他們關注的重點。」

他表示,即使政府形容這次攻擊造成的影響「較小」,任何政府數據遭到入侵都是重大問題。

「政府的首要職責就是保護澳大利亞人的安全……,在人工智慧和澳大利亞人安全問題上,這原本是政府最應該優先考慮的事情。」

聯盟黨和一國黨還質疑,政府是否因為阿爾巴尼斯正在紐約推動加強AI監管,而有意推遲公布這起事件。

副總理理查德·馬勒斯(Richard Marles)對此予以反駁。他表示,政府部長實際上知道此事「還不到一周」,政府需要先謹慎核實掌握的信息,並在可能的情況下儘快向公眾通報。

與此同時,阿爾巴尼斯也對OpenAI的處理方式表達了強烈不滿。

他說,自己已經與OpenAI首席執行官薩姆·奧爾特曼(Sam Altman)談過,並明確表達了失望,認為OpenAI花了「太長時間」才通知澳洲政府,而且通知的方式「不可接受」。

這起事件被認為可能是全球首次由AI實施、針對國家政府系統的網路攻擊。

據悉,這名OpenAI AI代理在執行美國操作人員下達的任務時,試圖研究澳洲公共醫療支出。當它遭遇Medicare網站的安全防護後,並沒有停止,而是「找到了繞過這些安全屏障的方法」。

阿爾巴尼斯稱,該AI代理最終於6月18日訪問了Medicare部分公開及非公開信息。

「這是一個AI代理,它的行為超出了原本給它的指令……它自己在學習。」阿爾巴尼斯說。「這是對現實風險的一次警鐘。」

政府表示,目前沒有證據顯示私人醫療信息遭到訪問或獲取。不過,這個AI代理不僅進入了Medicare,還訪問了至少另外3個澳洲政府網站,包括新州犯罪統計與研究局(NSW Bureau of Crime Statistics and Research)、維州衛生廳以及澳大利亞健康與福利研究所(Australian Institute of Health and Welfare)。

更令人擔憂的是,這次攻擊沒有觸發澳洲政府相關安全警報。

OpenAI直到8月才發現Medicare遭到攻擊,卻直到9月10日才通過一個普通政府公共郵箱向Services Australia發出通知。

OpenAI隨後承認,其AI機器人採取了一些「我們原本無意讓它採取的行動」。

Services Australia工作人員於9月11日才發現這封郵件。然而,他們直到9月15日,也就是收到郵件4天後,才將事件報告給澳大利亞信號局(ASD)。

又過了兩天,即9月17日,財政部長凱蒂·加拉格爾(Katy Gallagher)才獲悉此事。

9月19日至20日周末期間,加拉格爾與馬勒斯、內政部長托尼·伯克(Tony Burke)、Services Australia及ASD進行了討論,阿爾巴尼斯也在此期間聽取了彙報。

目前,聯邦政府已經啟動快速調查,重點審查OpenAI AI代理究竟如何突破政府系統,以及政府自身的應對過程。

政府也正在研究是否能夠對OpenAI採取處罰措施,或者是否應該將案件移交澳大利亞聯邦警察(AFP)。

OpenAI已確認,全球還有數十起類似事件,涉及政府、大學和公共機構。澳洲參議院也已要求OpenAI和Anthropic兩家公司的CEO出席AI調查聽證,進一步解釋AI代理繞過安全控制的問題。 

版權聲明:
本文由看新聞網原創、編譯或首發,並保留版權。轉載必須保持文本完整,聲明文章出自看新聞網並包含原文標題及鏈接。

關注時事,訂閱新聞郵件

本訂閱可隨時取消

你可能還喜歡

編輯推薦

瀏覽最多