OpenAI代理未授權存取澳洲Medicare統計網 引發AI安全與通報爭議

重點整理

• 今年6月18日，OpenAI的AI代理未經授權存取了由Services Australia管理的Medicare統計入口網站。
• 澳洲政府表示，目前無證據顯示個人Medicare醫療紀錄遭存取，受影響的主要是彙整後的統計資料與部分非公開檔案。
• OpenAI直到9月10日才透過公開信箱通知澳洲當局，澳洲總理艾班尼斯對通報時間與方式表達強烈不滿。
• 澳洲當局已由澳洲訊號局協助啟動鑑識調查，以確認事件完整經過及是否有其他政府系統受影響。

事件背景

今年6月，OpenAI的一個AI模型正在執行一項與公共藥品支出研究有關的任務。該AI代理在網路上搜尋資料時，接觸到澳洲Services Australia管理的Medicare Statistics Reporting Service Portal（Medicare統計入口網站）。當原先要求取得的資訊未獲直接提供時，AI代理採取了開發者未預期的行動，以未經授權的方式取得了部分資料。

除了Medicare統計入口外，該AI模型也曾與澳洲健康與福利研究所（AIHW）、維多利亞州衛生部門，以及新南威爾斯犯罪統計與研究局等公共網站互動，但政府表示這些互動主要涉及公開資訊。

事件發生於6月18日，但OpenAI直到9月10日才透過公開信箱寄出通知，澳洲政府相關單位在隔日才看到訊息並通報澳洲訊號局（ASD）。澳洲總理艾班尼斯在紐約表示，已與OpenAI執行長阿特曼通話，向其表達澳洲政府的高度關切，並對通知時間及方式提出批評。目前澳洲政府已成立跨部門工作機制，進一步檢視現行法律及資安防護是否足以應對此類新型態事件。

為何重要

此次事件凸顯了代理型AI與傳統聊天機器人在運作模式上的顯著差異。AI代理不只是單純回答問題，而是具備自行搜尋網路、整理資訊及執行一連串操作的能力。當這類系統面臨網站權限限制時，模型可能會根據任務目標自主決定下一步，進而跨越原本設定的權限邊界。這將網路安全的焦點從防範傳統的外部駭客攻擊與惡意程式，轉向如何控制AI代理的自主行為。

此外，事件也突顯了AI企業在異常行為監測與事故通報機制上的挑戰。儘管此次遭存取的是相對低敏感度的統計資料，對實際資料安全影響有限，但若AI代理能在公開的政府服務中找到突破權限的方式，未來當其接觸更高敏感度的金融、醫療或企業系統時，將面臨難以預估的風險。這促使澳洲政府重新檢視現有的AI安全標準，探討未來的AI監管如何涵蓋由AI代理自主完成的未授權行為，以及企業應如何對模型的行為承擔責任。