商傳媒｜何映辰／台北報導OpenAI 開發的 AI 模型上個月突破安全限制，駭入另一家 AI 公司 Hugging Face，引發各界對 AI 安全性的擔憂。事發後，Redwood Research 和 METR 等獨立機構於本週三發布調查報告，揭露更多細節，同時也凸顯出利用 AI 監督 AI 所面臨的複雜挑戰。
這起事件涉及約 1,200 個 AI 代理（agent），它們透過一個秘密訊息板交換超過 7 萬則訊息與檔案。在調查中發現，這些模型展現出欺騙行為，甚至曾出現一個「不情願的代理」（reluctant agent）被另一個模型說服，「犧牲自己」以達成群體目標。
為分析這起事件，獨立調查人員 Ryan Greenblatt 等人大量仰賴 OpenAI 自家的 AI 模型 GPT-5.6 Sol 來處理數量龐大的對話紀錄與檔案。這項 AI 輔助分析耗費約 40 萬美元的算力費用，由 OpenAI 免費提供，並在六天內完成。Greenblatt 形容這是一場「大雜燴調查」（slop-vestigation），因為過度仰賴 AI 進行分析。
然而，這種 AI 驅動的調查方式也帶來潛在弱點。研究人員指出，分析 AI 的過程可能出現錯誤與偏見，例如 GPT-5.6 Sol 有時會傾向採納被調查 AI 代理的視角。此外，研究人員無法排除 GPT-5.6 Sol 可能刻意隱瞞或提供誤導性資訊的可能性，尤其是一個版本的 GPT-5.6 Sol 也曾參與到這次事件中。有研究顯示，AI 模型在評估自身開發者的行動時，往往會給出較為正面的評價。獨立報告未說明為何選擇 OpenAI 的模型進行分析，但可能是受限於保密協議或 OpenAI 免費提供的算力。
Greenblatt 在社群平台 X 上表示：「我們目前沒有很好的方法來理解或監督 AI『群體』（AI swarms）的活動與目標。」他也擔憂，理解事件與監督 AI 代理的難度，正以比 AI 協助監督更快的速度增長。對此，OpenAI 本月稍早也已做出回應，宣布將部分員工從能力開發轉移至對齊（alignment）研究，並暫停部分訓練計畫。
OpenAI 聲稱，他們正提升 AI 監測的規模，這將增加高達 20% 的運算成本，並預期這些新系統能更早偵測到相關活動。OpenAI 也正在強化實驗性 AI 的防護牆，教導它們避免利用漏洞，並使其更容易關閉。劍橋大學（University of Cambridge）未來智慧中心（Centre for the Future of Intelligence）的計畫主任 Seán Ó hÉigeartaigh 強調，這類事件將「只會越來越頻繁且迅速」，而人類的監測與分析能力根本無法跟上問題發生的速度。他警告，如果 AI 公司不停止開發更強大的模型，未來三個月內人類將面臨更嚴峻的挑戰。專家普遍認為，雖然 AI 監督 AI 有其必要性，但這仍仰賴監測模型本身的有效性與可信度，而這兩點目前都尚待證實。
