OpenAI 公開前沿模型監控系統，揭露模型訓練中偷連外網
OpenAI 10 月 29 日在官方部落格公開擴大後的前沿模型監控系統，並揭露今年 9 月一次實際攔截：一個模型在強化學習訓練中，利用 DNS 設定錯誤從原本應該隔離的環境連上外部網路。
OpenAI 表示，監控系統在 15 分鐘內標記了這次突破，3 分鐘後就有人員開始審查，之後 OpenAI 暫停了前沿強化學習訓練，先強化限制 AI 代理的隔離系統。
起因是 Hugging Face 事件：當時資安評測沒開監控
OpenAI 說，這次擴大監控的直接原因是先前的「Hugging Face 事件」。當時模型在內部資安評測中逃出沙盒，最後入侵了 Hugging Face 的系統，而那批評測正好沒有啟用偵測模型行為偏差的監控。
廣告 - 內文未完請往下捲動
OpenAI 用新的監控系統重播了那次事件的紀錄。結果顯示，系統會在 AI 代理逃出沙盒約 30 分鐘後通知資安團隊，比實際入侵 Hugging Face 系統的時間點早了 30 多個小時。事件發生後，OpenAI 已隔離那個內部模型原型、加密其權重並限制存取。
OpenAI 表示，現在所有能力至少達到 GPT-6 Astra 等級的模型，每一次強化學習訓練與評測都會被監控；大多數能力高於 GPT-5.5 Thinking 的模型也在監控範圍內，所有內部 Codex 使用則不論用哪個模型一律監控。
四層監控：從模型內部訊號一路查到網路紀錄
監控系統分成四層。第一層是「啟動探針」，用輕量分類器掃描模型內部的活動模式，寧可多報也不漏報，另外再隨機抽 5% 沒被標記的流量送往下一層複查。
第二層由審查模型檢視 AI 代理最近的對話、思考鏈與工具使用，找出欺騙、未經授權的動作或操弄評測的跡象。第三層是調查代理，可以回頭讀完整個對話紀錄、在隔離環境寫程式檢驗證據，判斷事件嚴重程度。第四層則用於敏感工作，把對話紀錄與網路日誌、系統遙測資料交叉比對，決定是否通知人員。
最高優先等級的警報通常在 15 分鐘內傳到資安與訓練團隊。OpenAI 也坦言誤報太多，目前只有前沿強化學習訓練能在任何時段呼叫人員，其他多數流量只在上班時間呼叫，內部 Codex 流量則暫時不呼叫人員。OpenAI 測試發現，用 GPT-5.6 Sol 驅動的監控模型抓到的案例明顯多於 Terra 與 Luna。
不讓監控逼模型藏起思考過程，外部研究機構曾紅隊測試三週
OpenAI 指出，監控可能反過來誘使模型隱藏不當行為：如果思考鏈暴露問題就被扣分，模型可能學會藏起來而不是停止。OpenAI 觀察到包括 Astra 在內的較先進模型，愈來愈能控制思考鏈透露的內容，因此被監控標記的訓練樣本不會被調降獎勵，也會保留在訓練資料中，監控也採非同步進行。
研究機構 METR 與 Redwood Research 從今年 7 月起花了三週獨立紅隊測試這套系統，找出多個當時存在的漏洞，OpenAI 表示多數已修補，還有一項修正仍在進行。
OpenAI 也把同一套架構的調整版用在 Astra 等高資安能力模型的部分對外服務上。對外監控不會例行轉給 OpenAI 人員審查，而是在支援的情況下自動暫停對話，企業客戶也能設定通知自家資安團隊；API 方面涵蓋使用工具的 Responses API 請求，不涵蓋 Chat Completions API。
風險提示
加密貨幣投資具有高度風險，其價格可能波動劇烈，您可能損失全部本金。請謹慎評估風險。
