Anthropic 讓 METR 近員工級評估 AI 安全
Anthropic 表示，已讓非營利研究機構 METR 的 6 名成員進駐公司，提供公司設備、辦公空間，以及大致比照 Anthropic 風險評估團隊的內部工具與系統權限，評估其模型風險、安全事件與相關實務。這是 Anthropic 首度公開說明的「近似員工級存取」安排；但雙方都指出，這類外部評估仍有範圍與獨立性限制，並非監管機關式的全面稽核。
六名評估者可接觸內部工具
根據Anthropic 10 月 15 日公告，METR 團隊可使用公司硬體、辦公空間及內部系統；Anthropic 表示，除客戶資料、律師與客戶間的特權資訊，以及模型架構等少數明確範圍外，員工被鼓勵像與內部安全研究同事合作般，向評估者分享資訊。METR 將公布對 Anthropic 風險程度、事件與安全實務的分析。
Anthropic 說，自己不能否決 METR 的發布，但若內容涉及預先界定的敏感資訊，可以要求刪節；METR 則可公開說明刪節是否合理。這項安排和只讓外部研究者測試公開模型不同，評估團隊得以接觸部分公司內部資訊，檢視政策文件之外的實際運作。
廣告 - 內文未完請往下捲動
公布結果仍需看評估範圍
METR 是專注於前沿 AI 能力與風險評估的非營利機構，過去已多次審查 Anthropic 的風險報告，也曾參與其內部代理監控系統的紅隊測試。這次合作將評估視野從單一模型或風險報告，延伸至公司安全實務；不過，Anthropic 公告描述的是「已開始提供」存取權，並未表示評估已完成或已有結論。
METR 也提醒，外界解讀合作時要注意存取限制、研究範圍、報告發布程序與刪節情形。該機構指出，在自願合作制度下，評估者仍依賴公司提供存取，也可能無法取得與公司資深安全人員相同程度的資訊；若公司限制存取或要求刪節，這些因素可能影響公眾看到的證據。因此，公布「近似員工級」權限不等於評估者可無限制查閱所有資料。
不是安全認證或部署把關
這項合作的價值，在於外部團隊有機會檢視部分內部流程，並把調查結果與限制公開，增加外界理解 AI 公司安全決策的材料。但 METR 的風險評估並不替公司或監管機關決定模型能否推出，也不等同依照法規驗證安全合規；其自身公開的評估方法說明，重點是收集特定風險的證據，最終如何處置仍由公司、政府與社會決定。
Anthropic 另表示，正與 SecureBio、Accenture 合作，並與 Hugging Face 等組織初步洽談，但不同合作目前取得的資訊與發布權限並不相同。後續觀察重點將是 METR 實際評估哪些系統與流程、能否公開方法與重要發現，以及刪節或存取限制是否影響結論。這些細節，才會決定外部評估能否形成具體問責，而不只是公司宣示合作。
風險提示
加密貨幣投資具有高度風險，其價格可能波動劇烈，您可能損失全部本金。請謹慎評估風險。
