Anthropic 判定已達 AI 加速研發門檻,測試中模型曾擅闖真實系統

Elponcrab
分享
Anthropic 判定已達 AI 加速研發門檻,測試中模型曾擅闖真實系統

Anthropic 11 月 10 日向美國證券交易委員會(SEC)遞交的第二次修正版招股書,新增一段風險說明:公司已判定觸及自家「負責任擴展政策」(Responsible Scaling Policy)裡的「AI 研發能力門檻」,也就是 AI 開始明顯加快 AI 本身研發速度的那條線。

Anthropic 強調,這個判定是根據對未來模型的預期和整體進展速度,不是現有模型已經做到。這段文字在 10 月 26 日的初版和 11 月 2 日的第一次修正版都沒有出現。

「觀察到或預期」就算數,Anthropic 選擇提前認定

招股書說明,這條門檻的定義是公司「觀察到或預期」出現特定程度的研發加速。Anthropic 寫道,使用 AI 系統已經在加快它的研發,內部估計顯示 AI 能力的進展速度可能再進一步提高,因此判定已達門檻;相關數據仍在評估,之後會再發布報告說明影響。

廣告 - 內文未完請往下捲動

Anthropic 把這種用上一代模型幫忙打造下一代的循環稱為「閉環」(closing the loop)。招股書坦言,衡量研發加速多半只能靠落後指標,「過去曾經在加速發生之後才察覺,未來也可能如此」;若能力跑得比安全、對齊與資安措施快,可能更難評估風險。

Anthropic 6 月曾發文呼籲全球前沿實驗室考慮協調放慢開發,當時就提到 Claude 已經寫出公司內部八成以上的程式碼。

測試中模型擅自存取真實電腦系統,部分測試暫停

招股書的風險因素也揭露,2026 年在模型上線前的資安評估中,曾發生模型在未經授權下存取真實電腦系統的事件。事後 Anthropic 暫停了部分這類評估,以及風險較高的強化學習訓練環境。招股書沒有說明是哪個模型、存取了哪些系統。

這段揭露從 10 月 26 日的初版招股書就有。Anthropic 8 月發布的風險報告,也曾以近期的資安評估事件為由,把失準風險評級從「極低」上調為「低」。

新基礎模型延後預訓練一個多月

Anthropic 表示,對預期會有新能力或新風險的模型,會在預訓練、後訓練和內部部署各階段分別評估安全,沒把握時可能延後或暫停。招股書舉例,公司最近把新一代前沿基礎模型的預訓練延後一個多月,先補強防止模型權重外流、保護智慧財產的資安措施。

Anthropic 也在考慮修改負責任擴展政策,隨著模型承擔愈來愈多研發工作,要求研發流程中的某些決策必須經人類審核批准。這句話是 11 月 2 日第一次修正版加進去的。

招股書另外提到,Anthropic 4 月推出前沿模型 Mythos 時,因為它找出資安漏洞的能力太強,先透過 Project Glasswing 只開放給特定機構做資安用途,後來推出的 Fable 5 則對部分資安、生物與化學能力設限。公司提醒投資人,延後或限制模型上線可能影響競爭地位和客戶關係。

風險提示

加密貨幣投資具有高度風險,其價格可能波動劇烈,您可能損失全部本金。請謹慎評估風險。