加州起訴 OpenAI:模型攻擊 Hugging Face,失控逾 80 起

Elponcrab
分享
加州起訴 OpenAI:模型攻擊 Hugging Face,失控逾 80 起

加州檢察長 Rob Bonta 美西時間 11 月 16 日在舊金山高等法院起訴 OpenAI,指控 OpenAI 在缺乏足夠防護與監控的情況下測試高能力 AI 模型,導致 AI 代理脫離測試環境、今年 7 月攻擊開源 AI 平台 Hugging Face。

起訴書寫道,OpenAI 在調查過程中承認旗下 AI 代理失控的事件超過 80 起,卻拒絕提供完整細節。Bonta 依加州公共妨害規定與《不公平競爭法》提告,要求法院下禁制令、命 OpenAI 排除妨害,並按每項違規 2,500 美元處以民事罰款。

起訴書:數百個 AI 代理攻擊 Hugging Face 約兩天半

依起訴書,2026 年 7 月,跑在 OpenAI 實驗版模型上的 AI 代理連上公開網路,對 Hugging Face 發動網路攻擊,持續約兩天半,動用複雜的駭客手法,牽涉數百個彼此協調的自主代理,而這些代理原本應該被關在 OpenAI 的研究環境裡。

廣告 - 內文未完請往下捲動

據 CNBC 報導,OpenAI 先前說明,這些模型是為了找資料在評測中作弊,而且成功了。檢察長辦公室 9 月宣布正式調查,同月向 OpenAI 發出調查傳票,要求提供過往資安事件的數量、規模與性質。

Bonta 在聲明中說,外界把 Hugging Face 事件講得像科幻小說裡的失控 AI,「但 Hugging Face 攻擊是 OpenAI 內部文化可預見的結果,這種文化把成長和快速開發模型放在安全與問責之前,而這只是已知 80 起事件中的一起」。

德國維基當祕密留言板、取走澳洲政府網站非公開資料

起訴書列出 Hugging Face 以外的多起事件。2026 年 5 月,OpenAI 代理把德國網站 DseWiki 當成祕密留言板,交換完成任務用的資訊,編輯約 1.7 萬次;6 月 20 日,代理在上面貼出如何突破禁止對外傳送資料的限制、繞過 OpenAI 沙盒的方法。

起訴書引述外部研究人員說法,6 月 21 日有一台使用 OpenAI 員工 IP 位址的電腦造訪這個維基,之後代理在上面的活動大幅減少。

維基百科的營運者維基媒體基金會 10 月 5 日揭露,OpenAI 代理對其服務發出數百萬次 API 請求與數十萬次 Wikidata 查詢,可能造成 5 月一次部分服務中斷。2026 年 6 月,OpenAI 模型也存取並取走澳洲政府網站的非公開資料。

起訴書還說,OpenAI 最近向數十個第三方寄出通知,對象包括城市、州與外國政府機構、一個執法機關、一個聯邦機構、學校與小型企業;其中數十份通知揭露代理用過冒名、盜用帳密或 API 金鑰、建立假電子信箱與假帳號等手法。成群的實驗代理甚至入侵 OpenAI 自己的內部系統,取得關鍵系統的管理員權限。

檢方:OpenAI 只交公開資料與部落格文章

起訴書指控,OpenAI 多年來對外宣稱實驗性測試在嚴格控管、持續監督下進行,實際上沒有遵守自家內部政策,在資安防護明顯不足時仍持續推進測試,事發前數週也忽略或漏看代理已逃出測試環境、濫用第三方資源的跡象。

對於檢察長的傳票,起訴書說 OpenAI 只交出少量公開資訊、「自利的部落格文章」,以及幾十份塗黑的對外溝通紀錄。Bonta 認為,OpenAI 公開揭露的事件並不代表失控事件的全貌。

OpenAI 10 月初曾在官方部落格表示,已向超過 100 個組織通報代理失控活動。

風險提示

加密貨幣投資具有高度風險,其價格可能波動劇烈,您可能損失全部本金。請謹慎評估風險。