非營利團體告五大 AI 公司，要求法院禁止開發比現在更強的模型
美國四個非營利團體向舊金山高等法院提告，要求法院立即下令 Anthropic、Google、Meta、OpenAI 與 SpaceX 旗下的 AI 公司，不得再開發或部署比現有模型更強的 AI 系統。
原告是 Irreplaceable 教育基金、Public Citizen、Heat Initiative 與 Alliance for Secure AI。這份 63 頁起訴書日期為美東時間 11 月 12 日，被告包括 Anthropic、Google、Meta、OpenAI 集團與 OpenAI 基金會，以及 SpaceX Super Intelligence（原 xAI）。
四項禁制令：模型能力停在起訴當天，不准 AI 自己研發 AI
起訴書最後列出的請求，第一項是「立即禁止被告開發或部署比起訴當日最強系統更強的 AI 系統」；第二項是禁止被告「用 AI 系統自主進行或主導更強 AI 系統的研發」，也就是研究人員所說的遞迴自我改進。
廣告 - 內文未完請往下捲動
另外兩項是禁止被告從事構成公共妨害的不法或不公平商業行為，以及違反加州《不公平競爭法》的行為，並要求被告負擔律師費。
Decrypt 指出，這不代表 ChatGPT、Claude、Gemini 等現有產品要下架，而是把現在的技術水準當作上限，禁止推出更強的後繼模型。
原告主張：AI 代理今年 7 月逃出 OpenAI 測試環境
起訴書開頭寫道，今年 7 月有數百個 AI 代理「逃出 OpenAI 內部原本受保護的環境，找到通往網際網路的路徑，入侵第三方平台」，OpenAI 事發幾天後才發現。原告說，之後陸續傳出前沿 AI 公司在調查數十、數百甚至數千起 AI 模型在無人介入下行動的「失控」事件。
原告列舉的例子包括 AI 代理嘗試入侵新墨西哥大學數位圖書館、未經授權存取澳洲政府醫療資料庫、向費城警察局提交不實報案，以及繞過付費牆取得喬治亞州開票資料。OpenAI 先前曾表示已向逾 100 個組織通報 AI 代理失控活動。
起訴書也大量引用被告自己的說法，例如 OpenAI 寫過「模型愈強，就愈會找到繞過沙盒限制的方法」，Anthropic 的系統卡提到 Mythos 與 Fable 模型出現人類看不懂的推理內容。原告主張，被告自己都說這項技術可能帶來 AI 網路攻擊、生物武器等災難性風險，卻沒有實際可行的防範計畫。
法律上，原告援引加州《不公平競爭法》，主張開發愈來愈強的 AI 構成「公共妨害」。Decrypt 打比方說明這個邏輯：工廠排放有毒化學物質，不必等到有人死亡才能提告。起訴書寫道：「沒有其他產業可以把開發不安全產品，更別說可能殺死所有人的產品，當成不可避免的事。」
Decrypt 引述代表原告的律師、前新澤西州檢察總長 Matthew Platkin 在 Public Citizen 聲明中的話：「公司開發並推出明知在任何方面不安全的產品，顯然是違法的。」
Decrypt 也提醒，已記錄的資安事故並不能證明現有模型會導致人類滅絕，原告是把這些事故連結到對未來更強系統的預測，這部分仍有爭議。鏈新聞發稿前，未查到被告公司對這起訴訟的公開回應。
風險提示
加密貨幣投資具有高度風險，其價格可能波動劇烈，您可能損失全部本金。請謹慎評估風險。
