民主黨議員提案禁止超級智慧，大模型一律暫停、違者關 20 年

Elponcrab

剛剛

美國民主黨拿下國會兩院隔天，亞利桑那州眾議員 Yassamin Ansari 在 X 發文，說民主黨上任第一天的首要議程，應該是「暫停先進 AI 開發、監管這個失控的產業，並禁止人工超級智慧」。

她說的不是空話。Ansari 是《禁止人工超級智慧法》（Ban Artificial Superintelligence Act）的原始共同提案人。依 congress.gov，眾院版 H.R. 10538 由德州眾議員 Greg Casar 在 9 月 24 日提出；參院版 S.5493 則由參議員桑德斯（Bernie Sanders）前一天提出。

Table of Contents

訓練算力達 10 的 25 次方，一律強制暫停

依法案全文，聯邦政府要新設「AI 部」與 AI 部長，專責執行兩件事：暫停先進 AI 開發，以及禁止人工超級智慧。

廣告 - 內文未完請往下捲動

法案把訓練算力達 10 的 25 次方次運算以上的模型定義為「先進 AI 系統」，門檻每年由 AI 部長調整。法案生效後，這些模型一律強制暫停，不能再訓練、修改或微調，還沒發布的也不能上線。

暫停要等 AI 部人員到齊、訂好規則才解除。規則至少要包括開發前向 AI 部申報計畫、開發到上線後全程監測、安全稽核，以及上市前的最終核准。之後任何人開發或散布先進 AI 模型，都要先取得 AI 部核發的許可。

禁止超級智慧，決策者最重關 20 年

法案定義的「人工超級智慧」，是在多數領域超越人類認知能力，或有能力策劃、執行毀滅人類、推翻聯邦政府的 AI 系統，也包括稍加修改就能做到的系統。

任何人都不得開發、部署、取得、持有、資助、進口或轉移這類系統，出現「超級智慧前兆」特徵的系統也要立即暫停。可以預見會被改造成超級智慧的模型，同樣不能發布或轉移。

罰則分兩級。公司內負責決策的人，或不屬於任何取得許可公司的「流氓行為者」，魯莽違反暫停、禁令或許可規定，最重可處 20 年徒刑並科罰金；一般員工違反則禁止在 AI 產業工作 10 年，向 AI 部舉報違規的吹哨者可獲豁免。

法案的立法理由，引用了多位業界領袖的風險說法，包括 AI 教父辛頓（Geoffrey Hinton）說 AI 有一到兩成機率消滅人類、Anthropic 執行長 Dario Amodei、xAI 的馬斯克、OpenAI 執行長 Sam Altman，以及微軟 AI 執行長 Mustafa Suleyman 把超級智慧稱為「反目標」。