Anthorpic、OpenAI、馬斯克呼籲放緩 AI 模型,川普回應:不能輸給中國

Neo
分享
Anthorpic、OpenAI、馬斯克呼籲放緩 AI 模型,川普回應:不能輸給中國

Anthropic 執行長 Dario Amodei、OpenAI 執行長 Sam Altman 與 xAI 創辦人 Elon Musk 罕見在 AI 安全議題上站到同一陣線,呼籲科技產業重新思考前沿模型能力進步的速度。

美國總統川普(Donald Trump)也正式回應這場爭論,川普 9 月 13 日在愛爾蘭的高爾夫球場接受記者提問時,被問到 AI 產業是否應該放慢發展,或接受更多監管。他表示,美國目前正在 AI 領域領先中國,而且是全球最先進的國家,他希望繼續保持這種局面。

他說:「我們在 AI 上領先中國。我們是世界上最先進的國家,坦白說,我希望繼續保持下去,因為誰贏得 AI,誰就贏了。」

廣告 - 內文未完請往下捲動

AI 三巨頭才剛罕見達成共識:前沿模型該踩煞車

Anthropic 執行長 Dario Amodei 日前發表《We Must Pace the Frontier》,主張單純投入更多資源改善 AI 安全已經不足,產業還必須開始控制前沿模型能力進步的速度,避免模型能力成長快到 Alignment、安全測試、監控與可解釋性研究完全追不上。

Amodei 強調,這並不是要求停止 AI 研發,而是替安全研究爭取時間。他提出三階段方案:首先讓獨立第三方評估機構長期進入前沿 AI 公司、取得接近內部安全團隊的權限;接著由民主國家的 AI 公司與政府共同建立安全標準;最終甚至希望美國、中國等 AI 強國,能就模型能力進步建立全球協調機制。

(人工智慧失控警訊?Anthropic、OpenAI 罕見承諾放緩 AI 競賽)

更罕見的是,競爭對手 OpenAI 執行長 Sam Altman 隨後公開認同。Altman 表示,他同意 Amodei 所說「必須控制前沿發展速度」的方向,而且這也是 OpenAI 最近幾週內部討論的重要議題。對於 Anthropic 提議讓獨立第三方深入公司持續評估安全的制度,Altman 更表示這是好主意,OpenAI 也將跟進。

向來與 Altman 競爭激烈的 Elon Musk,這一次也罕見直接表態支持,只用一句「Dario is right」認同 Amodei 的警告。

川普回應:不能因 AI 風險把領先中國的優勢讓掉

也因此,川普這次被問及「AI 是否應該放慢」,他考慮的則是另一套風險:如果美國自己減速,中國是否會趁機追上?

Reuters 報導指出,川普一直不願跟進日益升高的 AI 風險論述。當被直接問到產業是否應該減速或接受更多監管時,他首先強調的不是模型失控,而是美國目前領先中國,並直言「誰贏得 AI,誰就贏了」。

Amodei 自己也承認中國是「AI 減速」最難解的問題

事實上,就連提出減速方案的 Amodei,也沒有忽略川普擔心的問題。他的第三階段構想之所以將美國與中國都納入,就是因為只要求美國企業單方面降低研發速度,幾乎不可能形成穩定均衡。如果其中一方相信競爭對手仍會繼續衝刺,就會產生強烈誘因偷偷加速。

Amodei 認為,美中 AI 競爭讓國際安全機制極難落地。要真正讓雙方限制模型能力進步速度,就需要極為嚴格的驗證與查核制度,以確認任何一方都沒有暗中加速;這套制度可能需要多年才能建立,而且是否能夠成功仍是未知數。

風險提示

加密貨幣投資具有高度風險,其價格可能波動劇烈,您可能損失全部本金。請謹慎評估風險。