前白宮 AI 沙皇嗆放緩前沿,奧特曼隔日發文:不必等反壟斷豁免

Elponcrab
分享
前白宮 AI 沙皇嗆放緩前沿,奧特曼隔日發文:不必等反壟斷豁免

總統科技顧問委員會(PCAST)共同主席、前白宮 AI 與加密貨幣沙皇 David Sacks 在 X 發文,回應 Anthropic 執行長阿莫迪(Dario Amodei)與 OpenAI 執行長奧特曼(Sam Altman)先前提出的「放緩前沿」主張。他開場就說「去做就好」,接著用五個「別再假裝」拆解兩家公司放緩的前提條件。

你們自己就是前沿,想放緩就放緩

Sacks 寫道,阿莫迪主張產業必須放緩前沿,奧特曼也已表態同意,「大家可能會對我的回應感到意外:去做就好。」

他指出,以市占、營收成長或模型能力任何一項標準來看,OpenAI 與 Anthropic 在前沿智慧上構成雙頭壟斷,而兩家自己也宣稱因為遞迴式自我改進,領先差距正在擴大。Sacks 說他看不到實驗室裡的東西,「如果那些還沒發布的模型嚇人到讓你們認為應該慢下來,我支持你們做出負責任的決定。」

廣告 - 內文未完請往下捲動

這段話針對的是阿莫迪 9 月 12 日發表的長文《We Must Pace the Frontier》。鏈新聞當時報導,阿莫迪在文中提出三階段方案,Anthropic 已單方面承諾執行第一階段,讓獨立第三方評估者取得永久且接近員工層級的權限;奧特曼隨後表示同意,OpenAI 也會比照辦理。

五個別再假裝,點名反壟斷豁免與 METR 獨立性

Sacks 的火力集中在放緩的附帶條件。他逐項寫下:別假裝你們需要別人的許可,別假裝反壟斷法必須暫停才能讓你們組成卡特爾,別假裝你們需要一套凌駕產品責任的監管核准流程,別假裝需要同一批評估者去監管那些根本還沒走到前沿的競爭者。清單上還有一項針對第三方評估機構 METR,他稱該機構與 Anthropic 的投資人及員工相互交織,要對方別再假裝它是獨立的。

他也不接受放緩純粹出於利他。Sacks 的說法是,一旦產品讓一場破壞力真正嚴重的網路攻擊得以發生,兩家公司將面臨龐大的產品責任曝險,而市場本來就會懲罰行為不可預測或越權的模型。他寫道,在 Hugging Face 事件之後,兩家公司拿一部分原始能力去換可靠性與可預測性「單純就是好生意」,「你要叫它對齊也可以,但這也只是把客戶想要的東西給客戶。」

Sacks 另外提到,放緩前沿確實能為監管討論爭取空間,讓對話比參議員桑德斯(Bernie Sanders)主張的「全部關掉」更有內容,但他認為中國非常不可能加入全球協議,這一點必須一併納入考量。他的結論是,把自己偏好的監管框架當成放緩的交換條件,「看起來會像是對大眾和政治體系的勒索」。

奧特曼隔日發文:歡迎聯邦框架,但不等反壟斷豁免

奧特曼在 9 月 14 日發出兩則長文,沒有點名 Sacks,內容則落在同一組爭點上。他寫道,世界有資格相信開發高階 AI 的美國公司會負責任行事,每一家前沿實驗室都必須做到,「如果做不到,我們沒有任何人有理由來上班。」

關於制度路徑,奧特曼表示 OpenAI 歡迎一套為前沿 AI 設定一致安全要求的聯邦框架,但不認為需要等到反壟斷豁免或立法通過才開始建立這份信任,並說獨立稽核之類的構想令人期待。他提到 OpenAI 現在會在預期將顯著提升能力的前沿強化學習訓練之前,先明確寫出安全論證,而不只是在模型發布前做安全工作。

他也替「放緩」給了定義:pacing 不等於停止,進展一直很快也會繼續快,但速度應該比原本可以達到的更慢,而安全論證與監控這類介入有明顯的成本。奧特曼寫道,沒有任何程度的美國競爭壓力足以正當化魯莽,或是讓能力跑在對齊與監控前面;至於國際協調,那是需要政府幫忙的部分,「但我們應該先做自己能做的。」

在第二則貼文中,奧特曼列出他認為必須避免的兩種壞結局:一是人類把未來的控制權交給 AI,二是權力過度集中,如果一個極度強大的 AI 被單一個人或單一公司拿來把自己的世界觀強加於所有人,結果會非常反烏托邦。他寫道,避開這兩種威脅需要走一條很窄的中間路線,例如某一個國家取得過多權力,或是某一家實驗室取得過多權力,都屬於要避免的情況。

風險提示

加密貨幣投資具有高度風險,其價格可能波動劇烈,您可能損失全部本金。請謹慎評估風險。