AI 最關鍵的路線之戰？Dario Amodei 親上火線回應「Anthropic 權力集中論」
鏈新聞此前報導，Atreides Management 創辦人 Gavin Baker 爆料，他從多名信任人士處得知，Anthropic 執行長 Dario Amodei 曾在內部表示，Anthropic 有朝一日甚至可能成為「全球唯一一家私人公司」。
(Gavin Baker 怎麼看 Anthropic 2 兆美元估值？同場爆料 Dario 稱未來只剩「Anthropic 與政府」)
Baker 當時將這種想像形容為「Anthropic maximalist」世界觀：在最極端的情況下，未來可能只剩下 Anthropic 與各國政府。如今 Anthorpic 執行長 Dario Amodei 本人也親自下場回應。
廣告 - 內文未完請往下捲動
爆料可能不準，但為何這麼多人相信？
Baker 表示，真正值得注意的事情，不只是 Dario 到底有沒有講過「Anthropic 可能成為全球唯一私人公司」。而是矽谷有多名「非常認真的人士」都聽過某種版本的類似說法，而且認為它聽起來可信。Baker 認為，原因在於這種說法與 Dario 長期公開傳達的 AI 世界觀並不衝突。
Dario 過去多次警告，AI 可能帶來資安、生物科技、失控與權力集中等風險，因此需要更嚴格的治理與監管。Baker 並不否認這些風險，甚至相信 Dario 是出於善意。
AI 太危險，所以應該集中？還是因為太危險，所以不能集中？
Baker 將目前 AI 安全辯論簡化成兩條路線。一種想法是 AI 太危險，因此應該透過監管，把最強大的 AI 限制在少數受監督的公司與政府手中。另一種則是正因為 AI 太危險，所以更不能讓少數公司或政治人物掌握，而應讓 AI 儘可能分散。
Baker 明顯支持後者。
他引用 Meta 執行長 Mark Zuckerberg 的論點指出，如果認為 AI 危險到「唯一安全的方法就是極端集中權力」，本身就是一個有問題的結論。
Baker 認為，更好的方法是讓世界上存在更多 AI，透過不同模型、公司與價值觀互相制衡，而不是把最強 AI 集中在少數前沿實驗室。
Baker 接著將批評直接指向 Dario 的政策路線。他認為，到了現在，「可以安全地說 Dario 已經輸掉這場辯論」。原因是 Dario 長期倡議的嚴格 AI 監管，目前並沒有成為整個產業的主流方向。
Baker 甚至認為，近期一些事件反而強化了開源 AI 的政治正當性，也讓近期待推行更嚴格監管的難度升高。
但他真正擔心的，是 Dario 長期強調 AI 危險性的論述，正在產生反作用。Baker 指出，美國目前已經出現愈來愈多反對資料中心的政治力量。他預測，未來反資料中心團體甚至可能直接拿 Dario 警告「AI 可能危害人類」的影片作為宣傳素材。
這也形成 Baker 所認為的矛盾。Dario 原本希望透過警告 AI 風險，推動更安全的產業發展；但這些言論最終可能被轉化成反對 AI 基礎建設的理由。
Gavin Baker：我仍然非常看好 Anthropic
值得注意的是，Baker 批評 Dario 的監管哲學，並不代表他看空 Anthropic。
他強調，Anthropic 仍是一家擁有深厚競爭優勢的「驚人公司」。
甚至幾個月前，他認為 Anthropic 最大的風險之一，不是 OpenAI 或 Google，而是 Dario 對 AI 風險的論述太強烈，最後可能讓政府產生「國有化」Anthropic 的想法。
因此 Baker 建議，既然 Dario 即將領導全球最重要的科技公司之一，就應該更積極替 AI 產業的正面價值發聲。
Dario Amodei 親自回應：這是一個錯誤二分法
面對 Baker 的長文，Dario Amodei 罕見親自在社群平台回應。他的第一個重點，就是反對 Baker 將問題簡化成：「監管並集中 AI」對上「開放並分散 AI」。
Dario 認為，這是一個錯誤二分法。他指出，矽谷經常把「監管」直接等同於「監管俘虜」與「權力集中」，但現實遠比這複雜。好的制度反而有可能限制大型企業的權力。Dario 以法院制度為例，指出正式司法制度雖然有時顯得官僚甚至菁英化，但相比完全依靠群眾力量，反而更能保障弱勢個體。
制度不一定集中權力，好的制度反而可以把權力從個人手中轉移到規則之上。他指出 Anthropic 在設計 AI 政策提案時，一直刻意避免讓法規成為大型 AI 公司建立護城河的工具。相反地，Anthropic 希望讓前沿 AI 公司承擔更大的監管成本，同時減少對小型競爭者的限制。
他舉例，加州 SB 53，以及先前爭議很大的 SB 1047，都設有營收或模型訓練成本門檻，小型公司可以獲得豁免。Anthropic 近期倡議的模型測試制度也是如此。越接近最前沿能力的模型，測試要求越高；落後於 frontier 的模型則受到較少限制。Dario 認為，這種制度實際上對 Anthropic、OpenAI 等前沿實驗室更不利，反而有利於追趕者以及開放權重模型。
真正讓 AI 權力集中的，是 Scaling Law
Dario 與 Baker 最大的分歧，其實在這裡。Baker 擔心監管會造成權力集中。Dario 則認為：AI 本身就天然具有權力集中的結構。原因是 Scaling Law。模型能力愈強，往往就需要更多算力、資料、晶片與資本。當訓練最先進模型所需的投入不斷提高，真正有能力競爭的企業自然就會愈來愈少。即使開放模型權重，也只能部分解決問題。
因為最後真正能大量運行這些模型的人，仍然是握有 GPU、資料中心與資本的大型科技公司或硬體供應商。在 Dario 看來，真正需要解決的，是如何制定制度，同時做到三件事：
- 降低 AI 的資安、生物與失控風險；
- 限制前沿 AI 公司的權力；
- 同時讓小型公司與開放權重模型仍有競爭空間。
對 Baker 所稱的「監管路線已經失敗」，Dario 也直接否認。
他指出，目前美國政府傳出的部分政策方向，包括在部署前測試最前沿 AI 模型，以及當開放權重模型逐漸逼近 frontier 能力時進行測試，都與他支持的方向相當接近。他也支持 Google DeepMind 執行長 Demis Hassabis 提出的類 FINRA AI 監管機構構想。在 Dario 看來，相比六個月前科技產業仍普遍反對州層級監管、聯邦政府又缺乏明確方案，目前的政策環境其實已經有所改變。
兩人的第二個主要爭議，是 Dario 對 AI 的公開形象。Baker 認為 Dario 過度強調危險，現在甚至傷害了 AI 產業本身。Dario 則不同意。他表示，自己對 AI 的風險與利益其實一直維持相對平衡。例如他曾撰寫《Machines of Loving Grace》，就是因為他認為整個 AI 產業沒有提出足夠令人期待的未來。
Dario 在其中甚至預測，AI 可能在大約 5 至 10 年內協助治癒大部分人類疾病。不過 Dario 承認，大眾現在確實對 AI 抱持高度不信任。只是他認為，問題並不是 AI 公司太常談風險，而是整個科技產業面臨更深層的信任危機。一般人不信任科技公司、企業與政府，總懷疑新的技術最終只會讓少數人受益。
因此 Dario 不認為解法是推出更多正面 AI 行銷。他甚至直言：如今再說「AI 可以治癒癌症」，對很多人來說已經變成陳腔濫調。真正能改變大眾態度的方式應該是真的把癌症治好。
Dario 甚至認為，目前外界對 Anthropic 與整個 AI 產業最合理的批評，其實是：AI 公司提出了巨大的承諾，但至今仍沒有真正交出相匹配的成果。
Dario 最後透露，Anthropic 正快速增加在生物科技與醫療領域的投入。他希望未來幾年能出現重大成果，甚至表示，未來幾個月可能就能看到一些早期跡象。但在真正取得成果之前，他仍不願意以尚未兌現的承諾進行行銷，也不打算停止討論 AI 可能帶來的真實風險。
風險提示
加密貨幣投資具有高度風險，其價格可能波動劇烈，您可能損失全部本金。請謹慎評估風險。
