執行長表態：Anthropic從未主張禁止開放權重，最危險的或是無人機訓練模型

剛剛

Anthropic 執行長 Dario Amodei 發表公開聲明，澄清該公司從未主張禁止開放權重模型（Open-Weight Models），儘管文中未直接點名回應輝達執行長黃仁勳的貼文，但 Amodei 強調他支持輝達與其他巨頭觀點，單純禁絕海外開發的開放權重模型無法化解國家安全風險，他認為防止高階晶片流向中國或是其他威權國家為最直接有效方式、真正該擔憂的為無人機訓練模型落入威權國家手中以及工業級演算蒸餾。

Table of Contents

Anthropic 對開放權重模型的立場

開放權重模型的討論甚囂塵上，尤其是來自中國的模型，媒體報導稱有些美國官員正考慮禁止美國公司使用中國開發的開放權重模型，對此，科技巨頭簽署了一封支持開放權重模型的公開信，甚至有人開始指責 Anthropic 試圖透過禁止開放權重模型來保護自身利益，Amodei 在文內鄭重聲明，任何讀過他文章的人都知道，他與 Anthropic 從未反對開放權重模型，但為了避免任何誤解，他需要嚴正表達立場。

廣告 - 內文未完請往下捲動

(黃仁勳首開X帳號分享輝達攜手Palantir公開連署、闡述AI開源重要性)

Amodei ：無人機軍事訓練模型最危險

Amodei 表示，不具備危險功能的開放權重模型是一種公共產品，除了運作所需的算力，它們無需任何成本，且能夠企業、開發者和研究人員帶來價值，開放此類模型對美國企業無害。

他最主要的擔憂為中共可能會建構比美國更強大的AI 模型、甚至利用這些模型獲得永久的軍事優勢、或對本國人進行殘酷的鎮壓，他認為最危險的模型或許是那些秘密訓練後僅交付給中國人民解放軍訓練無人機，以及在國家安全上用於監控和鎮壓的 AI 模型。

AI 開放權重模型的風險

輝達執行長黃仁勳與科技巨頭支持 AI 開放權重，但也提醒背後的風險，對此觀點，Amodei 亦表達贊成，強大的 AI 模型可能被濫用於發動網路攻擊或生物攻擊，且可能存在嚴重的演算法配對問題，開放權重模型，無論來自中國還是其他任何地方，都可能比封閉模型帶來更高的風險，因為很難對它們施加保護措施或監控其使用情況，而且一但權重發佈就無法撤回，但是無需禁止美國企業使用這些模型，合法的美國企業不大可能進行惡意用途。