阿莫迪親上火線解釋AI末日論，呼籲美中兩國簽署「生化武器公約」防止恐攻
分享
Anthropic 執行長 Dario Amodei (阿莫迪) 於前員工揭露安全疑慮後親上 CBS Sunday Morning 新聞節目回應「AI 末日論」。Amodei 表示，針對 AI 快速發展下可能伴隨的生化恐攻濫用風險，團隊持續進行防禦評估，他主張建立第三方獨立評估機制、適度調節研發步調，呼籲美國與中國共同制定「生化武器公約」監管框架，防止恐攻。
如何降低人工智慧濫用風險？
阿莫迪提出了幾項降低人工智慧模型濫用的策略，他建議利用第三方評估機構，觀察人工智慧模型訓練，確保企業遵守既定的安全規範，他且主張放緩人工智慧開發速度，以便控制 AI 快速增長步伐，阿莫迪強調產業領導者必須與政府合作制定安全標準，但責任不應僅由私人企業承擔，應由政府配合進行監督。
(All in Podcast：末日論為心理戰術，影響 Anthropic 上市計劃)
廣告 - 內文未完請往下捲動
國際合作阻止 AI 濫用於生化恐攻
阿莫迪認為儘管地緣政治因素使得國際合作充滿挑戰，但仍然是必要的 AI 防禦戰略，他認為美國和中國應進行類似核武軍控的談判，以建立共同安全規範框架，他表示防止生化恐怖主義應符合包含美國與中國等國利益，他建議兩國可以先達成共識條約或擴展「生化武器公約」，以明確禁止利用人工智慧開發危害安全的國家生化武器。
擴展「生化武器公約」防止開發危險病原體
面對全球競爭與地緣政治壓力，Amodei 指出國際間應比照傳統軍備控制模式，建立跨國安全的溝通機制，以衛生安全為例，各國在防止生化攻擊方面皆具備共同利益，得透過擴充現有生化武器公約（Biological Weapons Convention 簡稱BWC）框架，明確禁止將人工智慧模型運用於 Dangerous Pathogens（危險病原體）設計，確保參與國確實履行安全承諾。
本文重點摘要筆記
- 獨立第三方稽核：導入非營利組織或政府的第三方評估機構，扮演驗證員角色，觀察模型訓練與運作流程。
- 調整技術研發步調：適度放緩發展節奏，確保安全防禦機制與人為控制能力能夠跟上指數級成長。
- 延伸借鏡國際軍控模式：參考核武與生化武器管控經驗，推動跨國協議，將「生化武器公約」應用範圍擴大至人工智慧領域。
- 建立實質核查機制：克服 AI 模型的驗證難題，透過嵌入式檢驗與技術監測，落實跨國協議的執行與監督。
- 加強政府與企業合作防禦架構：結合政府監管、企業自律與多層次防禦體系，確保單一環節失效時引發系統性災難。
風險提示
加密貨幣投資具有高度風險，其價格可能波動劇烈，您可能損失全部本金。請謹慎評估風險。
