祖克柏回應 AI 末日論：前沿模型公司本就有責任確保安全，不必等全產業一起放慢
在 AI 公司是否應集體放慢模型開發的爭論中，Meta 執行長 Mark Zuckerberg 提出看法。他認為，各實驗室本來就都有責任依安全訓練所需的步調前進，也有能力自行採取措施；信任與「對齊」正在成為 AI 代理產品最重要的競爭力之一。
Zuckerberg 指出，如果 AI 代理無法遵照使用者指示，或行為不符合使用者利益，人們就不會使用它。這使實驗室有商業誘因改善模型對齊；模型若造成傷害，公司也可能面臨法律責任。他據此主張，安全措施應融入各公司的開發流程。
他以 Meta 的 Muse 模型為例，稱公司為加強安全與資安，曾將發布時間延後數個月。「我們沒有要求其他公司先這麼做，自己才會跟進。」Zuckerberg 說，Meta 是在日常工作中作出這項決定。Muse 延後發布的原因與期間，目前是 Zuckerberg 的說法。
廣告 - 內文未完請往下捲動
支持外部評估，但不主張統一放慢進度
Zuckerberg 也支持聘請獨立評估者與顧問，表示 Meta Superintelligence Labs 已在數個領域採取這項做法，並期待出現規模更大、背景更多元的評估生態系。不過，他沒有在這則貼文中承諾讓外部評估者取得與內部員工相當的持續存取權。
這與 Anthropic 執行長 Dario Amodei 近日提出的方案有關鍵差別。Amodei 主張讓模型能力的進展放緩至安全研究能跟上的速度，並承諾邀請外部評估者長期進駐，查核 Anthropic 的安全措施、訓練流程與事故。Zuckerberg 則強調，各實驗室可以自行延後發布、接受外部評估，同時繼續推進技術。
對於 AI 自行改進、加速下一代模型開發的風險，Zuckerberg 認為，將絕大部分算力用來服務人們的目標，而非投入遞迴式自我改進，是維持安全的重要方法。此前他進一步主張，先進 AI 應廣泛提供給個人使用，避免力量集中於少數機構或 AI 系統手中。依他的觀點，能否維持有利於人們的權力平衡，是安全發展超級智慧的核心。
馬斯克回覆祖克柏 AI 安全論調
Elon Musk 隨後回覆「Cool」。不過，這個簡短回應沒有說明他認同 Zuckerberg 的哪些主張。值得注意的是，Musk 日前在 All-In Summit 談及 AI 風險時，提出了另一項具體做法：讓主要 AI 公司在模型發布前，互相測試對方的模型。
(馬斯克：AI 現在非常危險，應該讓模型間彼此進行安全測試)
Musk 當時表示，AI 模型愈來愈強，安全測試不能只由開發模型的公司自行完成。他主張讓 OpenAI、Anthropic、xAI、Google、Meta 等公司取得競爭對手尚未發布模型的一定程度存取權，檢查模型是否具有危險能力或欺騙行為；若發現問題，應先由開發公司處理。他也認為，制度若要有效，不能只限制美國公司，還必須思考如何讓中國主要 AI 公司參與。
風險提示
加密貨幣投資具有高度風險，其價格可能波動劇烈，您可能損失全部本金。請謹慎評估風險。
