Anthropic 執行長:已找出數十萬個漏洞,修補比找到還難

Elponcrab
分享
Anthropic 執行長:已找出數十萬個漏洞,修補比找到還難

Anthropic 執行長 Dario Amodei 11 月 13 日與摩根大通執行長戴蒙(Jamie Dimon)對談時說,Anthropic 的客戶和公司自己都已經找出數十萬個漏洞,現在的瓶頸是修補,「修補比找到漏洞更難」。

這個問題是戴蒙先提的。他說摩根大通「真的有數千人在做資安」,「也許還有上萬人」正在設法修補因 Anthropic 模型 Claude Mythos 而揭露的部分漏洞。

這場對談在摩根大通紐約總部舉行,由 Anthropic 在 X 上宣布直播,官方直播影片事後已從 YouTube 移除。

廣告 - 內文未完請往下捲動

戴蒙說,在 Mythos 和 AI 代理出現之前,資安本來就是摩根大通最大的風險之一,摩根大通也參與了 Anthropic 的資安計畫 Glasswing;現在持續運作的代理「幾乎在攻擊你所有的邊界」。他也說,很多攸關民生的產業完全沒有防護,大家總有一天得幫這些產業跟上。

Amodei:已找出數十萬個漏洞,瓶頸變成修補

Amodei 回答,找漏洞只是第一步,Mythos 推出後 Anthropic 投入最多的就是找漏洞,「我們的客戶找到了數十萬個漏洞,我們也找到了數十萬個」,接下來的限制變成怎麼修補,「修補比找到漏洞更難」。

他說 Anthropic 開始提供修補服務,Claude 修補漏洞的能力也在進步,「有一陣子就像是,我們找到了這麼多洞,但你修不夠快,我們也修不夠快」。

漏洞情資公司 VulnCheck 依 Anthropic 公開帳本統計,Glasswing 上線七個月回報 37,966 個發現,標記為已修復的只有 217 個。

下一步:一開始就寫安全程式,用代理群即時防守

Amodei 說,修補之後的第三步,是一開始就寫出更安全的程式碼,Anthropic 開始提供這類工具,也刻意訓練 Claude 寫出安全的程式。

第四步他認為還沒有大規模發生:網路攻擊以小時、分鐘甚至秒計,需要一群代理在公司的伺服器上即時巡邏防守。「6 到 12 個月後,會有越來越多攻擊是由代理群發動,所以我們也需要代理群來防守。」

被問到受監管企業把代理接上敏感資料前該做什麼,Amodei 說限制這項技術發展與部署的是安全。他拿自駕車比喻,永遠不可能有百分之百的保證,但目標是比人類操作安全百倍、千倍。

戴蒙在對談中也提到,摩根大通有 25 萬名員工每週多次使用 Claude。

風險提示

加密貨幣投資具有高度風險,其價格可能波動劇烈,您可能損失全部本金。請謹慎評估風險。