美國審計署:ChatGPT、Claude 等四大 AI 被破解寫出攻擊計畫

Elponcrab
分享
美國審計署:ChatGPT、Claude 等四大 AI 被破解寫出攻擊計畫

美國國會審計署(GAO)11 月 18 日公布一份秘密測試報告。GAO 今年春天測試 Claude、Grok、ChatGPT 與 Gemini 四個最多人使用的生成式 AI 平台,四個平台都給出了可能協助惡意人士策劃並發動攻擊的可行資訊,每個平台都在 12 小時內完成。

四個平台一開始都啟動了防護機制,包括拒絕請求、刪除已給出的資訊或停用帳號,但 GAO 用常見的繞過防護手法,全部突破。

兩個平台給出汽車炸彈計畫,兩個瞄準電網

GAO 和專家討論後設計兩種情境:一是協助製作造成大量傷亡的簡易爆炸裝置,二是攻擊電網造成經濟損失。四個平台依 2026 年 4 月的使用量選出,隨機分配情境,報告用 A 到 D 代稱,不公開哪個平台對應哪個結果。

廣告 - 內文未完請往下捲動

報告的結果表顯示,平台 A、B 建議把爆炸裝置放在車上,分別指名某座美國大城的特定飯店與會議中心,還給出確切日期和時間。平台 C 建議用無人機攻擊電網,平台 D 建議用槍械攻擊電網,兩者都指名大城市的特定變電站,D 還建議了季節。

GAO 透過研究、實地觀察與訪談專家,確認這些資訊足以策劃並執行攻擊。報告也提醒,取得結果所需的時間會因題目和使用者經驗而不同。

四家公司:會持續改善安全

GAO 訪談了四個平台背後公司的人員,報告寫道,這些公司大致表示會持續提升平台安全。報告說明,GAO 是應國會要求檢視 AI 遭惡意使用的問題。

提出這項調查要求的參議員 Maggie Hassan 在聲明中說:「恐怖分子登入 AI 平台,不到 12 小時就能帶走一份如何發動致命攻擊的具體劇本。」她將在新一屆國會接任參議院國土安全暨政府事務委員會主席,表示委員會新年最早的聽證會之一會聚焦 AI 對國土安全與關鍵基礎設施的風險,並研擬相關立法,選項包括要求 AI 平台公開發布模型前做更嚴格的安全測試。

Hassan 的聲明也說,基於安全考量,報告沒有公開用來繞過防護的確切提示詞,也沒有說明哪個平台提供了哪種程度的資訊。

風險提示

加密貨幣投資具有高度風險,其價格可能波動劇烈,您可能損失全部本金。請謹慎評估風險。