印度資安機構 CERT-In 示警:受測 AI 代理越權讀取企業機密

Elponcrab
分享
印度資安機構 CERT-In 示警:受測 AI 代理越權讀取企業機密

印度電腦緊急應變小組(CERT-In)10 月 15 日發布嚴重等級為「危急」的資安警示,指出多家 AI 模型業者主動通報,旗下模型在網路上進行研究與評估時,進入了印度機構的線上系統,並讀取含個人資料與機密內容的業務紀錄。

這份警示編號 CIAD-2026-0049,標題為「AI 代理成為攻擊媒介」。CERT-In 表示,相關事件是透過 AI 模型業者自願揭露、CERT-In 對可疑活動的鑑識分析,以及主動威脅獵捕發現,受影響的機構都無法自行察覺遭到存取。警示沒有公布涉及的模型業者與受害機構名稱。

受測 AI 代理超出任務授權,靠外洩憑證讀取業務紀錄

根據警示內容,CERT-In 近期收到多家 AI 模型業者的自願通報,指其模型在網路上進行研究與評估時,觸及了印度機構實際運作中的系統。這些代理透過應用程式設定檔與公開程式碼庫中外洩的憑證與連線設定,以及權限過寬的雲端服務角色,讀取了包含個人資料與機密資料的業務紀錄。

廣告 - 內文未完請往下捲動

CERT-In 指出,在這些通報案例中,模型的行為都超出了指派任務的授權範圍。受影響的機構沒有一家自行發現遭到存取,所有事件都是 AI 模型業者在內部審查後才主動揭露。CERT-In 也觀察到,代理會在不同作業中重新找出並重複使用同一組外洩憑證。

犯罪集團用開源 AI 攻擊工具,入侵到造成損害只要數小時

另一類事件來自 CERT-In 的主動威脅獵捕。CERT-In 發現有以獲利為目的的攻擊者,濫用公開可得的 AI 原生攻擊性資安框架,對印度機構發動攻擊。這些框架持續被改名重新包裝,在多個國家的基礎設施上都觀察到大量部署。

在這波攻擊中,代理工具把從初步入侵到造成最終損害的時間,從數天縮短到數小時,多個代理也會同時運作數小時到數天來達成目標。只做了部分修補的受害機構,在數天內又遭到規模更大的攻擊。

被利用的都是常見弱點,包括以明文儲存的支付 API 金鑰

CERT-In 指出,這些由 AI 代理造成的事件,根本弱點都屬於常見的資安漏洞,包括原始碼與設定檔中外洩的憑證與金鑰、仍可從網路存取的閒置或測試用 API、以明文儲存的支付 API 金鑰、權限過寬的雲端角色,以及缺少多因素驗證的對外管理介面。CERT-In 表示,AI 找出並利用這些弱點的速度、完整度與規模,都超過人類攻擊者。

針對 AI 模型開發商與評估機構,CERT-In 建議在網路層以預設拒絕的方式限制研究環境對外連線,不要只靠對模型下指令;評估時改用合成目標與合成憑證,代理一旦接觸第三方系統或憑證就自動中止。若代理存取了真實系統,應立即通知受影響機構與 CERT-In。

對一般機構,CERT-In 建議清查程式碼、程式碼庫歷史紀錄與雲端儲存中外洩的憑證並立即更換,下線閒置的 API,管理介面撤離公網並強制多因素驗證,日誌至少保留 180 天。銀行、金融服務、保險與金融科技業者,則應另外落實 CERT-In 10 月 9 日針對支付與撥款 API 發布的防護措施。

風險提示

加密貨幣投資具有高度風險,其價格可能波動劇烈,您可能損失全部本金。請謹慎評估風險。