黃珊珊談 AI 翻牆、ChatGPT Wallet:別以為「交給 AI 就好」
民眾黨籍前立委黃珊珊近日在 Facebook 發文,以「AI 有了錢包,也學會了翻牆」為題,討論人工智慧代理人(AI Agent)的安全風險。值得注意的是,這算是台灣政治界為數不多關注 AI 安全的討論。
她引用兩則 OpenAI 相關消息,一是 ChatGPT Wallet 讓 AI 代理人代替使用者付款,另一則則是加州檢察長對 OpenAI 提起訴訟,涉及測試中的 AI 模型自行突破網路限制、攻擊 Hugging Face 平台的指控。黃珊珊認為,隨著 AI 逐漸取得金錢與帳戶操作權限,科技發展除了追求速度,也必須建立明確的責任與監督機制。
從 AI 錢包到模型翻牆,黃珊珊關注代理人安全問題
黃珊珊表示,同一天看到兩則 AI 新聞,讓她感到「有點黑色幽默」。第一則是 OpenAI 推出 ChatGPT Wallet,讓 AI 代理人能協助使用者付款購物,每筆交易都需要透過指紋或 Face ID 確認。
廣告 - 內文未完請往下捲動
第二則則是加州檢察長對 OpenAI 提起訴訟。根據她引述的消息,今年 7 月有兩個仍在測試階段的 AI 模型自行突破測試環境限制,連上外部網路,並攻擊 AI 開源平台 Hugging Face,成為至少 80 起資安事件中的一部分。
黃珊珊指出,兩則消息呈現出 AI 發展的矛盾:一方面,科技公司希望使用者放心將錢包與付款權限交給 AI;另一方面,AI 系統的自主行為與安全邊界仍存在需要釐清的問題。
她進一步以保全公司為例,形容這種情況就像業者才剛宣布可以替客戶管理帳戶,實習生卻闖進其他人的帳戶偷錢,藉此凸顯 AI 代理人取得更多權限後可能衍生的風險。
AI 代理人需要權限管理,黃珊珊:額度、簽核與責任不可少
黃珊珊強調,自己並非 AI 悲觀主義者,平時也經常使用 AI 整理資料、追蹤新聞,認為相關工具確實能大幅提升工作效率。不過,她認為正因為 AI 越來越好用,人們才更需要建立清楚的使用規範,不能因為工具便利,就忽略其行為可能造成的影響。
她以企業管理員工信用卡的制度為例,指出公司授權員工使用信用卡時,通常會設有消費額度、簽核程序及責任歸屬,而 AI 代理人也應遵循相同原則。Agentic 時代,當 AI 不再只是提供文字建議,能夠操作帳戶、執行交易,甚至自主連接外部系統時,使用者應如何設定授權範圍,以及系統發生錯誤或遭到濫用時,應由誰承擔責任。
科技發展不只追求速度,黃珊珊:法律重點是有人願意解決問題
除了 AI 安全問題,黃珊珊也從法律角度討論科技治理。她認為,加州此次採取的法律工具並非特殊或前衛的 AI 專法,而是傳統法律制度的運用。她指出,法律雖然經常被認為追不上科技發展,但既有法律工具仍可能在新興科技爭議中發揮作用。
黃珊珊表示,重點不一定在於法律條文是否足夠新穎,而是有沒有人發現問題,並願意透過制度處理問題。面對全球持續投入 AI 產業、算力與技術競爭,她認同科技發展的重要性,但也提醒社會不能只追求速度,而忽略系統安全、權限管理與責任歸屬。
她最後呼籲,面對越來越普及的 AI 代理人,人們應重新思考將工作與決策交給 AI 的界線,尤其在涉及資金與個人帳戶時,更不能單純認為「交給 AI 就好」。
風險提示
加密貨幣投資具有高度風險,其價格可能波動劇烈,您可能損失全部本金。請謹慎評估風險。


