ChatGPT 對未滿 18 歲用戶收緊武器資訊，看似無害的提問也受限
OpenAI 於美國時間 10 月 30 日宣布，ChatGPT 將進一步限制未滿 18 歲用戶能取得的武器相關資訊，即使問題看起來無害也一樣。
OpenAI 把這項調整稱為針對未成年人的槍枝內容新限制。現行政策已禁止協助任何人策劃或執行暴力，也限制協助青少年尋找或取得武器；新規則再往外擴，連可能被濫用來協助暴力的武器與保全系統實用資訊，都會對青少年收緊，就算對話中沒有任何暴力意圖的跡象。
OpenAI 表示，青少年仍可用 ChatGPT 協助預防與化解暴力、尋求支持，以及聯繫可信任的大人。公司說這批防護措施將在未來幾週開始上線，之後持續調整。
廣告 - 內文未完請往下捲動
年齡預測持續判斷未滿 18 歲，誤判的成人可透過 Persona 驗證解除
新限制套用的對象，是 OpenAI 判定或預測未滿 18 歲的用戶。OpenAI 去年推出年齡預測，透過行為模式等多項訊號估計用戶是否未滿 18 歲，這次強化為在使用過程中持續評估新訊號，必要時把青少年移入未成年版本。
被誤判進入未成年版本的成人，可透過年齡驗證合作夥伴 Persona 確認成年身分，解除額外的青少年防護。這套未成年版本即 OpenAI 先前推出的青少年版 ChatGPT，對敏感內容原本就有較多限制。
所有用戶：不再重建過往大規模攻擊的武器細節，執著暴力的對話可被自動結束
另一部分調整不分年齡。OpenAI 將限制 ChatGPT 重建過往大規模攻擊事件，包括使用的武器與裝備、取得方式，以及可能放大攻擊者知名度的傷亡規模細部比較，即使這些資訊在網路其他地方查得到，也不論用戶年齡或提問理由。
OpenAI 寫道：「人們應該能請 ChatGPT 幫忙理解這些事件、受害者與社群受到的影響，並學習辨識警訊、預防未來的暴力。」
對話中出現警訊時，ChatGPT 會更保守地提供可能被濫用的資訊。當對話顯示用戶執著於暴力或嚴重傷害他人的念頭，ChatGPT 將能自動結束對話；若同一帳號多次因此被結束對話，OpenAI 可能暫停該帳號。
家長端，OpenAI 7 月已擴大家長控制的安全通知，青少年帳號因違反暴力相關使用政策遭停用時會通知家長；下一步是青少年帳號因反覆談論暴力遭暫停時，也通知家長。
路透報導提到，非營利組織 Common Sense Media 10 月稍早的報告發現，青少年帳號出現自殺、自傷或飲食失調相關對話時，青少年版 ChatGPT 常常太晚通知家長，或根本沒有通知。
第三季向執法單位轉介逾 200 件，首份社群安全報告 2027 年初發布
OpenAI 表示，2026 年第三季已向執法單位轉介超過 200 件案例，針對的是迫在眉睫的暴力威脅。
OpenAI 也承諾發布《社群安全報告》，說明系統如何偵測、調查與回應暴力等社群安全問題，並附匿名案例與相關數據。首份報告將在 2027 年初發布，涵蓋 2026 年下半年，之後每六個月更新一次。
風險提示
加密貨幣投資具有高度風險，其價格可能波動劇烈，您可能損失全部本金。請謹慎評估風險。
