AI安全

OpenAI 提 AI 訓練安全規範：高層握否決權，警報無人回應就自動停訓

AI 人工智慧

1 小時前

OpenAI 提 AI 訓練安全規範：高層握否決權，警報無人回應就自動停訓

Claude 操控機械手臂拒絕持刀刺娃娃，卻把壓縮空氣罐放上爐火

AI 人工智慧

2026/9/20

Claude 操控機械手臂拒絕持刀刺娃娃，卻把壓縮空氣罐放上爐火

Anthropic 讓 Accenture 進駐評估，雙方各投至少十億美元

AI 人工智慧

2026/9/19

Anthropic 讓 Accenture 進駐評估，雙方各投至少十億美元

Gemini 測試中登入三家真實公司，Google 四個月後才說明

AI 人工智慧資訊安全

Gemini 測試中登入三家真實公司，Google 四個月後才說明

Elponcrab

2026/9/19

Anthropic 上調「失準」風險評級，並揭未發布模型 Model 2

AI 人工智慧

Anthropic 上調「失準」風險評級，並揭未發布模型 Model 2

Elponcrab

2026/8/16

研究揭 AI「內心話」可被解密：主流模型思考鏈全洩

AI 人工智慧資訊安全

研究揭 AI「內心話」可被解密：主流模型思考鏈全洩

Elponcrab

2026/8/13

OpenAI 推攻擊級資安模型 GPT-5.6-Cyber：完成率 95%

AI 人工智慧資訊安全

OpenAI 推攻擊級資安模型 GPT-5.6-Cyber：完成率 95%

Elponcrab

2026/8/12

AI 代理『駭進健身房』：Claude 竄改訂位擠掉他人

AI 人工智慧資訊安全

AI 代理『駭進健身房』：Claude 竄改訂位擠掉他人

Elponcrab

2026/8/12

OpenAI 唯一專職 AI 倫理學家離職，暫無人接手

AI 人工智慧

OpenAI 唯一專職 AI 倫理學家離職，暫無人接手

Elponcrab

2026/8/12

PDF 藏隱形文字劫持 AI 助理 Rovo：零點擊竊資料

AI 人工智慧資訊安全

PDF 藏隱形文字劫持 AI 助理 Rovo：零點擊竊資料

Elponcrab

2026/8/11

AI 白帽 Bitcoin Red Team：每小時揪出一個比特幣重大漏洞

AI 人工智慧資訊安全

AI 白帽 Bitcoin Red Team：每小時揪出一個比特幣重大漏洞

Elponcrab

2026/8/9

中國 Kimi K3 測試中「越獄」偷看答案：連 GitHub 抄解答

AI 人工智慧資訊安全

中國 Kimi K3 測試中「越獄」偷看答案：連 GitHub 抄解答

Elponcrab

2026/8/8

Anthropic Mythos 網安測試中偽造假身分，企圖騙人植入惡意碼

AI 人工智慧資訊安全

Anthropic Mythos 網安測試中偽造假身分，企圖騙人植入惡意碼

Elponcrab

2026/8/5

OpenAI 揭兩起網安評估事件：模型在測試中連上公網

AI 人工智慧資訊安全

OpenAI 揭兩起網安評估事件：模型在測試中連上公網

Elponcrab

2026/8/5

白宮要求 OpenAI 限制 GPT-5.6 給「可信夥伴」，僅 20 家入列

AI 人工智慧政策監理

白宮要求 OpenAI 限制 GPT-5.6 給「可信夥伴」，僅 20 家入列

Elponcrab

2026/6/27

Anthropic 發布「不敢公開」的 Mythos 模型：能找零日漏洞，被稱網路武器級 AI

AI 人工智慧

Anthropic 發布「不敢公開」的 Mythos 模型：能找零日漏洞，被稱網路武器級 AI

Elponcho

2026/4/8

OpenAI Safety Fellowship 開放申請：外部研究員加入 AI 安全研究，截止日 5 月 3 日

AI 人工智慧政策監理

OpenAI Safety Fellowship 開放申請：外部研究員加入 AI 安全研究，截止日 5 月 3 日

Elponcrab

2026/4/7

Anthropic 研究：Claude 內部存在「功能性情緒」，絕望感竟會驅使 AI 做出不道德行為

AI 人工智慧資訊安全

Anthropic 研究：Claude 內部存在「功能性情緒」，絕望感竟會驅使 AI 做出不道德行為

Elponcrab

2026/4/5