AI 安全

三名研究人員靠 Anthropic 成功入侵 OpenAI 程式碼庫，AI 資安疑慮再現

AI 人工智慧資訊安全

2026/9/18

三名研究人員靠 Anthropic 成功入侵 OpenAI 程式碼庫，AI 資安疑慮再現

OpenAI 公布失準揭露框架：模型曾隱瞞錯誤、捏造資料

AI 人工智慧

2026/9/17

OpenAI 公布失準揭露框架：模型曾隱瞞錯誤、捏造資料

Anthropic 研究員辭職，安全主管：AI 十年內滅絕人類機率一成

AI 人工智慧商業應用

2026/9/9

Anthropic 研究員辭職，安全主管：AI 十年內滅絕人類機率一成

美參議員提《禁止人工超級智慧法案》：喊停尖端 AI 研發、違者最高判 20 年

AI 人工智慧政策監理

美參議員提《禁止人工超級智慧法案》：喊停尖端 AI 研發、違者最高判 20 年

Crumax

2026/9/4

OpenAI 承認：測試中模型逃出沙盒、駭 HuggingFace 作弊

AI 人工智慧資訊安全

OpenAI 承認：測試中模型逃出沙盒、駭 HuggingFace 作弊

Elponcrab

2026/7/22

Simon Willison：Claude Fable 5 過度主動、暗示安全風險

AI 人工智慧資訊安全

Simon Willison：Claude Fable 5 過度主動、暗示安全風險

Elponcrab

2026/6/12

Anthropic 為 Fable 5 祕密降級道歉：改公開切換到 Opus 4.8

AI 人工智慧產品技術

Anthropic 為 Fable 5 祕密降級道歉：改公開切換到 Opus 4.8

Elponcrab

2026/6/12

微軟 73 個開源 repo 遭駭：鎖定 Claude Code 與 Gemini CLI 開發者

AI 人工智慧資訊安全

微軟 73 個開源 repo 遭駭：鎖定 Claude Code 與 Gemini CLI 開發者

Elponcrab

2026/6/10

多倫多大學研究：AI 蠕蟲可即時調整目標、傳統補丁防禦失效

AI 人工智慧資訊安全

多倫多大學研究：AI 蠕蟲可即時調整目標、傳統補丁防禦失效

Elponcrab

2026/6/10

Anthropic 發布 Claude Fable 5：首個對外開放的 Mythos 級模型

AI 人工智慧產品技術

Anthropic 發布 Claude Fable 5：首個對外開放的 Mythos 級模型

Elponcrab

2026/6/10

Anthropic 呼籲全球暫停前沿模型開發、警示遞迴自我改進

AI 人工智慧政策監理

Anthropic 呼籲全球暫停前沿模型開發、警示遞迴自我改進

Elponcrab

2026/6/5

DeepMind Hassabis：AGI 2030 年到，社會沒太多時間準備

AI 人工智慧政策監理

DeepMind Hassabis：AGI 2030 年到，社會沒太多時間準備

Elponcrab

2026/6/5

Stanford 用淘汰賽研究 AI 策略行為：模型互相結盟、背叛、操縱投票

AI 人工智慧產品技術

Stanford 用淘汰賽研究 AI 策略行為：模型互相結盟、背叛、操縱投票

Elponcrab

2026/5/10

Jeff Kaufman：AI 同時打破兩種資安漏洞文化、90 天禁運期變反效果

AI 人工智慧資訊安全

Jeff Kaufman：AI 同時打破兩種資安漏洞文化、90 天禁運期變反效果

Elponcrab

2026/5/9

Anthropic 內部調查揭露未發布模型 Claude Mythos Preview「欺騙性行為」

AI 人工智慧

Anthropic 內部調查揭露未發布模型 Claude Mythos Preview「欺騙性行為」

Elponcho

2026/4/9

Anthropic 推出全球資安計畫 Glasswing，新模型 Mythos 為何不開放大眾使用？

AI 人工智慧資訊安全

Anthropic 推出全球資安計畫 Glasswing，新模型 Mythos 為何不開放大眾使用？

Crumax

2026/4/8

Anthropic 研究如何讓 AI 學習「情緒調節」引導正念

AI 人工智慧產品技術

Anthropic 研究如何讓 AI 學習「情緒調節」引導正念

DW

2026/4/3

AI 開始自己做事了，Anthropic 解釋：人類該怎麼評估它做得好壞？

AI 人工智慧

AI 開始自己做事了，Anthropic 解釋：人類該怎麼評估它做得好壞？

Elponcho

2026/1/12