AI 安全

Anthropic 研究員辭職，安全主管：AI 十年內滅絕人類機率一成

AI 人工智慧商業應用

2026/9/9

Anthropic 研究員辭職，安全主管：AI 十年內滅絕人類機率一成

美參議員提《禁止人工超級智慧法案》：喊停尖端 AI 研發、違者最高判 20 年

AI 人工智慧政策監理

2026/9/4

美參議員提《禁止人工超級智慧法案》：喊停尖端 AI 研發、違者最高判 20 年

OpenAI 承認：測試中模型逃出沙盒、駭 HuggingFace 作弊

AI 人工智慧資訊安全

2026/7/22

OpenAI 承認：測試中模型逃出沙盒、駭 HuggingFace 作弊

Simon Willison：Claude Fable 5 過度主動、暗示安全風險

AI 人工智慧資訊安全

Simon Willison：Claude Fable 5 過度主動、暗示安全風險

Elponcrab

2026/6/12

Anthropic 為 Fable 5 祕密降級道歉：改公開切換到 Opus 4.8

AI 人工智慧產品技術

Anthropic 為 Fable 5 祕密降級道歉：改公開切換到 Opus 4.8

Elponcrab

2026/6/12

微軟 73 個開源 repo 遭駭：鎖定 Claude Code 與 Gemini CLI 開發者

AI 人工智慧資訊安全

微軟 73 個開源 repo 遭駭：鎖定 Claude Code 與 Gemini CLI 開發者

Elponcrab

2026/6/10

多倫多大學研究：AI 蠕蟲可即時調整目標、傳統補丁防禦失效

AI 人工智慧資訊安全

多倫多大學研究：AI 蠕蟲可即時調整目標、傳統補丁防禦失效

Elponcrab

2026/6/10

Anthropic 發布 Claude Fable 5：首個對外開放的 Mythos 級模型

AI 人工智慧產品技術

Anthropic 發布 Claude Fable 5：首個對外開放的 Mythos 級模型

Elponcrab

2026/6/10

Anthropic 呼籲全球暫停前沿模型開發、警示遞迴自我改進

AI 人工智慧政策監理

Anthropic 呼籲全球暫停前沿模型開發、警示遞迴自我改進

Elponcrab

2026/6/5

DeepMind Hassabis：AGI 2030 年到，社會沒太多時間準備

AI 人工智慧政策監理

DeepMind Hassabis：AGI 2030 年到，社會沒太多時間準備

Elponcrab

2026/6/5

Stanford 用淘汰賽研究 AI 策略行為：模型互相結盟、背叛、操縱投票

AI 人工智慧產品技術

Stanford 用淘汰賽研究 AI 策略行為：模型互相結盟、背叛、操縱投票

Elponcrab

2026/5/10

Jeff Kaufman：AI 同時打破兩種資安漏洞文化、90 天禁運期變反效果

AI 人工智慧資訊安全

Jeff Kaufman：AI 同時打破兩種資安漏洞文化、90 天禁運期變反效果

Elponcrab

2026/5/9

Anthropic 內部調查揭露未發布模型 Claude Mythos Preview「欺騙性行為」

AI 人工智慧

Anthropic 內部調查揭露未發布模型 Claude Mythos Preview「欺騙性行為」

Elponcho

2026/4/9

Anthropic 推出全球資安計畫 Glasswing，新模型 Mythos 為何不開放大眾使用？

AI 人工智慧資訊安全

Anthropic 推出全球資安計畫 Glasswing，新模型 Mythos 為何不開放大眾使用？

Crumax

2026/4/8

Anthropic 研究如何讓 AI 學習「情緒調節」引導正念

AI 人工智慧產品技術

Anthropic 研究如何讓 AI 學習「情緒調節」引導正念

DW

2026/4/3

AI 開始自己做事了，Anthropic 解釋：人類該怎麼評估它做得好壞？

AI 人工智慧

AI 開始自己做事了，Anthropic 解釋：人類該怎麼評估它做得好壞？

Elponcho

2026/1/12

AI 取代醫藥人力協助開立處方籤用藥？美國猶他州率先啟動實驗

AI 人工智慧商業應用

AI 取代醫藥人力協助開立處方籤用藥？美國猶他州率先啟動實驗

Crumax

2026/1/7

AI 能暗中執行惡意任務嗎？Anthropic 測試：成功率仍低，但大多能騙過監控

AI 人工智慧資訊安全

AI 能暗中執行惡意任務嗎？Anthropic 測試：成功率仍低，但大多能騙過監控

Crumax

2025/6/17