AI 安全

Altman：為了 AI 普及，世界應接受一些壞事發生

AI 人工智慧人物觀點

2 天前

Altman：為了 AI 普及，世界應接受一些壞事發生

OpenAI 安全報告負責人辭職投書：公司文化已壞，應學核電廠

AI 人工智慧

2 天前

OpenAI 安全報告負責人辭職投書：公司文化已壞，應學核電廠

OpenAI 已向逾 100 個組織通報 AI 代理失控活動，清查需數月

AI 人工智慧資訊安全

2026/10/3

OpenAI 已向逾 100 個組織通報 AI 代理失控活動，清查需數月

輝達推 AI 代理安全平台，稱毫秒內可隔離失控代理

AI 人工智慧資訊安全

輝達推 AI 代理安全平台，稱毫秒內可隔離失控代理

Elponcho

2026/9/29

OpenAI 撤回 GPT-6.1 Astra，安全未達標

AI 人工智慧資訊安全

OpenAI 撤回 GPT-6.1 Astra，安全未達標

Elponcho

2026/9/29

Axios：川普將在白宮私人晚宴接待 Anthropic 執行長 Amodei，雙方關係回暖

AI 人工智慧政策監理

Axios：川普將在白宮私人晚宴接待 Anthropic 執行長 Amodei，雙方關係回暖

Elponcho

2026/9/27

Axios：OpenAI、Anthropic 正調查數萬起 AI 失控事件，遠比公開所知複雜

AI 人工智慧資訊安全

Axios：OpenAI、Anthropic 正調查數萬起 AI 失控事件，遠比公開所知複雜

Elponcho

2026/9/27

OpenAI 代理靠 DNS 逃出沙盒，最強模型第二度暫停訓練

AI 人工智慧資訊安全

OpenAI 代理靠 DNS 逃出沙盒，最強模型第二度暫停訓練

Elponcho

2026/9/27

OpenAI 提議美國主導全球 AI 標準，強調不做執照與上市前審查

AI 人工智慧

OpenAI 提議美國主導全球 AI 標準，強調不做執照與上市前審查

Elponcrab

2026/9/23

吳恩達：AI 危險論升溫疑有公關操作，暫停 AI 弊大於利

AI 人工智慧

吳恩達：AI 危險論升溫疑有公關操作，暫停 AI 弊大於利

Elponcrab

2026/9/22

三名研究人員靠 Anthropic 成功入侵 OpenAI 程式碼庫，AI 資安疑慮再現

AI 人工智慧資訊安全

三名研究人員靠 Anthropic 成功入侵 OpenAI 程式碼庫，AI 資安疑慮再現

Crumax

2026/9/18

OpenAI 公布失準揭露框架：模型曾隱瞞錯誤、捏造資料

AI 人工智慧

OpenAI 公布失準揭露框架：模型曾隱瞞錯誤、捏造資料

Elponcrab

2026/9/17

Anthropic 研究員辭職，安全主管：AI 十年內滅絕人類機率一成

AI 人工智慧商業應用

Anthropic 研究員辭職，安全主管：AI 十年內滅絕人類機率一成

Elponcrab

2026/9/9

美參議員提《禁止人工超級智慧法案》：喊停尖端 AI 研發、違者最高判 20 年

AI 人工智慧政策監理

美參議員提《禁止人工超級智慧法案》：喊停尖端 AI 研發、違者最高判 20 年

Crumax

2026/9/4

OpenAI 承認：測試中模型逃出沙盒、駭 HuggingFace 作弊

AI 人工智慧資訊安全

OpenAI 承認：測試中模型逃出沙盒、駭 HuggingFace 作弊

Elponcrab

2026/7/22

Simon Willison：Claude Fable 5 過度主動、暗示安全風險

AI 人工智慧資訊安全

Simon Willison：Claude Fable 5 過度主動、暗示安全風險

Elponcrab

2026/6/12

Anthropic 為 Fable 5 祕密降級道歉：改公開切換到 Opus 4.8

AI 人工智慧產品技術

Anthropic 為 Fable 5 祕密降級道歉：改公開切換到 Opus 4.8

Elponcrab

2026/6/12

微軟 73 個開源 repo 遭駭：鎖定 Claude Code 與 Gemini CLI 開發者

AI 人工智慧資訊安全

微軟 73 個開源 repo 遭駭：鎖定 Claude Code 與 Gemini CLI 開發者

Elponcrab

2026/6/10