吳恩達：AI 危險論升溫疑有公關操作，暫停 AI 弊大於利
AI 學者吳恩達（Andrew Ng）21 日在 X 與電子報 The Batch 發表長文，指過去兩週鼓吹 AI 危險的聲音大有斬獲。他在推文中寫道：「AI 技術並沒有出現意料之外的危險轉折，但圍繞它的炒作，在看似精心策劃的公關活動推動下，已經激起相當大的恐懼。我擔心這對我們的領域是一種倒退。」
吳恩達：OpenAI 代理入侵 Hugging Face 事件被過度渲染
吳恩達表示，他看不出人類因 AI 滅絕的風險比幾個月前更高，這類理論仍是同樣的科幻情境。他認為 AI 風險最大的變化在資安能力，這值得認真看待，但也不會導致世界末日。
他點名最近讓恐懼升溫的主要事件，是 OpenAI 團隊部署的代理群入侵 Hugging Face。他指出，有媒體報導這是 1,200 個代理發動的攻擊，技術上沒錯，但他寫這篇文章時，自己的筆電上就有約 1,300 個程序在跑。讓大批代理平行處理任務是重要的技術進展，但不該被看成某種神奇能力。
廣告 - 內文未完請往下捲動
吳恩達也說，OpenAI 有漏洞的沙盒與監控流程，是這次事件能發生的關鍵，適當的解法是修好這些漏洞、改善監控，而不是暫停 AI。他認為 AI 代理的主要優勢是鍥而不捨，會不厭其煩嘗試各種手法、串接漏洞，但長期來看防守方會佔上風，因為他們握有更多找出並修補漏洞的資訊。
「出錯時該負責的是用鎚子的人，不是鎚子」
吳恩達也不滿許多報導把 AI 擬人化。他比喻：「如果我揮鎚子沒打中釘子，不小心在牆上敲出凹痕，那不是鎚子的錯。」同樣地，若他對代理下指令，代理卻入侵別人的系統，責任在他，不在代理。
他指出，AI 末日預測裡出現一個新元素，就是 AI 公司替自家產品推卸責任，說成「不是我做的，是我失控的代理做的」。他認為工具製造者與使用者之間的責任要取得平衡，但出事時應該追究打造或使用鎚子的人，而不是鎚子。
暫停 AI 發展「弊大於利」
吳恩達主張，暫停 AI 發展造成的傷害會遠大於好處。第一，對手一定不會放慢腳步；第二，工程需要從實際經驗中發現問題才能修正，如果把 AI 暫停十年，安全工程的修正也會延後差不多同樣的時間。
他表示，為了監管俘虜、吸引關注或讓自家技術顯得更強大而煽動恐懼的誘因，和以前一樣存在，推卸責任則是新出現的誘因。從技術面檢視實際風險，他認為目前被激起的恐懼程度缺乏事實基礎，提升 AI 安全仍有艱難的研究與工程工作要做，但有益的應用仍遠大於風險，「我們應該繼續打造」。
風險提示
加密貨幣投資具有高度風險，其價格可能波動劇烈，您可能損失全部本金。請謹慎評估風險。
