Chamath讓Claude分析達里歐的精神狀態、斥Mythos的隱藏版神諭

DW
分享
Chamath讓Claude分析達里歐的精神狀態、斥Mythos的隱藏版神諭

近日的 All-In Podcast 節目中,知名矽谷創投家 Chamath Palihapitiya 表示他利用 Claude 對 Dario Amodei 進行精神分析,結果顯示達里歐想打造一套 Anthropic 的神話,然而,Mythos 和 Fable 5 才剛發表就因國安理由下架,意味達里歐這次翻車碰壁為他過度相信自己所導致的錯誤判斷。

Chamath 讓 Claude 分析達里歐的作品

本次心理分析的素材基礎來自 Dario Amodei 親自撰寫的兩篇長篇政策與展望文章,分別為探討人工智慧樂觀前景的 Machines of Loving Grace,以及針對政府監管提出政策建議的 Policy on the AI Exponential。Chamath Palihapitiya 表示為了確保評估的客觀性,對 Claude 模型下達了明確且具體的指令,要求系統必須保持完全誠實的態度,不得因為自身由 Anthropic 公司開發而對其執行長產生偏袒或保護。此外,這項指令還要求用有效加速主義的論述視角對「Mythos」模型所引發的爭議,對達里歐進行心理分析。

(Anthropic創辦人語出驚人,獲利豐厚AI企業應徵收高額稅金,補償受損群體)

廣告 - 內文未完請往下捲動

Claude 模型評估 Dario Amodei 精神狀況的結果

Chamath 根據生成出的評估報告的分析結果,Dario Amodei 在思考模式上呈現出顯著的 Epistemic Exceptionalism「認知例外主義」,這種特質在有效加速主義者的觀點中被解讀成 God Complex「上帝情結」,報告指出他深信自身的邏輯推論是唯一正確的基準;在這種思維架構下,若外部社群或競爭對手不同意其最終結論,就會歸咎於對方,構成了他解讀外部世界與產業界的邏輯,也成為後續各項管理決策的基礎。

Dario Amodei 傾向於不相信任何人

分析報告進一步揭示了 Dario Amodei 存在廣泛的不信任傾向,其質疑的對象涵蓋了人工智慧產業的多個利益關係方。他認為競爭對手的實驗室過於魯莽、自由市場機制無法公平分配科技利益、威權國家存在治理風險,甚至連政府機關的權力運作也缺乏透明度。基於這種全面性的不信任,他所設計的安全架構陷入了循環論證:該架構要求必須由特定人員掌握關鍵控制權,但其邏輯卻排除除了他自己以外的所有持鑰者。這種機制導致其安全防護體系,在權力歸屬與信任終點上永遠指向其本人,形成了自我體系的閉環。

對此,Chamath Palihapitiya 直指 Amodei 的行為展現出「規避與不成熟」。Amodei 將「Mythos」模型的禁用歸咎於大眾的誤解,本質上是一種自我保護的策略

此次 Anthropic 引起爭議的模型命名為「Mythos」,該字源自希臘語 μυ~θoς,原意為故事與傳說,在現代文化研究中常用於表示某個群體共同信奉的價值觀。

矽谷拼命競爭、顛覆傳統的價值觀被稱作 Silicon Valley Mythos「矽谷神話」, Mythos 這款具備超高效率的模型本該是另外一個矽谷神話,但才剛推出就被迅速下架,反應出當今人工智慧發展下各種矛盾困境。

風險提示

加密貨幣投資具有高度風險,其價格可能波動劇烈,您可能損失全部本金。請謹慎評估風險。