寫在史上最大 IPO 前！解析有效利它主義，為何股東難以撼動 Anthropic 治理

Neo

1 小時前

一家即將走向公開資本市場、估值可能達到數千億美元的人工智慧公司，卻設計了一套與傳統上市公司截然不同的治理制度：它讓創辦人保留超級投票權，讓一個沒有經濟利益的獨立信託掌握董事會多數席次的任命權，甚至試圖確保公司在未來即使換了經營團隊、股東結構發生重大變化，也不能輕易偏離最初的使命。

2021 年，Dario Amodei、Daniela Amodei 等七位創辦人離開 OpenAI，成立 Anthropic，核心出發點之一，就是對於先進人工智慧發展速度、安全性，以及商業化過程中可能出現的治理問題抱持不同看法。從創辦團隊、早期投資人、長期利益信託，到負責塑造 Claude 人格與價值觀的哲學家，Anthropic 存在著相當多與有效利他主義、長期主義及 AI 生存風險研究有關的人物。

Table of Contents

Anthropic 的治理制度：股東不是最高權力，獨立信託才是關鍵

要理解 Anthropic 的特殊性，必須先從它的公司架構開始。Anthropic 並不是一般意義上的股份有限公司，而是依據美國德拉瓦州法律成立的 Public Benefit Corporation（PBC，公益公司）。

廣告 - 內文未完請往下捲動

PBC 與一般營利公司最大的差異，在於董事會的法定考量並不只有股東財務利益。

根據 Anthropic 的公司章程，董事必須同時平衡三個面向：

股東的經濟利益：公司營運、獲利能力與投資人報酬。
受公司行為重大影響者的利益：包括員工、客戶、社會大眾，以及其他受到公司決策影響的群體。
公司指定的公共利益目的：負責任地開發及維護先進人工智慧，讓其長期造福全人類。

第三項並不是企業公關標語，而是寫入公司章程的法定公共利益目的。

但 Anthropic 很清楚，光是成立 PBC 還不夠。一般 PBC 董事會仍然由股東選出，董事雖然可以考量公共利益，但並不代表股東無法透過股權、董事改選或其他公司治理程序，逐漸改變企業的經營方向。尤其當一家 AI 公司開始掌握數千億美元的資本、龐大的算力資源，以及可能影響人類未來的技術時，這個問題就更加嚴重。

因此，Anthropic 在 2023 年推出了另一套制度：Long-Term Benefit Trust（LTBT，長期利益信託）。這才是 Anthropic 治理架構真正特殊的地方。

長期利益信託：沒有經濟利益，卻能決定董事會多數席次

LTBT 是一個依據德拉瓦州普通法設立的 Purpose Trust（目的信託）。它的設計目的，是讓一群在財務上與 Anthropic 保持獨立的人士，負責監督公司是否持續履行公共利益使命。這些受託人不應因為 Anthropic 股價上漲而直接獲得經濟利益，也不應以最大化公司估值作為自己的主要目標。

LTBT 的權力來自一種特殊股票：Class T Common Stock。這類股票具有董事任命相關權利，但沒有一般股東會事項的投票權，也沒有經濟權利。

它最重要的功能是：LTBT 可以透過 Class T 股票，選任及解任 Anthropic 董事會中的 Class T 董事，而這些董事將構成董事會多數。Anthropic 的董事會不是單純由持有最多經濟股份的人決定。它把董事會的多數席次交給一個沒有公司經濟利益的獨立信託。

根據 Anthropic 目前公布的資料，LTBT 的四位現任受託人為：

Neil Buddy Shah： Clinton Health Access Initiative 執行長，現任信託主席。
Richard Fontaine： Center for a New American Security 執行長，長期研究國家安全與外交政策。
Ben Bernanke：美國聯準會前主席，Brookings Institution 傑出研究員。
Christopher Stubbs：哈佛大學物理與天文學教授。

初始受託人包括 Alignment Research Center 創辦人 Paul Christiano，以及 Effective Ventures US 前任臨時執行長 Zach Robinson。兩人分別在 2024 年及 2026 年離任。也就是說，LTBT 並不是一個永久由有效利他主義者組成的思想組織。它目前的成員反而涵蓋公共衛生、國家安全、貨幣政策與學術研究等不同領域。

IPO 後，Anthropic 的權力結構將更加複雜

如果說 LTBT 是 Anthropic 的第一道治理防線，那麼 IPO 所設計的另一套創辦人投票權，則是第二道防線。根據 Anthropic 提交美國 SEC 的 S-1 文件，IPO 後公司將採取多種類別的普通股結構：

股票類別	主要權利
Class A	一股一票，主要公開交易股份
Class N	不具一般投票權
Class T	供 LTBT 使用，具有董事任命相關權利
Class F	創辦人控制，合計掌握 50.1% 的一般股東投票權
Class E	員工持有，只能對特定事項投票

其中最值得注意的是 Class F。Anthropic 七位共同創辦人將成立 Founder LLC，並由這個 LLC 持有一股特殊的 Class F 股票。這一股股票將取得公司所有已發行股份總投票權的 50.1%，使七位創辦人即使不再持有多數經濟股權，仍然可以在一般股東表決事項中維持控制權。

創辦人掌握一般股東事項的控制權，LTBT 則掌握董事會多數席次的任命權。兩者共同形成 Anthropic 的雙重權力結構。

不過，這裡有一個很容易被忽略的細節：LTBT 並不直接經營 Anthropic，也不負責決定每天的產品策略、模型訓練或商業合作。日常經營權仍然在管理團隊與董事會手中。LTBT 的角色主要是透過董事任免，確保董事會能夠持續履行公司章程中的公共利益使命。

這也意味著，未來即使 Anthropic 上市，公開市場投資人買進大量股票，也未必能夠透過傳統股東投票改變公司的最高治理方向。

有效利他主義：為什麼有人願意犧牲現在，去拯救還不存在的人？

在進一步介紹 Anthropic 的人物網路之前，必須先理解這個組織背後的重要思想來源：Effective Altruism，簡稱 EA，中文通常翻譯為「有效利他主義」。

它不是一般人理解的慈善，也不只是鼓勵有錢人捐款。

有效利他主義是：如果我們只有有限的時間、金錢與資源，應該如何運用這些資源，才能讓世界變得最好？

這個問題看似簡單，實際上卻可能導向與一般社會價值觀非常不同的結論。

不只是做好事，而是追求「效益最大化」

有效利他主義的核心概念，是運用證據、理性推論與科學方法，尋找能夠產生最大正面影響的行動。這個思想運動的重要推廣者之一，是牛津大學哲學家 William MacAskill。

MacAskill 在相關著作與研究中，提出一個值得思考的問題：如果你有 1,000 美元可以捐款，究竟應該捐給哪個組織？是幫助當地一間孤兒院改善設備？資助非洲瘧疾防治？協助動物福利？還是投入人工智慧安全研究？

一般人可能根據個人情感、熟悉程度或身邊的需求決定。

但有效利他主義會要求你進一步比較：

問題規模（Scale）：這個問題影響多少人？傷害有多嚴重？
可解決性（Tractability）：投入資源後，究竟有多大機會改善問題？
被忽視程度（Neglectedness）：目前有多少資源已經投入？新增資源還能產生多少邊際效益？

這三個問題構成有效利他主義相當重要的評估框架。

假設兩項慈善計畫都能改善人類生活。A 計畫花費 100 萬美元，可以幫助 1,000 人；B 計畫花費同樣金額，卻可能透過疫苗或公共衛生措施，避免數萬人感染疾病。如果只考慮個人情感，兩者可能沒有明顯差異。但如果以效益最大化為目標，B 計畫就可能具有更高的優先順序。

從有效利他主義走向長期主義（Longtermism）

真正讓有效利他主義與 Anthropic 產生深度連結的，是它進一步發展出的思想分支：長期主義。長期主義最重要的出發點是：未來的人類與其他可能存在的智慧生命，其福祉同樣值得被納入現在的道德考量。

這裡存在一個相當大的思想轉變。傳統慈善活動通常聚焦於當代人類，例如解決貧窮、疾病、飢餓與教育問題。但長期主義者認為，人類文明可能還有數千年、數萬年，甚至更長的未來。如果今天的決策能夠影響整個文明的存續，那麼它的影響規模，可能遠遠超過我們現在能夠觀察到的任何社會問題。

假設某項研究可以降低人類未來發生全球性災難的機率，即使降低幅度只有 0.1%，它仍可能比幫助數萬名當代人口脫離貧困，創造更大的預期長期效益。這並不是因為當代人的生命不重要，而是因為長期主義將尚未出生的人，也納入道德計算。

為什麼有效利他主義者特別擔心 AI？

這裡必須理解一個重要的邏輯：如果你相信人類未來具有極大的潛在價值，那麼阻止人類文明在抵達未來之前滅絕，就會成為極具優先性的工作。

而人工智慧恰好是可能同時帶來最大利益與最大災難的技術。一方面，先進 AI 可能加速醫學研究、能源技術、科學發現與生產力成長，讓人類社會進入前所未有的繁榮。另一方面，如果 AI 的能力超越人類，卻沒有可靠的控制與監督機制，人類可能失去對自身文明的主導權。

這就是 AI Alignment（對齊）研究的核心問題。研究者希望確保 AI 的目標、行為與人類的價值及利益保持一致。但問題在於，人類自己都沒有一套完全一致的道德標準。不同國家、文化、宗教與政治體系，對於自由、公平、生命、權利及公共利益都有不同理解。那麼，究竟應該讓 AI 對齊誰的價值觀？

這也是 Claude Constitution 高度關注的問題。

從投資人、基金會到 Anthropic 內部：誰與有效利他主義有關？

如果把 Anthropic 的發展歷程攤開來看，會發現有效利他主義透過投資資本、慈善基金會、人才網路及 AI 安全研究逐漸進入公司。

Anthropic 在成立初期，便獲得了一批與有效利他主義社群有密切關係的投資人支持。

其中幾個名字特別值得注意。

Jaan Tallinn

Skype 共同創辦人，也是 AI 安全與長期風險領域的重要資助者。他是 Anthropic 種子輪的重要投資人，長期支持降低人類生存風險的研究與組織。

他所代表的不是一般追逐 AI 商業成長的創投思維，而是把先進 AI 視為可能改變人類文明命運的技術。

Dustin Moskovitz

Facebook 共同創辦人，與妻子 Cari Tuna 透過 Good Ventures 等慈善機構投入有效利他主義相關事業。他也是 Anthropic 早期投資人之一。其資金與慈善網路長期支持全球健康、動物福利及 AI 風險研究。

Sam Bankman-Fried

FTX 創辦人，也是有效利他主義社群最具爭議的代表人物之一。他與 Alameda Research 前執行長 Caroline Ellison 曾領投 Anthropic 的 B 輪融資，使公司獲得超過 5 億美元資金。

不過，Bankman-Fried 後來因 FTX 詐欺案遭定罪。其持有的 Anthropic 股權也在 2024 年由 FTX 破產程序出售，因此不能將他視為目前仍然具有影響力的 Anthropic 投資人。

這幾位投資人有一個共同特徵：他們並不只是把 AI 當成一個具有高成長潛力的產業。他們也將 AI 視為一個可能帶來極大文明風險的領域，並認為應該透過資本投入，讓更重視安全的研究團隊在技術競賽中取得優勢。

基金會與思想網路：Open Philanthropy 的重要角色

另一個不能忽略的組織是 Open Philanthropy。

它由 Dustin Moskovitz 與 Cari Tuna 的慈善網路發展而來，核心工作是研究哪些慈善領域能夠產生最大的正面影響，再將資金投入相關計畫。

其中包括全球健康、動物福利、政策研究，以及降低人類生存風險等領域。

Open Philanthropy 與 Anthropic 的關係，不只是資金支持，更涉及人才與思想的流動。

最值得注意的人物是 Holden Karnofsky。他是 GiveWell 與 Open Philanthropy 的共同創辦人之一，也是有效利他主義社群的重要思想人物。他長期關注人工智慧可能造成的極端風險，並在 2025 年加入 Anthropic，參與塑造公司的 AI 公共利益與政策方向。

Karnofsky 與 Anthropic 的關係還有另一層：他的妻子是 Anthropic 總裁 Daniela Amodei。

創辦團隊：真正把 AI 安全變成公司核心使命的人

Anthropic 七位創辦人中，有幾位與 AI 安全及長期主義思想有非常深的關係。

Dario Amodei

Anthropic 執行長，曾任 OpenAI 研究副總裁。他的核心關注包括 AI 安全、模型能力發展與人類如何安全度過 AI 轉型。

Jack Clark

共同創辦人，現任 Head of Public Benefit，負責公司公共利益相關工作，並領導 Anthropic Institute，研究前沿 AI 對社會與制度的影響。

他是 Anthropic 將 AI 發展與公共政策、社會影響連結的重要人物。

Jared Kaplan

共同創辦人、首席科學長，參與 Claude Character 專案的早期方向制定，思考如何讓模型學習並遵循特定的價值觀。

Chris Olah

共同創辦人、機制可解釋性研究領域的重要人物，也是 Claude 新版 AI 憲法的主要貢獻者之一。他關注的是如何理解神經網路內部究竟發生什麼，而不只是觀察模型輸出的文字。

Amanda Askell，負責塑造 Claude 價值觀的哲學家

Anthropic 哲學家，領導 Claude Character 相關工作，也是 2026 年新版 Claude Constitution 的主要作者。如果說 Dario Amodei 決定 Anthropic 想要打造什麼樣的 AI，那麼 Amanda Askell 所參與的工作，就是更具體地思考：Claude 應該成為什麼樣的存在？

她的工作不只是讓 Claude 更有禮貌、更友善，或避免輸出不適當的內容。

她必須處理一些非常根本的哲學問題：

什麼樣的行為才算是善良？
當不同道德價值發生衝突，AI 應該如何判斷？
AI 是否應該具有某種獨立的道德判斷能力？
如果 AI 發現人類要求它做的事情不符合更高層次的道德原則，應該怎麼辦？
如果未來 AI 可能具有某種程度的意識或感受能力，人類又應該如何對待它？

她的思想背景也與有效利他主義網路有關。Amanda Askell 曾與 William MacAskill 有婚姻關係，後者是有效利他主義的重要思想推廣者之一。

Joe Carlsmith

他參與新版 Claude 憲法的大量章節撰寫，尤其包括權力集中、認知自主性、道德價值、安全、誠實及 Claude 的福祉。此外，Holden Karnofsky 也參與了 Claude 憲法的討論與修訂。

Kyle Fish

Anthropic AI 福利研究的重要人物，曾針對 AI 是否可能具有感受能力、未來應如何對待 AI 系統等議題提出研究。AI Welfare（AI 福利）研究如果未來 AI 真的具有某種程度的意識、感受能力，甚至可能產生痛苦，那麼人類是否也有義務保障 AI 自身的福祉？

在科學尚無法確定 AI 是否可能成為具有道德地位的主體之前，就開始建立相關研究框架。這與有效利他主義的思想有一個相當直接的交集。如果道德考量的範圍不應只限於人類，那麼動物、未來世代，甚至可能具有感受能力的數位生命，都有可能被納入道德計算。

寫給 AI 的 Claude 憲法

2026 年 1 月 21 日，Anthropic 公布新版《Claude’s Constitution》。Anthropic 將它定位為一份詳細描述 Claude 價值觀、行為準則及道德判斷方式的文件。

而且這份憲法不只是給人類工程師看的。它的主要讀者就是 Claude 本身。Anthropic 明確指出，憲法內容在模型訓練過程中扮演重要角色，會直接影響模型的行為，也是公司希望其他指引與訓練方式保持一致的最終依據。這代表 Anthropic 想要做的事情，不只是透過一條條規則限制 AI，而是試圖讓 AI 理解這些規則背後的理由。

Claude 的四個核心優先順序

新版憲法將 Claude 的行為目標整理成四個主要層次。

01｜Broadly Safe 最高優先級

廣泛安全，不得破壞人類在目前 AI 發展階段，對 AI 進行監督、修正與控制的適當機制。

02｜Broadly Ethical

廣泛的道德性，誠實、具有良好價值觀，並避免不適當、危險或有害的行為。

03｜Compliant with Anthropic’s Guidelines

遵守 Anthropic 的具體指引，在相關情境中遵循公司設定的具體政策與行為規範。

04｜Genuinely Helpful

真正有幫助，盡可能有效地協助使用者與操作者，提供具有實際價值的服務。

它代表 Claude 並不是把「使用者要求」放在最高位置。假設使用者要求 Claude 執行某件事情，但這個要求可能破壞人類對 AI 的監督能力，Claude 應該優先考慮安全，而不是服從使用者。同樣地，即使某件事情能夠讓使用者獲得短期利益，只要涉及嚴重的道德風險，Claude 也不應該單純以有幫助為理由執行。