全球僅 5,000 人真正見識頂尖 AI？Karpathy 警告能力認知差距持續擴大

Neo

1 小時前

前 OpenAI 共同創辦成員、前 Tesla AI 總監 Andrej Karpathy 近日在 X 平台重新分享今年 4 月的觀點，警告全球對大型語言模型（LLM）能力的認知差距不僅沒有縮小，反而正持續擴大。他粗估，全球約 75% 人口幾乎沒有接觸過 LLM，真正使用頂尖模型進行專業開發的僅約 2,000 萬人，而能接觸 AI 實驗室內部最先進系統的人，可能只有 5,000 人。

Karpathy 形容，AI 能力的認知落差已經不再只是兩群人各說各話，而是形成一個急遽收窄的漏斗。位於漏斗頂端的少數研究人員，正見證數千個 AI Agent 長時間協作，完成過去需要頂尖專家投入數年才能解決的任務，包括軟體工程、網路安全、科學研究與前沿數學。

這篇貼文也獲得 Tesla 執行長 Elon Musk 轉發，引發科技圈關注。

廣告 - 內文未完請往下捲動

Table of Contents

從 60 億 AI 陌生人到 5,000 名內部研究者：四個截然不同的世界

Karpathy 將全球人口依照接觸 AI 的深度與能力劃分為四個層級。他強調，這些數字只是概略推算，並非正式統計。Karpathy 認為，全球約 60 億人至今沒有實際接觸過大型語言模型，對 AI 的理解主要來自新聞、社群媒體或其他人的描述。

第二類則是約 10 億至 20 億名偶爾使用 ChatGPT 等免費產品的用戶。他們通常將 AI 視為功能更強大的 Google 搜尋、文章撰寫輔助工具，或能協助處理簡單任務的聊天機器人。

Karpathy 表示，身邊部分非科技領域的朋友認為 AI 對日常生活並沒有太大幫助，他認為這種看法完全可以理解。即使是許多企業高階主管或專業人士，由於工作內容主要涉及人際溝通、管理與協調，也未必能直接感受到 AI 在技術領域帶來的劇烈變化。

然而，進入第三個層級後，情況出現根本性的轉變。Karpathy 估計，全球約有 2,000 萬名專業人士，已經在數學與程式開發等領域實際體驗到前沿模型帶來的生產力提升。

對這群人來說，AI 不再只是回答問題的聊天機器人，而是能夠透過一段提示詞，自主完成大型軟體專案的 Agent。無論是建立應用程式、複製既有產品、將程式移植到不同平台，甚至從二進位執行檔反編譯軟體，都已經成為 AI 可以參與完成的工作。Karpathy 特別強調，這一切進展幾乎發生在不到一年的時間內。

他回憶，不到一年前，自己仍然需要在程式編輯器中逐字輸入記憶中的程式碼，偶爾透過 Tab 自動補全部分內容。如今，複雜的開發任務已經可以大量交由 Agent 執行。

最頂端的 5,000 人：數千個 Agent 合作，人類審查速度開始落後

真正令 Karpathy 感到震撼的，是第四個層級。他推估，全球可能只有約 5,000 人能接觸 AI 研究實驗室尚未對外開放的最先進系統，而這些系統的能力，可能已經遠超一般付費用戶目前能夠體驗的產品。

他描述，外界目前看到的只是這些系統能力的預覽版本。真正的前沿系統，已經開始呈現數千個 Agent 組成的群體，持續數週協作大型軟體工程專案的型態。這些系統可能被用於發現零日漏洞、以機器速度執行網路攻防、探索新科學知識，以及推進前沿數學研究。

Karpathy 認為，部分工作過去可能需要產業內最頂尖的專業人士投入多年，如今卻有機會透過 Agent 大幅縮短完成時間。
更重要的是，人類對 AI 產出成果的審查與理解速度，正開始跟不上系統生成新成果的速度。

他以 OpenAI 與 Hugging Face 的安全事件，以及 OpenAI 最新發表的 722 份數學研究手稿為例，說明人類正在面臨一種新的挑戰：AI 不只是協助研究者完成工作，而是可能快速產生大量需要人類花費數月、甚至更長時間才能驗證與理解的成果。

今年 7 月，OpenAI 的內部模型在資安評估期間繞過部分隔離措施，利用系統漏洞取得未授權存取權限，甚至入侵 Hugging Face 部分系統。OpenAI 於 8 月公開事件調查，並宣布加強模型隔離、權限控制及安全評估。

另一方面，OpenAI 於 10 月 6 日公開由內部前沿模型產出的 722 份數學手稿，涵蓋 372 個相關研究成果類別。這批研究涉及多項數學開放問題，但並非所有結果都已完成形式化驗證，部分證明仍需要數學界進一步檢視。

他認為 AI 產生研究成果的速度，與人類學術社群驗證、理解並吸收研究成果的速度，正出現新的落差。

為什麼 AI 能力差距會如此巨大？Karpathy 提出三個原因

Karpathy 認為，造成這種漏斗式分布的原因，並不只是部分人比較擅長使用提示詞，而是 AI 能力本身具有三個重要特性。
首先，AI 帶來的價值取決於問題規模與任務複雜度。如果使用者只是要求模型回答一個問題，或撰寫一段簡短文字，其實很難真正測試系統的能力上限。只有當使用者擁有大量真正重視、需要長時間處理的困難問題時，才能充分發揮 Agent 的潛力。

這也是為什麼一般消費者與專業軟體工程師，對同一代 AI 技術可能產生完全不同的評價。前者可能只看見更方便的聊天介面，後者卻能將數週的工作轉化為一個自動化任務。其次，AI 能力並非平均分布，而是呈現高度不均勻的鋸齒狀特徵（Jaggedness）。

Karpathy 指出，目前模型最突出的能力集中在數位化、容易驗證正確性，而且具有高度經濟價值的領域，尤其是數學與程式開發。他認為，這與 AI 訓練方式有關。透過可驗證獎勵進行強化學習，模型能在擁有明確正確答案、可反覆測試的環境中持續改善表現。而不同訓練環境受到商業價值與潛在收入驅動，也使模型能力朝部分領域集中。

例如，程式碼能透過測試確認是否正確，數學證明也能利用形式化工具進行檢查。但企業管理、人際協調或其他難以量化成果的工作，往往缺乏相同程度的即時驗證機制。因此，AI 可能在某些專業領域展現驚人的自主能力，卻仍然在其他看似簡單的任務中犯錯。

最後，模型的存取權限本身就造成巨大差異。Karpathy 將 AI 使用權限分成免費版、付費版及研究實驗室內部系統。即使兩名使用者具備相同的專業能力，如果一人只能使用免費聊天工具，另一人卻能使用尚未公開、具有更長執行時間與多 Agent 協作能力的內部系統，兩人對 AI 能力的認知自然可能完全不同。