Groq 創辦人揭 Nvidia 200 億美元交易內幕！談 AI 發展：速度即是智慧

Co2

37 分鐘前

前 Google TPU 推手、AI 晶片新創 Groq 創辦人 Jonathan Ross 近期接受專訪，揭露 Groq 與輝達（NVIDIA）合作案的真實內幕，以及在公司瀕臨破產之際，經營團隊如何透過「薪資換股權」策略成功度過危機，並展望 AI 技術將如何顛覆未來軟體產業的開發模式。

Table of Contents

AI 運算速度即是智慧！從 AlphaGo 世紀之戰看 Groq 核心理念

許多人認為 AI 模型的運算速度變快，只代表能更快得到相同的答案，Jonathan Ross 卻認為，速度本身就是智慧的來源。他以史上首個擊敗人類職業圍棋世界冠軍的人工智慧系統，DeepMind 的 AlphaGo 為例，在第二局比賽中出現的「第 37 步（Move 37）」被視為神來之筆，這是模型在運算數萬種可能性後得出的結果。

廣告 - 內文未完請往下捲動

當初若將相同的模型放在運算速度較慢的 GPU 上執行，因為搜尋深度不足，模型根本無法發掘這一步棋，證明賦予機器更快的思考速度，能讓其產出更聰明的決策，這也是 Groq 致力於推動語言處理單元（LPU）發展的核心論述。

破除 200 億美元收購傳言：Groq 與輝達合作案的真實內幕

市場上曾盛傳輝達將以高達 200 億美元的估值收購 Groq。Ross 在專訪中澄清，該交易實際上是技術授權合作，而非併購，且公司估值成長約為前一輪的兩倍多，並非外界謠傳的近三倍。

這項合作案的起源來自於 Groq 的營運長，他們最初僅是向輝達採購約 10 萬組 GPU 進行部署，但輝達執行長黃仁勳（Jensen Huang）看見了 GPU 與 LPU 結合的潛力，在短短三週內便迅速推動了這項授權合作，展現了科技巨頭在瞬息萬變的 AI 賽局中毫不遲疑的決策速度。

GPU 與 LPU 的完美互補：突破 AI 語言模型效能瓶頸的硬體架構

在 AI 基礎設施的佈局上，Ross 使用了物流網路來比喻晶片架構：你不會在長途貨車與最後一哩路的送貨廂型車之間做二選一，而是兩者皆需。在語言模型的運作中，Groq 選擇在解碼層（decoder layer）進行分工，將受限於運算能力的注意力機制（attention）交由 GPU 處理，而受限於記憶體吞吐量的權重應用則交由 LPU 負責。

隨著未來 AI 代理系統普及，機器與機器之間的溝通將成為常態，人類可容忍的幾秒鐘延遲，對 AI 系統而言將是嚴重的效能瓶頸，這使得極致的推論速度成為不可或缺的基礎設施。

Groq 瀕臨破產的逆轉勝！靠「薪資換股權」度過資金危機

在技術尚未完全成熟前，Groq 曾面臨僅剩三週現金流的生死關頭，當時若裁員，將流失開發無人工介入編譯器所需的關鍵人才，形同扼殺公司命脈，因此經營團隊為此推出被稱為「Groq 債券」的薪資換股權計畫，出乎意料的是，高達 80% 的員工自願參與，其中約一半的員工同意將年薪降至法定最低工資（約 5 萬至 6 萬美元）。

這項策略不僅為公司延長了近兩個月的資金預備期，成功撐到下一輪融資，員工離職率甚至降至 5% 以下，Ross 認為，讓員工掌握方向盤參與決策，能有效將未知的恐懼轉化為拯救公司的向心力。

學習黃仁勳管理風格，避免一對一會議降低政治鬥爭

在企業管理方面，Ross 分享了他的選才策略轉變：從尋找應徵者的「優點」轉為審視「缺點」。他認為培養人才需要看優點，但招募把關必須看缺點，因為一個負面特質可能會影響整個團隊。

他強調創辦人的職責是找出企業的「主導賽局（Dominant Game）」，例如 Groq 將目標極度簡化為「每秒處理 2,500 萬個 Tokens」，讓軟硬體與供應鏈部門都能朝同一指標努力。他也從黃仁勳身上學到，大型組織應避免過多的「一對一會議」以減少辦公室政治鬥爭，並放棄複雜的商業算計，專注於提供客戶真正需要的產品。