輝達推客製化 NVHBM，將自研晶片對手收編，AWS Trainium4 搶先導入

隨著兆級參數（Trillion-parameter）大型語言模型與主動式 AI 代理（Agentic AI）成為主流，AI 基礎設施的效能瓶頸正從單純的「算力大小」，轉向「運算、記憶體、網路互連與散熱」的系統級整合。

為了解決傳統架構的硬體限制，輝達（NVIDIA）正式發表新一代客製化高頻寬記憶體技術 NVHBM，並將其納入 NVLink Fusion 生態系。亞馬遜旗下晶片設計團隊 Annapurna Labs 成為首家採納該技術的合作夥伴，雙方更同步敲定高達 200 萬顆頂級 GPU 的長約，揭示了雲端巨頭與晶片霸主之間「既競爭又共生」的全新商業格局。

輝達 NVHBM 重構記憶體與運算核心的空間分配

在傳統的 HBM（High-Bandwidth Memory）架構中，記憶體控制器通常內建在 XPU（GPU 或客製化 ASIC）的運算晶粒上。這不僅佔用極為寶貴的先進製程晶圓面積，也限制了運算單元（Compute Core）的擴充空間。

廣告 - 內文未完請往下捲動

NVHBM 帶來了結構性的轉變，在此新架構下，輝達直接將客製化記憶體控制器下放並整合至 3D HBM 堆疊的最底層邏輯晶粒（Base Die）中。

相較於標準的 JEDEC 公版 HBM4E 規範，NVHBM 展現了顯著的硬體優勢：

• 頻寬躍升：提供最高提升 30% 的記憶體頻寬
• 能耗降低：HBM 功耗減少約 15%
• 算力空間釋放：為 XPU 運算晶粒釋放出高達 25% 的晶片面積，可用於配置更多運算核心或快取記憶體。

輝達同時推動將 NVHBM 建立為跨記憶體供應商（如 SK 海力士、三星、美光）的標準化規格，大幅降低雲端業者在採購與驗證客製化晶片時的工程門檻。

輝達的戰略算盤：收編「自研晶片」為自家生態系

表面上看，各大雲端服務商（CSP）積極研發自研晶片（ASIC）是為了擺脫對輝達的依賴並壓低資本支出。然而，輝達並未採取封閉對抗的策略，而是透過 NVLink Fusion 與 NVHBM 主動向對手伸出橄欖枝。

這項佈局背後有三大核心戰略目的：

1. 「晶片供應商」升級為「資料中心架構制定者」：即使客戶使用自研晶片，只要採用 NVLink Fusion 平台，就必須採購輝達的 NVLink 晶片組（Chiplets）、交換器（Switches）與 MGX 機架系統。輝達藉此轉型為向整個資料中心收取「互連稅」的標準制定者。
2. 瓦解競爭聯盟，確立實質標準：面對博通、AMD 與其他科技巨頭組成的 UALink 開放互連聯盟，輝達透過拉攏雲端龍頭亞馬遜，在反輝達陣營中打入關鍵契子，鞏固 NVLink 作為業界互聯黃金標準的地位。
3. 推動同機架「混合運算」：透過統一的通訊協定，客戶可以在同一個機架內同時部署輝達 GPU 與自研 ASIC，消除了不同晶片架構間的整合壁壘，防止客戶在基礎架構上全盤倒戈。

亞馬遜扮演首發先鋒：雙軌並進的「槓鈴策略」

作為 NVHBM 的首位合作夥伴，亞馬遜（AWS）旗下的 Annapurna Labs 宣布將自下一代自研晶片 Trainium4 起全面支援 NVLink Fusion 與 NVHBM 技術。

在此技術合作公布的同時，亞馬遜亦確認將於 2027 至 2028 年間，額外向輝達採購高達 200 萬顆次世代頂級 GPU（涵蓋 Blackwell Ultra、Rubin 及 Rubin Ultra）。

這一舉措完整體現了 AWS 的槓鈴策略（Barbell Strategy）：

透過導入 NVHBM，AWS 既能以更低的研發風險與更高的記憶體效率推進 Trainium4，又能讓自研晶片無縫融入現有的伺服器機架與資料中心網路，大幅降低長期維運與硬體轉換的摩擦成本。

AI 基礎設施進入系統級整合時代

輝達與亞馬遜的這項合作模式，為當前 AI 產業的競爭態勢寫下了全新註解：「自研晶片」與「採購輝達」已不再是零和博弈，而是走向架構融合與功能分工。

藉由將記憶體架構（NVHBM）與高速網路（NVLink）綁定，輝達成功將護城河從單一晶片延伸至整個機架級生態系。未來的 AI 資料中心競賽，已正式從「誰的晶片算力最強」，升級為「誰能掌握整座 AI 工廠的架構主導權」。

NVHBMNVLink FusionTrainium4亞馬遜（AWS）輝達

衍伸閱讀

• OpenAI發布自研AI推論晶片「Jalapeno」，稱效能優於輝達 GB300
• 輝達執行長黃仁勳榮登 Glassdoor 年度最佳企業執行長榜首