HBM 之父談三星 zHBM 限制:記憶體垂直堆疊在 GPU 上「會直接融化」

Crumax
分享
HBM 之父談三星 zHBM 限制:記憶體垂直堆疊在 GPU 上「會直接融化」

記憶體巨頭三星電子在兩週前的「記憶體與儲存未來大會(FMS 2026)」上發表了其下一代 3D 記憶體架構「zHBM」,透過將記憶體垂直堆疊在 GPU 或 CPU 等邏輯處理器正上方,將 AI 加速器的效能提升高達 8 倍、功耗效率提高 3 倍。然而,有「HBM 之父」之稱的金正浩(Kim Joung-ho)教授卻指出,這項技術存在物理限制:「如果直接將記憶體堆疊在發熱量極高的 GPU 正上方,記憶體將會因為高溫直接融化。」

三星 zHBM:突破「記憶體牆」的 3D 堆疊革命

訪談中,金正浩教授先從架構解釋出發。傳統的 HBM(高頻寬記憶體)是放置在邏輯晶片的旁邊,數據傳輸必須先搭電梯下平面道路,再搭電梯上樓,這使得資料傳輸受限於平面車道的寬度(1024 或 2048 位元)。

廣告 - 內文未完請往下捲動
傳統 HBM 與 zHBM 架構比較示意圖

三星在 FMS 2026 展示的 zHBM 架構,則採用混合銅鍵合(hybrid copper bonding)與多晶圓鍵合(multiwafer bonding)等先進技術,將記憶體垂直(Z 軸方向)堆疊在處理器正上方。這項技術大幅縮短了資料傳輸的物理距離,進而提升資料傳輸頻寬與電力效率。

根據三星官方數據,與 HBM5 相比,採用 zHBM 的 AI 加速器效能可提升 8 倍,功耗效率提升 3 倍,熱阻也能降低一半以上,被視為是突破「記憶體牆(Memory Wall)」的革命性進展。

HBM 之父:AI GPU 熱能驚人,記憶體恐「直接融化」

儘管三星官方對 zHBM 的降溫與效能極有信心,但金正浩教授指出,這項技術仍存在難以解決的「散熱問題」。

金教授表示,高效能的 AI GPU 在高速運算時會產生能量龐大的熱能。在三星 zHBM 的設計中,發熱量極大的 GPU 被壓在最底層,而對高溫極度敏感的記憶體則疊在上方。當 GPU 開始發熱,熱能會導致上方的記憶體過熱甚至「融化」。

金教授直言,zHBM 目前可能只適用於運算量較低、發熱量較小的專門晶片,例如 LPU(Language Processing Unit)或 NPU(Neural Processing Unit),恐怕無法輕易接入主流的高效能 AI GPU。

學術界破局方案:金教授首次公開「tHBM」

為了解決 zHBM 散熱的致命傷,金正浩教授在專訪中首度公開了其實驗室正在秘密研究的全新架構:「tHBM(Turned-over/Reversed HBM)」。

金教授的研發團隊採用「逆向工程」的建築思維:將整個 3D 堆疊結構翻轉過來,把 HBM 記憶體疊在最底層,而將 GPU 放在最頂層。他解釋,一旦將 GPU 移到最上方,數據中心的冷卻風扇或散熱冰片就能直接與頂部的 GPU 接觸,最大化降溫與冷卻效率。

這項設計從物理結構上解決了 3D 垂直封裝的「散熱結界」,目前已在實驗室進行電腦模擬並取得良好進展。

記憶體大廠技術分歧:三星 zHBM vs. SK 海力士 HBF

除了三星主打的 zHBM,FMS 2026 舞台上,另一記憶體巨頭 SK 海力士(SK Hynix)則選擇了不同的技術路線。SK 海力士與儲存大廠閃迪(SanDisk)及科技巨擘 Google 聯手,力推「HBF(High Bandwidth Flash,高頻寬快閃記憶體)」技術。

SK 海力士攜 SanDisk 發表全球首個 HBF 標準規範,Google 選邊站了

隨著 AI 時代從「模型訓練」加速邁向「推理(Inference)」階段,AI 需要處理龐大長文本(Context Length),進而產生極大的 KV 快取(KV Cache)需求。傳統 HBM 在容量上面臨極限,而 HBF 採用比 DRAM 容量大上十倍的 NAND Flash 進行堆疊,專為超大容量需求提供高性價比的解決方案,與三星追求極致傳輸速度的 zHBM 形成對比。

風險提示

加密貨幣投資具有高度風險,其價格可能波動劇烈,您可能損失全部本金。請謹慎評估風險。