3D堆疊DRAM成裝置端AI落地前提?SK海力士傳聯手Apple搶進次世代記憶體

Crumax
分享
3D堆疊DRAM成裝置端AI落地前提?SK海力士傳聯手Apple搶進次世代記憶體

SK 海力士(SK hynix)正式啟動 3D 堆疊式 DRAM-on-Logic 技術的商業化佈局,鎖定裝置端 AI(On-Device AI)的次世代記憶體需求,並已透過美國子公司在加州對外招募設計工程師。據悉 SK 海力士已與一家特定北美客戶展開聯合開發,分析師點名合作對象為 Apple。

在產業從生成式 AI 邁向實體 AI(Physical AI)的過程中,3D 堆疊 DRAM 被視為裝置端 AI 落地的關鍵前提,但距離大規模商用普及,技術與市場兩端都還有一段路要走。

黃仁勳赴秋葉原謝 SEGA 30 年前救命恩! 結盟日本四大廠佈局實體 AI

廣告 - 內文未完請往下捲動

PoP 走到極限:3D 堆疊 DRAM 為何成裝置端 AI 解方?

現行智慧型手機普遍採用的記憶體封裝方式為 PoP(Package-on-Package),原理是將兩顆晶片直接上下疊放。這種架構在 AI 運算需求相對有限的時代尚能應付,但進入裝置端 AI 時代後,其侷限性愈發明顯:晶片間距較長、資料傳輸通道(I/O)數量有限,導致頻寬瓶頸與功耗偏高,難以同時滿足高頻寬與低功耗的需求。

3D 堆疊 DRAM-on-Logic 架構的出現,正是為了從根本突破這道限制。這項技術將 DRAM 記憶體直接垂直堆疊於邏輯晶片(Logic Die)之上,大幅縮短兩者間的物理距離,同時在相同封裝面積內提供更多資料傳輸通道。

3D 堆疊 DRAM 架構剖面示意圖:由下而上分別是負責控制協調的邏輯層(Logic Layer),以及堆疊 DRAM 晶粒、負責儲存資料的記憶體層(DRAM Layers)。貫穿各層的 TSV(矽穿孔)作為垂直導電通道,是整個架構能高速傳輸的物理基礎。

相較於 PoP,該架構能顯著降低資料傳輸延遲、提升功耗效率並優化空間利用率。這三點,剛好是行動裝置端 AI 推論場景的核心訴求。目前,行動應用處理器(AP)被視為最具潛力的導入場景,蘋果(Apple)與高通(Qualcomm)是該領域的兩大主導廠商。

記憶體牛市為何還能再漲五年?三指標看懂 HBM、DRAM、NAND 差在哪?

SK 海力士次世代記憶體佈局:HBF 瞄準雲端、3D 堆疊主打裝置端

SK 海力士開發長 Ahn Hyun 今年 4 月在 TSMC 技術論壇上明確指出,公司未來的差異化方向將涵蓋三條技術路線:客製化 HBM、HBF(高頻寬快閃記憶體),以及 3D 堆疊 DRAM-on-Logic。

這三者並非替代方案間的競爭,而是針對不同場景的分工。HBF 鎖定雲端 AI 推論場景的大容量需求,透過將 NAND 快閃記憶體垂直堆疊的方式,填補 HBM 與傳統 SSD 之間的記憶體層缺口,以因應大語言模型推論時 KV 快取持續膨脹的容量壓力。3D 堆疊 DRAM-on-Logic 則瞄準端側 AI 的低功耗高頻寬需求,直接整合進行動裝置的核心邏輯晶片之上。

兩者一個在雲端伺服器解決容量問題,一個在終端裝置解決效能與功耗問題,在 SK 海力士的產品矩陣中各司其職。

從 AI 推論時代看記憶體階層洗牌:一文看懂 HBF、SSD POD 與 SRAM 差在哪?

神秘北美客戶是誰?分析師點名 Apple

韓媒 Zdnet 引述 SK 海力士在美國子公司發出的職缺說明,該公司正在尋找能「與美國客戶緊密合作、主導 3D 堆疊 DRAM 邏輯晶片共同設計」的工程師,目標是「提供符合技術演進需求與市場需求的晶片設計解決方案」。

對於這位神秘北美客戶的身分,Citrini 分析師 Jukan 直接點名 Apple 是最可能的合作對象。他的理由是:「Apple 長期自研 A 系列與 M 系列晶片,高度重視封裝整合技術帶來的效能提升,且在記憶體技術合作上與 SK 海力士有長期往來。」

若合作屬實,將成為 Apple 在行動 AP 記憶體架構上一次重大的世代躍升。

裝置端 AI 普及的漫漫長路:記憶體是最後一道關卡

然而,即便 SK 海力士確實正推進記憶體前沿技術,Jukan 仍潑了一盆冷水:「3D 堆疊 DRAM 技術必須先到位,裝置端 AI 才有可能真正大規模落地,而這條路目前仍相當漫長。」

他反諷道:「除非廠商打算在智慧型手機裡塞進 128GB 的 LPDDR,否則現有記憶體架構根本無法撐起端側 AI 真正需要的運算規模。」

隨著 AI 模型的上下文長度持續膨脹,對記憶體的容量與頻寬要求迅速升高,但行動裝置的封裝空間與功耗預算幾乎沒有妥協餘地。3D 堆疊 DRAM-on-Logic 被視為打破僵局的技術路徑,但從招募工程師到技術成熟、再到量產導入終端產品,要完善整條供應鏈所需的時間與資源恐怕還需久候。

風險提示

加密貨幣投資具有高度風險,其價格可能波動劇烈,您可能損失全部本金。請謹慎評估風險。