邁威爾結盟 Penguin 開發 CXL 及光子技術,加速 AI 推理

DW
分享
邁威爾結盟 Penguin 開發 CXL 及光子技術,加速 AI 推理

Marvell (Nasdaq:MRVL)與 Penguin Solutions 於 11 月 16 日宣佈達成策略合作,共同開發資料中心記憶體擴充技術,旨在解決大規模 AI 推論與代理 AI 帶來的記憶體容量與效能瓶頸。這項合作能讓資料中心業者利用既有記憶體資源並實現跨機架共享,相關產品預計最快於 2026 年底前交付企業客戶部署。

大規模 AI 推理推升記憶體需求

聲明指出,當前 AI 工作負載正從模型訓練轉向大規模 AI 推理。由於模型規模擴大、上下文視窗延長,以及鍵值快取(KV Cache)需求增加,單一節點的記憶體需求已攀升至數百 GB 甚至數 TB,此類趨勢促使資料中心從傳統伺服器連接記憶體架構,轉向 CXL 與光共享記憶體等解耦技術,讓記憶體容量得以獨立於運算能力進行擴充。

Yole Group 記憶體資深技術與市場分析師 Jihoon Han 指出,AI 記憶體需求正在快速成長,但增加新記憶體產能需要時間與大量投資,且記憶體價格上漲也推高了擴充 AI 基礎設施的成本。他認為透過記憶體擴展與池化技術,並輔以光互連技術管理跨機架延遲,是未來幾個產品週期內滿足容量需求並控制成本的可行選項。

廣告 - 內文未完請往下捲動

雙軌架構支援跨機架 PB 級共享

Marvell 與 Penguin Solutions 正同步開發兩種互補的記憶體擴充架構,分別針對伺服器層級與機架群組層級的需求。

在直接連接記憶體擴充方面,雙方計劃將 Marvell 的 Structera X 記憶體擴充控制器,導入 Penguin Solutions 的 SMART CXL 附加卡(AIC)中。這項方案允許資料中心回收已退役伺服器中的高密度 DDR4 記憶體模組,透過 PCIe 5.0 與 CXL 2.0 介面直接連接至伺服器。此外,該標準附加卡也能用於建立專用 CXL 記憶體設備,讓營運商將回收的 DDR4 容量集中起來,分散分配給多個主機使用。

在多機架光子記憶體池方面,雙方將把基於 Marvell Photonic Fabric 光互連技術的記憶體模組與網路卡,整合至 Penguin Solutions 的 MemoryAI 記憶體裝置與 ComputeAI 系統中。兩家公司表示,此架構可支援低延遲、高頻寬的跨機架解耦記憶體共享,進而實現更大規模的記憶體池化,並為客戶提供從直接連接擴展至多機架共享的單一升級路徑。

產品預計 2026 年底交付企業部署

針對此次合作帶來的效益,Marvell 光子結構業務部資深副總裁兼總經理 Preet Virk 表示,實現 AI 推論擴展需要以更高的經濟效率交付代幣(Token),結合 CXL 記憶體擴展與光記憶體共享路線圖,能為資訊長與資料中心領導者提供提高加速器利用率的途徑。Penguin Solutions 總裁暨執行長 Kash Shaikh 表示雙方的合作將推進記憶體創新路線圖,增強其全端 AI 工廠平台。

根據官方公告時程,採用 Marvell Structera X 控制器的 Penguin SMART CXL 附加卡,預計於 2026 年底前完成認證並交付企業客戶部署;而整合 Photonic Fabric 技術的記憶體擴充伺服器聯合開發專案,則預計於 2027 年下半年提供樣品。

風險提示

加密貨幣投資具有高度風險,其價格可能波動劇烈,您可能損失全部本金。請謹慎評估風險。