OpenAI發布自研AI推論晶片「Jalapeno」,稱效能優於輝達 GB300

Florence
分享
OpenAI發布自研AI推論晶片「Jalapeno」,稱效能優於輝達 GB300

OpenAI 公布了其與博通(Broadcom)合作開發的首款自研人工智慧推論晶片「Jalapeno」的初步測試結果。根據硬體負責人 Richard Ho 在史丹佛大學 Hot Chips 會議上的說明,該晶片在處理效能與功耗表現上,優於輝達(Nvidia)前一代的 GB300 晶片。測試數據顯示,Jalapeno 不僅能提供更高的單位功耗運算量,在回覆速度方面亦有顯著提升。該款晶片主要專注於人工智慧模型的推論階段(Inference phase),而非模型訓練領域。OpenAI 預期透過導入這款新晶片,能逐步降低資料中心的基礎設施與電力營運成本。

OpenAI 「Jalapeno」測試表現與功耗優於輝達 GB300

根據彭博社報導,Jalapeno 晶片在單位功耗的 AI 工作量與回覆速度上,均優於輝達的 GB300 系統。該晶片在低電壓環境表現優異,額定功率為 700 瓦,測試期間實際功耗則維持在 550 瓦或更低。這種高吞吐量(Throughput)與低延遲的結合,將有助於節省資料中心的電力成本,並提供更快的反應速度。這可以幫助 OpenAI 在運行其資料中心時節省資金,而電力是資料中心的關鍵成本。

Jalapeno 專注於推論階段與模型驗證

Jalapeno 的設計定位為推論晶片(Inference chip),專門用於已完成訓練(Training)的人工智慧模型,負責處理用戶提示與實際任務。測試中使用了 OpenAI 自家模型及 DeepSeek 與 Moonshot AI 的第三方模型進行驗證。結果顯示,當工作負載(Workload)越大時,晶片架構優勢越明顯,在大型模型表現最為突出。需注意的是,該晶片並未與輝達最新出貨的 Vera Rubin 比較,且不適用於模型訓練領域。

廣告 - 內文未完請往下捲動

基礎設施版圖與供應鏈策略

OpenAI 利用自家的 AI 模型加速 Jalapeno 開發,計畫在 2026 年底前進行小規模部署。目前第二代晶片預計在未來數月內進入流片(Tape out,即晶片設計交付製造階段),第三代設計亦在規劃中。雖然積極拓展自研硬體以降低龐大的基礎設施成本,但 OpenAI 高層表明自研晶片短期內不會完全取代外部供應。輝達與 Cerebras 等大廠仍是重要夥伴,顯示產業在追求成本效益時,仍維持多元化供應策略。

風險提示

加密貨幣投資具有高度風險,其價格可能波動劇烈,您可能損失全部本金。請謹慎評估風險。