AWS執行長：亞馬遜自研Trainium晶片可搭配輝達架構，不會當成產品出售

27 分鐘前

AWS 執行長 Matt Garman 近期接受彭博（Bloomberg）專訪，分享 AWS 在人工智慧基礎設施的技術策略。面對強勁的市場需求，Garman 表示 AWS 採用「混合策略」，將 Nvidia GPU 與自研專用積體電路（ASIC）晶片「Trainium」及「Graviton」CPU 靈活搭配，協助企業客戶精準配置算力、降低營運成本，這種兼顧效能與成本效益的雲端架構，正是 AWS 雲端服務帶動 Amazon (NASDAQ：AMZN）銷售佳績、持續贏得客戶青睞的關鍵。

Table of Contents

AWS 人工智慧年收達 250 億美元，預備持續擴建基礎設施

AWS 目前人工智慧年化收入已達 250 億美元，成長動能源自金融、醫療保健與媒體等產業，業務涵蓋 AI 模型訓練、推理與智慧體工作負載。由於市場需求強烈，AWS 預備持續投入資金擴建雲端設施、攜手與客戶簽署長期合作協議。

(亞馬遜財報亮眼、帶動Credo、Lumentum半導體光通訊相關類股契機)

廣告 - 內文未完請往下捲動

(AWS 創 18 季最快成長！亞馬遜財報亮眼 Q2 營收突破 2,000 億美元，再度上修全年資本支出)

自研晶片 Trainium 協同運作 Nvidia GPU

Trainium 由 AWS 旗下子公司 Annapurna Labs 所研發、是專為 AWS 雲端工作負載設計的 ASIC 積體晶片，該晶片主要用於處理高強度的 AI 推理任務，涵蓋新模型的訓練與實際運行的推理作業。由於 AWS 完整掌控從晶片、資料中心到軟體的整體技術堆疊，能針對特定需求優化系統效能，使客戶在執行推理工作負載時，可降低約 20 % 至 30 % 的基礎設施成本。

Trainium 可與 Graviton 通用 CPU 處理器及 Nvidia GPU 協同運作，提供彈性且高效能的算力組合，Graviton 為亞馬遜自研 CPU，使用 Arm 架構，類似輝達的 Vera Rubin CPU。

(更勝 Blackwell！輝達 Vera Rubin 效能功耗提升 10 倍，突破 AI 資料中心能源瓶頸、業績看漲)

AWS 是否計劃向其他公司出售客製化晶片？

Trainium 由台積電代工，被視為 AI 晶片界的異軍突起，外界將其視為輝達的挑戰，市場關注 AWS 未來是否會將自研客製化晶片作為獨立產品對外銷售，此舉將會與合作夥伴輝達成為競爭對手，Garman 表示公司曾評估過出售客製化晶片的可能性，但現階段任務為將 Trainium 以及通用運算晶片 Graviton 投入 AWS 自己的雲端基礎設施，優先滿足自身需求，暫時不會將 Trainium 或 Graviton 當成產品出售。

開發客製化晶片已成為各大雲端服務供應商（CSP）的共同趨勢。除了 AWS 的 Trainium 外，Google Cloud 亦推出張量處理單元（TPU）以加速機器學習；微軟 Azure 推出 Maia AI 加速器與 Cobalt CPU；Meta 開發 MTIA 處理器以支援內部 AI 需求。