Google 一年推四款 TPU 搶攻 AI 晶片市場，比輝達 GPU 便宜三成

Co2

43 分鐘前

Google 正擴充第八代張量處理器（TPU）產品線，推出專為機密運算以及鎖定長文本處理的產品，加上今年稍早推出的兩款，今年共推出四款 TPU 系統，預計明年供貨。彭博分析師指出，Google TPU 成本比輝達 GPU 低約三成，預估 TPU 相關銷售額將從今年約 120 億美元，成長到 2028 年超過 1,350 億美元。

Table of Contents

Google 一年推四款 TPU 系統，將挑戰輝達市場地位？

彭博報導，Google 母公司 Alphabet（GOOG）9 日擴充第八代張量處理器（TPU）產品線，新增 TPU 8tx 和 TPU 8i Max 兩款系統，預計明年開始供貨。加上今年稍早推出的 TPU 8t 和 TPU 8i，Google 今年一共推出四款 TPU。彭博認為，這是 Google 擴大挑戰輝達（NVDA）的最新動作。

Google 晶片主管 Amin Vahdat 表示，這兩款新產品不是全新的晶片設計，而是以今年推出的處理器為基礎重新配置。他認為，比起打造一款涵蓋所有市場的晶片，特化版本更能創造價值。彭博指出，輝達也正擴充 CPU 和推論專用產品，AI 晶片的競爭逐漸走向依工作需求配置硬體。

廣告 - 內文未完請往下捲動

兩款新 TPU 有何不同？8tx 主打機密運算，8i Max 專攻長文本

TPU 8tx 主打機密運算，鎖定政府機關和受高度監管的產業。這款系統搭配超微（AMD）的中央處理器（CPU），透過晶片層級的加密技術，提高資料處理過程的安全性。

TPU 8i Max 則把兩顆 TPU 8i 晶片封裝在一起，增加運算能力和記憶體，能處理更長的上下文視窗，也就是 AI 單次處理請求時能參考的資料量，適用於藥物研發、數學和程式設計等工作。根據科技新報報導，TPU 8i Max 的運算能力、SRAM 和 HBM 頻寬都是 TPU 8i 的兩倍。

Google 開源 TorchTPU 支援 PyTorch，回應延遲縮減九成

為了降低開發者的轉換門檻，Google 上個月開源 TorchTPU，讓開發者常用的 PyTorch 程式碼只要小幅修改，就能直接在 TPU 上執行，主流的開源推論引擎 vLLM 和 SGLang 也已經支援 TPU。

這次 Google 也開源記憶體管理工具 TPU Sync，能在 AI 代理閒置時，把暫存資料移出晶片，騰出運算資源給其他任務使用。科技新報指出，這項工具可讓 KV 快取的傳輸延遲和首個 token 的回應時間縮減 90% 以上。

TPU 成本比 GPU 低三成，2028 銷售額上看千億美元

彭博分析師 Mandeep Singh 指出，TPU 的成本比輝達 GPU 低約 30%，資料處理能力也具有競爭力。彭博研究預估，包含相關軟硬體的 TPU 銷售額，將從今年約 120 億美元成長到 2028 年超過 1,350 億美元，這還不包括客戶透過 Google Cloud 使用 TPU 的收入。

Google 最初開發 TPU 是為了自家使用，現在已將銷售拓展到自家雲端服務之外。甲骨文（ORCL）宣布，明年起將首度讓雲端客戶使用 TPU；Anthropic 握有在 2028 年到 2031 年間，採購最多 1,500 億美元晶片的選擇權；彭博也曾報導，OpenAI 計劃採購 TPU。

但客戶 Jump Trading 表示，部分工作改用 TPU 可以提高能源效率、降低成本，但訓練 AI 模型時，仍然主要使用輝達的產品。