Google Cloud於2026年11月11日宣布擴展其第八代TPU產品陣容，新增兩款全新系統：專為處理龐大的脈絡視窗與最高單機櫃運算密度設計所打造的TPU 8i Max，以及專為安全與機密推論設計的TPU 8tx。結合先前發表的TPU 8t與8i，第八代TPU的四款系統，不僅能靈活支援各種工作負載，更共同為客戶在代理式生命週期的每個階段，提供了專用的加速器。
專為代理時代打造：最新TPU 8tx與TPU 8i Max登場
早在十多年前，Google為了滿足語音辨識與語言翻譯等內部需求，首度設計出張量處理器（TPU）。歷經八代TPU的演進，如今的應用場景已呈現爆發性成長，涵蓋範圍包括：第一，訓練並提供自家Gemini模型；第二，處理AI代理工作負載；第三，透過雲端基礎設施為Google Cloud客戶提供服務；以及第四，近期更進一步讓客戶能將TPU直接部署到自己的資料中心。TPU現已成為一項快速成長的業務，擁有近100家客戶，其中包含頂尖實驗室、交易機構、零售商與大學院校等。
在2025年4月的Google Cloud Next大會上，Google在同一代產品中推出兩款全新專用TPU：專為大規模訓練打造的8t，以及專為即時推論設計的8i。相較於前一代TPU，TPU 8t及8i分別提升了高達2.7倍的訓練效能與80% 的推論性價比。如今，Google更進一步擴展第八代TPU產品陣容，新增兩款系統：專為龐大的脈絡視窗與最高單機櫃運算密度設計的TPU 8i Max，以及專為安全與機密推論打造的TPU 8tx。這是Google首次在同一年內推出四款TPU系統。
圍繞晶片打造電腦系統
Google發表了兩款全新的TPU系統，而「新晶片」與「新系統」之間有個重要的差異。設計一款新晶片意味著要在受物理定律限制、且製造週期複雜漫長的多年過程中，將數十億個微型電晶體佈局在矽晶圓上。相對地，打造一套「系統」，則是關於如何將運算、網路與儲存資源整合在晶片周圍。
十多年前當Google打造第一代TPU時，便深知AI軟體演進速度將遠遠超越矽晶片製造的速度。因此，Google在系統平衡與模組化上做了一項基礎性的關鍵布局，將TPU架構設計為AI超級電腦中的基礎建構模組，讓工程師能圍繞著晶片，快速調整封裝方式、高速記憶體、光學網路與安全防護機制。
專專為安全且具備龐大脈絡的AI量身打造
在第八代TPU產品陣容中，每個系統都是針對AI生命週期中的不同階段量身打造。TPU 8t與TPU 8i奠定了這一代晶片的基礎：
- TPU 8t旨在成為龐大基礎模型的訓練主力，具備最高的「有效產出率」，即每消耗一瓦電力所能交付的實用智慧。
- TPU 8i則是推論引擎，旨在突破記憶體高牆，可將晶片間的通訊延遲大幅縮減高達一半。
如今，隨著企業將自主AI代理導入正式環境，Google針對這些基礎系統打造了兩款全新配置，以解決兩項迫切的新挑戰：硬體層級的資料安全，以及百萬詞元規模的脈絡處理能力。
TPU 8tx與TPU 8i Max效能解析
TPU 8tx作為第八代的第三款系統，針對安全與機密推論進行了最佳化，同時也非常適合小規模訓練。它是專為受高度監管的企業與政府機構所打造，讓他們能在處理高機敏資料的同時，安全地執行前沿或專屬模型及自主AI代理。TPU 8tx採用與TPU 8t相同的矽晶片，並搭配第五代AMD EPYC CPU主機，將安全機制直接內建於硬體層中。
第四款系統TPU 8i Max，則是為了解決記憶體高牆問題而生。當數十個AI代理同時針對整個軟體程式碼庫或長達數小時的影片協同運作時，記憶體頻寬很快就會成為瓶頸。因此，Google將兩顆低延遲的TPU 8i晶片整合封裝在單一模組上，提供雙倍的運算能力、雙倍的SRAM，以及雙倍於TPU 8i的HBM頻寬。
將TPU開放給所有開發者
多年來，隨著AI技術不斷進步，越來越多企業開始採用加速器。Google持續有系統地消除採用門檻，讓TPU變得和通用硬體一樣易於使用，其關鍵領域包含：
- 向每位PyTorch開發者開放TPU開發環境，無需改寫程式碼。
- 在InferenceX與AgentX基準測試中展現業界領先的生產環境效能。
- 為自主AI代理消除閒置運算浪費。
- 透過模型狀態層突破記憶體高牆。
- 從單一控制器跨越TPU擴展分散式工作負載。
- 透過GKE動態切片功能按需求拼接客製化TPU拓樸。
《Google Cloud第八代TPU系統》正式預告
玩家總結
Google Cloud於2026年11月全面擴展第八代TPU產品陣容，推出專為安全與機密推論打造的TPU 8tx，以及針對龐大脈絡視窗與最高運算密度的TPU 8i Max。結合TPU 8t與8i，四款系統全面覆蓋AI代理生命週期的各個階段。同時，Google透過開源軟體堆疊、GKE動態切片與模型狀態層等技術，進一步降低開發者使用門檻，為企業級AI應用提供高效且安全的硬體基礎設施。
延伸閱讀：
樂高首度攜手金馬63！放大版「金馬獎座」、「金馬復古攝影機」相伴電影人榮耀時刻
王品訂位新制上路！耶誕、元旦聚餐11/13起提前預訂卡位
珍藏半世紀熱血！福斯Golf GTI EDITION 50最終追加配額要入手要快
迷客夏冬季限定「太妃序曲」系列開賣！限時免費加料「太妃奶Q」、加11元再多一杯
