上個月科技圈的焦點(diǎn)，非谷歌莫屬。憑借性能卓越的Gemini 3，谷歌在短短半個月內(nèi)股價(jià)大幅上揚(yáng)，不僅在AI領(lǐng)域與OpenAI展開激烈競爭，還在芯片市場對英偉達(dá)發(fā)起挑戰(zhàn)，引發(fā)了廣泛關(guān)注。

谷歌此次的亮眼表現(xiàn)，讓英偉達(dá)也受到波及。原來，谷歌宣稱Gemini 3 Pro是在自研的TPU（張量處理單元）上訓(xùn)練的，在宣傳中幾乎未提及英偉達(dá)。這一消息傳出后，媒體和大眾紛紛猜測，谷歌或許要打破英偉達(dá)CUDA的壟斷局面了。

那么，這個讓英偉達(dá)面臨挑戰(zhàn)的TPU究竟是什么？從名稱就能看出，它是一類芯片，與GPU是近親，不過是為AI量身定制的“特供版”。實(shí)際上，TPU項(xiàng)目從2015年就已啟動，并非近期才出現(xiàn)的新事物。

當(dāng)時谷歌正經(jīng)歷技術(shù)轉(zhuǎn)型，打算將傳統(tǒng)的搜索推薦算法替換為深度學(xué)習(xí)算法。然而，他們發(fā)現(xiàn)GPU存在諸多問題，不僅供應(yīng)不足，還非常耗電，使用成本極高。GPU的問題在于其設(shè)計(jì)過于追求全能，架構(gòu)復(fù)雜，包含硬盤、內(nèi)存、顯存、核心等多個層次。在芯片領(lǐng)域，數(shù)據(jù)搬運(yùn)的成本遠(yuǎn)高于計(jì)算本身，數(shù)據(jù)從顯存到核心的短距離傳輸，對電子來說卻如同翻山越嶺。大量電費(fèi)并非用于計(jì)算，而是消耗在數(shù)據(jù)傳輸上，最終轉(zhuǎn)化為熱量，需要風(fēng)扇散熱。在圖形渲染中，這種架構(gòu)尚可接受，因?yàn)楫嬅骐S機(jī)性強(qiáng)，素材難以預(yù)料，只能從顯存中臨時獲取。但在AI的矩陣運(yùn)算中，每個數(shù)的計(jì)算方式、對象和次數(shù)都是固定的。GPU卻仍要將計(jì)算完的數(shù)據(jù)存回顯存，等待再次取入計(jì)算單元，這無疑是一種浪費(fèi)。

于是，專為AI設(shè)計(jì)的TPU應(yīng)運(yùn)而生。它對GPU中用不上的圖形、控制流、調(diào)度等模塊進(jìn)行了精簡和優(yōu)化。其核心思路是專門優(yōu)化AI常用的矩陣乘法，采用了“脈動陣列”方法。使用這種方法后，數(shù)據(jù)一旦開始計(jì)算，就會在密集排列的計(jì)算單元之間傳遞，未用完前不許返回存儲單元，從而減少了頻繁的讀寫操作。如此一來，TPU每個周期的計(jì)算操作次數(shù)達(dá)到數(shù)十萬量級，是GPU的近十倍。初代TPU v1的能效比達(dá)到同時期NVIDIA Tesla K80的30倍，性價(jià)比優(yōu)勢明顯。

不過，最初谷歌對TPU的應(yīng)用較為謹(jǐn)慎，僅將其用于推理，不具備訓(xùn)練功能，功能相對單一，與GPU相比競爭力不足。從第二代開始，谷歌加大內(nèi)存投入，提升容量和數(shù)據(jù)傳輸速度，使TPU能夠一邊計(jì)算，一邊快速記錄和修改海量的中間數(shù)據(jù)，如梯度和權(quán)重，從而具備了訓(xùn)練能力。

盡管多年來TPU在訓(xùn)練和推理方面的成本更低，性能也與GPU相當(dāng)，但科技巨頭們?yōu)楹稳詿嶂杂趽屬徲ミ_(dá)的芯片呢？其實(shí)，并非大家不看好TPU，而是谷歌一直采取只租不賣的策略，將TPU綁定在谷歌云服務(wù)中。大公司無法將TPU購置回家，這意味著將核心業(yè)務(wù)完全依賴谷歌云，存在較大風(fēng)險(xiǎn)，擔(dān)心英偉達(dá)的“卡脖子”問題在谷歌這里演變成更嚴(yán)重的“斷供”危機(jī)。即便如此，蘋果仍因TPU的成本優(yōu)勢，租用了一部分。

此次TPU備受關(guān)注，一方面是因?yàn)镚emini 3的成功證明了TPU的可靠性；另一方面，谷歌終于開始出售第七代TPU Ironwood。據(jù)The Information報(bào)道，meta已與谷歌洽談數(shù)十億美元的大合同，計(jì)劃從2027年開始在機(jī)房部署TPU，并最早于明年開始租用。這一消息傳出后，谷歌股價(jià)上漲2.1%，英偉達(dá)股價(jià)下跌1.8%。甚至有谷歌內(nèi)部人士表示，此次TPU的大規(guī)模推廣可能會搶走英偉達(dá)幾十億美元的市場份額，削減其10%的年收入。華爾街也對TPU前景十分看好，認(rèn)為其具有巨大的商業(yè)潛力，連負(fù)責(zé)設(shè)計(jì)制造的博通也因此上調(diào)了業(yè)績預(yù)期。

然而，要說TPU會完全取代GPU，還為時尚早。TPU屬于ASIC（專用集成電路），除了擅長AI的矩陣計(jì)算外，在其他方面的能力較弱。這既是其優(yōu)勢，也是其短板。在當(dāng)前大模型盛行的背景下，對矩陣計(jì)算的需求極大，TPU得以迅速發(fā)展。但如果未來出現(xiàn)更熱門的AI技術(shù)路線，不再依賴當(dāng)前的矩陣計(jì)算方式，TPU可能就會面臨困境。而且，TPU過于專精，一旦在計(jì)算性能上失去優(yōu)勢，就可能徹底被淘汰，例如四年前的TPU v4如今已鮮少見到。

相比之下，GPU的適應(yīng)性更強(qiáng)。以五年前在大模型浪潮前推出的3090為例，它憑借24G的超大顯存和CUDA的向下兼容生態(tài)，至今仍是普通人玩AI的主力卡，運(yùn)行Llama 8B小模型不在話下。即便AI領(lǐng)域的發(fā)展不如預(yù)期，GPU還能回歸游戲和設(shè)計(jì)領(lǐng)域，繼續(xù)發(fā)揮作用。

英偉達(dá)的CUDA生態(tài)是其最大的競爭優(yōu)勢。就像用戶習(xí)慣了iOS系統(tǒng)，雖然安卓系統(tǒng)也很優(yōu)秀，但要將十年的照片、習(xí)慣的操作手勢和購買的眾多應(yīng)用遷移過去，大多數(shù)人會選擇暫時觀望。如今的AI開發(fā)者也是如此，他們的代碼基于CUDA編寫，調(diào)用的庫是英偉達(dá)優(yōu)化的，甚至報(bào)錯解決方法也圍繞CUDA。若要轉(zhuǎn)投TPU，需要重構(gòu)代碼，適應(yīng)新的開發(fā)環(huán)境。即使TPU兼容PyTorch，但許多底層優(yōu)化和自定義算子仍需重新調(diào)試，而專門指定的JAX語言也增加了人才招聘的難度。對于急于將模型投入運(yùn)行的中小廠商來說，直接購買英偉達(dá)芯片更為便捷，甚至可能根本無法獲取TPU。

值得一提的是，谷歌自身也在大量采購英偉達(dá)的GPU，以滿足谷歌云眾多客戶的需求。因此，TPU此次開售，雖在大模型訓(xùn)練領(lǐng)域給英偉達(dá)帶來了競爭壓力，以經(jīng)濟(jì)劃算的優(yōu)勢分得一杯羹，但遠(yuǎn)未達(dá)到取代GPU的程度。未來的算力市場，更可能是TPU滿足頭部大廠的專用需求，而GPU繼續(xù)主導(dǎo)通用市場。不過，巨頭之間的競爭有望降低算力價(jià)格，這對整個行業(yè)來說無疑是一件好事。