輝達 GPU 太貴,Google、亞馬遜、微軟、Meta 紛紛自己做 AI 晶片


AI 晶片硬體架構雲端運算

這幾年 AI 服務能跑起來,靠的幾乎都是輝達(NVIDIA)的 GPU。Google、亞馬遜、微軟、Meta 這些雲端大廠,每年都要買進大量 GPU 來訓練模型、提供 AI 服務。

問題是輝達 GPU 非常貴。**依賴輝達 GPU,讓各大廠的成本壓力越來越大,所以他們紛紛尋找解方。**最主要的做法,就是自己設計專門跑 AI 的晶片,先用在自家規模最大、最固定的服務上。

這篇文章用白話說明三件事:為什麼輝達 GPU 讓大廠壓力這麼大、自研晶片和 GPU 差在哪裡,以及各家大廠目前做到哪一步。

💡重點速覽
  • 成本壓力:輝達最近一季的毛利率是 75%,大廠花在 GPU 上的錢,有很大一部分變成輝達的利潤。
  • 解方:自己設計 AI 專用晶片(ASIC),只保留 AI 需要的功能,換取更低的成本與耗電。
  • 各家進度:Google 的 TPU 已經到第 7 代 Ironwood,亞馬遜有 Trainium3,微軟有 Maia 200,Meta 規劃推出四款 MTIA 晶片。
  • 趨勢:研調機構 DIGITIMES Research 預估,2027 年雲端業者自研晶片的出貨量,將首度超過 GPU。
  • 限制:輝達的 CUDA 軟體生態很難取代,自研晶片也只能在特定雲端上使用。

一、為什麼輝達 GPU 讓大廠壓力這麼大?

1. 價格裡有很高的利潤

根據輝達公布的 2027 會計年度第二季財報(截至 2026 年 7 月 26 日),該季營收 962 億美元,其中資料中心業務就占了 890 億美元,毛利率是 75%。

毛利率 75% 的意思是:輝達每賣出 100 美元的產品,扣掉製造成本後還有約 75 美元。對每年要買進大量 GPU 的雲端大廠來說,這筆錢非常可觀。

2. AI 從「訓練」走向「每天使用」

訓練一個模型,是一段時間內的大量運算;但模型訓練好以後,每天有大量使用者在用,這種「推論」運算是 24 小時不停的。

使用的人越多,需要的晶片就越多,成本也會跟著持續增加。當運算量大到這種程度,就算每次運算只省下一點點成本,累積起來也很可觀。這是大廠願意花好幾年自己開發晶片的主要原因。


二、GPU 和自研晶片(ASIC)差在哪?

可以用工具來比喻:

  • GPU 像瑞士刀:原本是為了顯示畫面設計的,後來發現很適合 AI 運算。它什麼都能做,模型架構怎麼變都能跑,但也因此保留了很多 AI 用不到的功能。
  • ASIC 像專用工具:ASIC 的全名是「特殊應用積體電路」,是為特定用途量身打造的晶片。AI 用的 ASIC 只保留 AI 需要的運算功能,所以在固定的工作上可以更省電、更便宜。
輝達 GPU 雲端業者自研 ASIC
用途 通用,各種 AI 模型與運算都能跑 針對自家的 AI 工作量設計
軟體支援 CUDA 生態完整,新模型幾乎都先支援 需要各家自己的軟體工具
彈性 模型架構改變時,更新軟體就能支援 架構大改時可能不適用
成本 價格高,含輝達的利潤 自己設計,省下中間的利潤
能不能買 任何公司都能買或租 通常只能在該業者的雲端上使用,或只供內部使用

三、四家大廠的自研晶片

以下是各家目前公開的最新晶片,資料來自各公司官方說明與新聞報導:

公司 晶片 公開的重點 誰能用
Google TPU 第 7 代 Ironwood Google 自研 TPU 的最新世代 外部客戶可在 Google Cloud 租用
亞馬遜 AWS Trainium3 AWS 第一款 3 奈米 AI 晶片,FP8 運算效能是前一代的 2 倍,配備 144GB HBM3e 記憶體 外部客戶可在 AWS 租用,Anthropic 等公司是客戶
微軟 Maia 200 台積電 3 奈米製程,主打推論;微軟表示性價比比自家機房最新一代硬體高 30% 主要用於自家服務,例如 Microsoft 365 Copilot、Microsoft Foundry 上的 OpenAI 模型
Meta MTIA 300/400/450/500 與博通合作開發、台積電生產,規劃約每半年推出一款;MTIA 300 已用在推薦系統 只供 Meta 內部使用

從表格可以看出兩種不同的策略:

  • Google 和亞馬遜:除了自己用,也把晶片租給外部客戶,和輝達 GPU 直接競爭。
  • 微軟和 Meta:主要用來降低自家服務的成本,例如 Copilot、Facebook 和 Instagram 的推薦系統。
ℹ️怎麼看這些數字

上表的效能數字都是各家公司自己公布的,比較基準也由各家決定,不能直接互相比較。


四、2027 年,自研晶片的出貨量可能超過 GPU

研調機構 DIGITIMES Research 9 月發布的報告預估,2027 年全球高階雲端 AI 加速器的出貨量將達到約 2,595 萬顆,其中:

類別 2027 年預估出貨量 年增率
雲端業者自研 ASIC 約 1,526 萬顆 +110.9%
GPU 約 1,069 萬顆 —
合計 約 2,595 萬顆 +64.5%

這將是自研晶片的出貨量首度超過 GPU。

不過要注意,這裡比的是晶片顆數,不是運算能力,也不是營收。單顆輝達旗艦 GPU 的效能和售價都很高。根據媒體轉述這份報告的內容,輝達 2027 年仍會是出貨量最大的單一廠商,只是市占率會下降。


五、自研晶片的限制

自研晶片雖然越來越多,但短期內不會取代輝達,主要有三個原因:

1. CUDA 很難取代

輝達從 2006 年推出 CUDA 以來,累積了大量的開發者、函式庫與工具。新的 AI 模型和論文實作,幾乎都是先在輝達 GPU 上開發和測試。要把程式搬到其他晶片上,通常需要額外的調整與測試工作。

2. 只能在特定雲端使用

輝達 GPU 在各家雲端都買得到、租得到,換雲端很容易。但 TPU 只在 Google Cloud 上有,Trainium 只在 AWS 上有,選了就比較難換。

3. 開發時間長,有押錯寶的風險

一款晶片從設計到量產上線需要很長的時間。如果這段期間 AI 模型的架構有重大改變,針對舊架構最佳化的晶片可能就沒那麼適合了。相較之下,GPU 比較通用,比較能適應這種變化。


六、這對一般人有什麼影響?

你是 影響
一般 AI 服務使用者 幾乎感覺不到差別。不過大廠的成本降低後,AI 服務有機會變得更便宜,或提供更多免費額度
AI 應用開發者 雲端上的運算選擇變多了。使用 PyTorch、JAX 等主流框架,未來比較容易在不同晶片之間切換
想買顯示卡的玩家 沒有直接關係,這些都是資料中心用的晶片

七、總結

輝達 GPU 很強,但也很貴。AI 服務的使用量越大,各大雲端業者付給輝達的成本就越高,所以 Google、亞馬遜、微軟、Meta 都選擇自己做晶片,把規模最大、最固定的工作交給自研晶片處理。

接下來比較可能的發展是「兩者並存」:需要彈性、要跑最新模型的工作繼續用輝達 GPU,規模大且固定的推論工作則逐漸交給各家的自研晶片。


參考來源

本文整理自上列公開資料,資料蒐集與整理過程使用 AI 工具輔助。如有錯誤歡迎指正。