🚀 圭話行銷 ATMarketingAI 行銷實戰專家

【商業案例】Groq 8 年 估值 68 億 LPU 挑戰 Nvidia 的 3 大訊號

商業案例·AI 應用 #AI SaaS#Groq#LPU#AI 硬體#Nvidia
Groq LPU 8 年 68 億 挑戰 Nvidia 3 訊號資訊圖

Nvidia 不再壟斷 AI 硬體

2016 年 Groq 在美國 Mountain View 成立由前 Google TPU 首席工程師 Jonathan Ross 創立。8 年後業界估算估值 USD 68 億LPU(Language Processing Unit)挑戰 Nvidia H100。

Groq 8 年觀察數據

  • 成立:2016 年、Mountain View
  • 估值業界估算:USD 68 億
  • 創辦人:Jonathan Ross(前 Google TPU 首席)
  • LPU 速度:業界估算比 Nvidia H100 快 10 倍(Inference)
  • 企業客戶:MetaCiscoElphinstone
  • Groq Cloud API :Free tier + 按用量

3 大結構性訊號

訊號 1:AI 硬體 Nvidia 不再壟斷

過去 3 年Nvidia 幾乎壟斷 AI 硬體、但GroqCerebrasSambaNova 開創AI 專用硬體讓 Nvidia 不再無敵。

訊號 2:Inference 速度是新戰場

過去 AI 硬體主要拼訓練速度、但2026 年Inference 速度變關鍵即時對話需要超快 Inference。

訊號 3:AI 硬體新創開始崛起

GroqCerebrasSambaNovaEtched 都是估值USD 10 至 100 億的 AI 硬體新創加起來超過USD 500 億。這是 AI 硬體業革命的訊號。

對台灣半導體的 4 步應對策略

第 1 步:投入 AI 硬體

  • 台積電生產新晶片
  • 掌握先進製程

第 2 步:掌握 Foundry

  • 台積電是關鍵
  • 2nm3nm 節點

第 3 步:EDA 布局

  • 台達電華邦電源
  • 整合 AI 系統

第 4 步:晶片設計新創

  • 台灣 IC 設計業
  • 做 AI 專用晶片

結論:AI 硬體是台積電之後的新機會

Groq 8 年 USD 68 億估值是 AI 硬體崛起的訊號。對台灣半導體:(1)台積電最大受益;(2)IC 設計新機會;(3)電源記憶體全生態受益。

常見問題

Groq LPU 跟 Nvidia GPU 有什麼不同?
3 大差別。(1)Groq LPU:為 Inference 設計速度快 10 倍但只能推理;(2)Nvidia GPU:通用型訓練 + 推理都能全球第 1;(3)Google TPU:Google 內部用深度學習優化。Groq 走專用硬體路線吃到大量 Inference 場景。
Inference 速度為什麼是新戰場?
3 個原因。(1)用戶體驗:Inference 慢用戶感受差;(2)成本效益:快 10 倍省 GPU 使用時間;(3)新應用:即時對話需要超快 Inference。Groq 為這些場景開創新市場。
台灣半導體能怎麼受益?
3 個機會。(1)Foundry:台積電 生產 Groq LPU 等新晶片;(2)EDA:台達電華邦EDA 服務提供支援;(3)晶片設計:台灣 IC 設計可以做 AI 專用晶片。台灣半導體有完整生態是最大受益者。