商傳媒｜責任編輯／綜合外電報導商傳媒｜責任編輯／綜合外電報導
AI晶片新創 Groq 在經歷與輝達技術授權及人才轉移風波後，仍成功完成6.5億美元新一輪募資，顯示資本市場對AI推論基礎設施需求仍抱持高度期待。這筆資金將用於擴張Groq的全球AI推論雲平台、補強管理團隊，並支撐其從晶片公司轉向新型雲端基礎設施業者的關鍵轉型。
Groq近年受到關注，主因在於其專為AI推論打造的LPU架構。所謂AI推論，是指已訓練完成的模型在實際應用中回應使用者問題、生成文字、分析資料或執行任務的過程。相較於AI訓練需要龐大算力建立模型，推論則發生在每一次查詢、每一次客服對話、每一次企業AI應用運作時。當生成式AI從實驗室走向企業日常，推論需求正在快速放大。
這也是Groq轉型的關鍵背景。過去AI基礎設施市場主要圍繞訓練大型模型，輝達GPU因生態系完整、軟體堆疊成熟與供應鏈優勢，占據主導地位。但當AI進入大規模商用，企業更關心的是回應速度、單次使用成本、穩定性與能源效率。Groq押注的正是這個市場：不是與輝達正面爭奪所有訓練市場，而是在即時AI回應與大規模推論雲服務中尋找突破口。
不過，Groq的處境並不輕鬆。外媒報導指出，Groq去年底與輝達達成非獨家技術授權協議，並有多名核心高層與工程人才轉往輝達。這種被市場稱為「not-acqui-hire」的交易，既不是完整收購，也不是單純授權，而是讓大型企業取得關鍵技術與人才，同時讓原公司維持獨立營運。對Groq而言，這既帶來資金與技術擴散機會，也留下團隊重整與市場定位的壓力。
Groq此次募資由Disruptive與Infinitum領投，官方表示資金將加速擴張其AI推論雲。目前Groq已在北美、歐洲、中東與亞太營運13座資料中心，服務超過500萬名開發者及數千家AI原生企業，每週處理數兆個AI tokens。這些數字顯示，Groq已不只是晶片設計公司，而是試圖把晶片、資料中心、雲端API與企業推論服務包裝成完整基礎設施平台。
新管理團隊也反映其轉型方向。Groq宣布延攬具資料中心、企業軟體與平台營運背景的人才，包括曾任職xAI與Meta資料中心團隊的Alan Rice出任營運長，並加入具雲端與企業軟體經驗的新技術與產品高層。這代表Groq下一階段競爭，不只是晶片規格，而是能否像雲端公司一樣，穩定提供低延遲、低成本、可擴充的AI推論服務。
AI晶片市場的競爭正在從「誰能訓練最大模型」延伸到「誰能用最低成本服務最多請求」。Google有TPU，Amazon有Trainium與Inferentia，Microsoft、OpenAI與多家大型雲端平台也持續投入自研晶片。輝達則不只賣GPU，更建立完整的AI軟硬體平台。Groq若要突圍，必須證明其LPU架構在特定推論場景中具備速度、成本或能源效率優勢，而且能被企業開發者方便導入。
但市場成長不代表Groq一定勝出。AI基礎設施是資本密集產業，資料中心、電力、晶片供應、散熱、網路與客戶服務都需要龐大資金。推論市場雖大，但價格競爭也可能非常激烈。若模型供應商、雲端巨頭或大型企業選擇自建推論能力，Groq的雲端服務就必須在效能與價格上持續保持差異化，否則容易被更大平台壓縮利潤。
對台灣供應鏈而言，Groq的轉型值得關注。AI推論雲的擴張，不只需要晶片，也需要伺服器、電源、散熱、網通、資料中心機櫃與系統整合能力。台灣企業在AI伺服器與資料中心硬體供應鏈具有優勢，若未來推論型基礎設施成為新主戰場，相關零組件與系統廠將有機會從訓練型GPU伺服器，延伸到更分散、更即時的推論雲架構。
然而，投資人也應避免把單一募資案解讀成技術勝利。Groq真正的考驗，不是募到多少錢，而是在未來12到18個月內能否完成三件事：重建高階團隊、擴大推論雲客戶基礎、證明其成本與效能優勢能轉化為穩定營收。AI推論市場確實龐大，但最後勝出的未必是最會講故事的晶片公司，而是能穩定交付服務、控制成本並取得開發者信任的平台。
整體來看，Groq募資6.5億美元象徵AI基礎設施進入新階段。訓練模型曾是AI軍備競賽的主角，但當企業開始把AI用在客服、搜尋、程式開發、資料分析與自動化流程，推論成本將成為商業化成敗關鍵。Groq若能把專用晶片、全球資料中心與雲端服務整合成可規模化平台，仍有機會在輝達陰影下找到自己的戰場；若無法快速證明商業價值，這場背水一戰也可能成為AI晶片新創殘酷淘汰賽的縮影。
