根據《CNBC》報導,輝達以200億美元(約為新台幣6,289億元)與AI晶片新創Groq達成「非獨家技術授權」,成為輝達有史以來規模最大的交易案。不過,與傳統併購不同,輝達並未真正買下Groq,而是將Groq的關鍵技術納入自家體系,同時延攬Groq創辦人羅斯(Jonathan Ross)與多名高層主管加入。
Groq是一間專注於「AI推理」領域的新創公司,主打商品是專為推論設計的「語言處理單元」(LPU)晶片。黃仁勳對內部員工表示,輝達將會把Groq的LPU,整合進輝達的AI工廠(AI Factory)架構,以支援更廣泛的AI即時推理。這樁合作主要展現了輝達搶攻AI推論市場的佈局。
LPU晶片是什麼?
Groq 的 LPU(Language Processing Unit,語言處理單元) 是一種專為人工智慧(AI)推論(Inference) 任務設計的特殊應用集成電路(ASIC)。其核心目標在於解決大型語言模型(LLM)在生成文字時的延遲(Latency)與吞吐量瓶頸,標榜能比傳統 GPU 提供更快的反應速度與更高的效能。
值得注意的是,Groq 的創辦人兼執行長 Jonathan Ross 同時也是 Google TPU 的核心開發者。他在 Google 期間發起了 TPU 專案,並設計了第一代 TPU 晶片的核心架構。
Groq是誰?為什麼輝達要收購?
Groq成立於2016年,由多名前Google工程師創辦,其中創辦人兼執行長羅斯(Jonathan Ross)為Google TPU的早期開發成員之一。過去,Groq曾被《CNBC》形容為「輝達挑戰者」。
輝達的GPU幾乎壟斷大型語言模型的訓練市場,但隨著模型逐漸成熟,企業與消費端的需求,正快速從訓練轉向推論。相比一次性的模型訓練,推論所需的是長時間、即時、低延遲的運算需求,對晶片架構的要求截然不同,因此仍有多家新創嘗試以不同架構切入市場,Groq正是其中之一。
根據Groq官方資料指出,其主力商品LPU是從一開始就為AI推理打造的專用晶片,主打低延遲與即時反應能力。透過單核心架構與專用編譯器,事先排定運算流程,使推理效能更加穩定;同時將模型權重直接放在晶片上的記憶體中,減少資料搬移時間,特別適合即時、低延遲的AI推理應用。在推論階段,可較傳統GPU更快部署、能耗更低。
至於輝達未來可能如何運用Groq的技術,可以從輝達執行長黃仁勳在員工內部信的說明看見方向:「我們計畫將Groq的低延遲處理器整合進輝達的AI工廠(AI Factory)架構,進一步延伸平台能力,以支援更廣泛的AI推理與即時工作負載。」
《路透社》也在報導中指出,輝達雖然在AI模型訓練市場占據主導地位,但在推理領域面臨來自AMD以及多家新創公司的競爭。輝達應會將Groq作為其擴展推理與即時運算能力的補充。
什麼是非獨家推論技術授權協議?
黃仁勳指出:「我們雖然將納入Groq的優秀人才並授權使用其智慧財產,但並未收購Groq這家公司。」根據《CNBC》引述Groq最大投資人、Disruptive資本執行長戴維斯(Alex Davis)的說法,輝達將取得Groq幾乎所有核心資產,但不包含其雲端服務GroqCloud,而Groq法人也仍會以獨立公司形式存在,由原財務長愛德華(Simon Edwards)接任執行長。
根據《路透社》報導,分析師拉斯根(Stacy Rasgon)指出,反壟斷風險可能是此類交易的主要考量之一。透過「非獨家授權」的交易結構,即使Groq的經營團隊與關鍵技術人才實際上將併入輝達體系,仍可在名義上保留市場競爭的空間。
近年來,大型科技公司以「授權或合作」名義,實際延攬新創核心團隊的案例明顯增加,成為科技巨頭取得AI技術與人才的重要手段之一。例如,微軟曾以約6.5億美元與新創公司達成一項被對外稱為授權費用的交易,藉此延攬該公司頂尖AI高層加入;Meta也曾投入約150億美元,聘請Scale AI的執行長加入公司,但並未收購整間企業。
亞馬遜曾延攬Adept AI的創辦團隊,而輝達今年稍早亦曾以類似方式,支付逾9億美元,聘請AI硬體新創Enfabrica的執行長與多名員工,同時取得其技術授權。這類交易既能讓大型科技公司取得關鍵人才與技術,也在結構上避免直接收購所可能引發的反壟斷審查風險。
