半買半整合!輝達砸200億美元吃下新創Groq核心資產:招牌LPU晶片是什麼?黃仁勳為何看上它?
半買半整合!輝達砸200億美元吃下新創Groq核心資產:招牌LPU晶片是什麼?黃仁勳為何看上它?

根據《CNBC》報導,輝達以200億美元(約為新台幣6,289億元)與AI晶片新創Groq達成「非獨家技術授權」,成為輝達有史以來規模最大的交易案。不過,與傳統併購不同,輝達並未真正買下Groq,而是將Groq的關鍵技術納入自家體系,同時延攬Groq創辦人羅斯(Jonathan Ross)與多名高層主管加入。

Groq是一間專注於「AI推理」領域的新創公司,主打商品是專為推論設計的「語言處理單元」(LPU)晶片。黃仁勳對內部員工表示,輝達將會把Groq的LPU,整合進輝達的AI工廠(AI Factory)架構,以支援更廣泛的AI即時推理。這樁合作主要展現了輝達搶攻AI推論市場的佈局。

LPU晶片是什麼?
Groq 的 LPU(Language Processing Unit,語言處理單元) 是一種專為人工智慧(AI)推論(Inference) 任務設計的特殊應用集成電路(ASIC)。

其核心目標在於解決大型語言模型(LLM)在生成文字時的延遲(Latency)與吞吐量瓶頸,標榜能比傳統 GPU 提供更快的反應速度與更高的效能。

值得注意的是,Groq 的創辦人兼執行長 Jonathan Ross 同時也是 Google TPU 的核心開發者。他在 Google 期間發起了 TPU 專案,並設計了第一代 TPU 晶片的核心架構。

Groq是誰?為什麼輝達要收購?

Groq成立於2016年,由多名前Google工程師創辦,其中創辦人兼執行長羅斯(Jonathan Ross)為Google TPU的早期開發成員之一。過去,Groq曾被《CNBC》形容為「輝達挑戰者」。

輝達的GPU幾乎壟斷大型語言模型的訓練市場,但隨著模型逐漸成熟,企業與消費端的需求,正快速從訓練轉向推論。相比一次性的模型訓練,推論所需的是長時間、即時、低延遲的運算需求,對晶片架構的要求截然不同,因此仍有多家新創嘗試以不同架構切入市場,Groq正是其中之一。

根據Groq官方資料指出,其主力商品LPU是從一開始就為AI推理打造的專用晶片,主打低延遲與即時反應能力。透過單核心架構與專用編譯器,事先排定運算流程,使推理效能更加穩定;同時將模型權重直接放在晶片上的記憶體中,減少資料搬移時間,特別適合即時、低延遲的AI推理應用。在推論階段,可較傳統GPU更快部署、能耗更低。

至於輝達未來可能如何運用Groq的技術,可以從輝達執行長黃仁勳在員工內部信的說明看見方向:「我們計畫將Groq的低延遲處理器整合進輝達的AI工廠(AI Factory)架構,進一步延伸平台能力,以支援更廣泛的AI推理與即時工作負載。」

《路透社》也在報導中指出,輝達雖然在AI模型訓練市場占據主導地位,但在推理領域面臨來自AMD以及多家新創公司的競爭。輝達應會將Groq作為其擴展推理與即時運算能力的補充。

什麼是非獨家推論技術授權協議?

黃仁勳指出:「我們雖然將納入Groq的優秀人才並授權使用其智慧財產,但並未收購Groq這家公司。」根據《CNBC》引述Groq最大投資人、Disruptive資本執行長戴維斯(Alex Davis)的說法,輝達將取得Groq幾乎所有核心資產,但不包含其雲端服務GroqCloud,而Groq法人也仍會以獨立公司形式存在,由原財務長愛德華(Simon Edwards)接任執行長。

根據《路透社》報導,分析師拉斯根(Stacy Rasgon)指出,反壟斷風險可能是此類交易的主要考量之一。透過「非獨家授權」的交易結構,即使Groq的經營團隊與關鍵技術人才實際上將併入輝達體系,仍可在名義上保留市場競爭的空間。

近年來,大型科技公司以「授權或合作」名義,實際延攬新創核心團隊的案例明顯增加,成為科技巨頭取得AI技術與人才的重要手段之一。例如,微軟曾以約6.5億美元與新創公司達成一項被對外稱為授權費用的交易,藉此延攬該公司頂尖AI高層加入;Meta也曾投入約150億美元,聘請Scale AI的執行長加入公司,但並未收購整間企業。

亞馬遜曾延攬Adept AI的創辦團隊,而輝達今年稍早亦曾以類似方式,支付逾9億美元,聘請AI硬體新創Enfabrica的執行長與多名員工,同時取得其技術授權。這類交易既能讓大型科技公司取得關鍵人才與技術,也在結構上避免直接收購所可能引發的反壟斷審查風險。

參考來源:CNBC路透社Groq

延伸閱讀:輝達推出開源AI模型 Nemotron 3:它不必最聰明,卻是多模型系統的「最佳綠葉」?

往下滑看下一篇文章
五十年零售老店的 AI 轉型:良興攜手 Data-DI,打造專屬 AI Agent 賦能組織升級與知識傳承
五十年零售老店的 AI 轉型:良興攜手 Data-DI,打造專屬 AI Agent 賦能組織升級與知識傳承

1973 年,良興從台北光華商場一間 50 坪的電子零件行起家,半個世紀後蛻變為年營收破十億、毛利率 18% 的全通路 3C 品牌。不過,伴隨規模擴張帶來的不只是成長,還有日益加劇的管理摩擦。門市遍布全台、品項高達近萬筆,加上跨部門協作頻繁,行政耗損與知識傳承的缺口,成為這家老字號邁向下一階段的隱形天花板。

良興總經理賴志達回顧,從電子零件跨入電商、從線下擴張到 OMO 全通路、再到會員深度經營,作為 3C 零售業者,良興每一波轉型都走在同業前面。「現在輪到 AI 了。如何做到人機協作、AI 賦能,就是良興第五波轉型的核心命題。」

AI 自動化,從行政細節釋放組織戰力

轉型需要夥伴,而賴志達評估合作夥伴的標準很明確:技術能力是基本,產業知識(Domain Know-how)的深度是關鍵,回饋速度更是最終決定因素。2025 年的未來商務展上,良興選擇攜手 Data-DI,看重的正是其「策略諮詢 + AI 產品 + 落地陪跑」三軌並行的實施能力。

很快的,良興與 Data-DI 合作的第一個專案,就落在最耗費人力、卻最常被忽視的環節:會議記錄。「會議如果沒有產值、沒有效果,對企業很傷!」賴志達說,他每天參加許多會議,但跨單位協作的會議記錄長期依賴人工聆聽與逐字整理,常出現人名誤植、決策遺漏、行動項目無人追蹤,讓會議效果大打折扣。

數智聚(良興)_1.JPG
良興總經理賴志達
圖/ 數位時代

為了解決會議記錄的痛點,Data-DI 業務副總包威棣指出,在導入工具以前,團隊須先釐清三件事:場景是否具備落地價值、哪些流程節點適合 AI 介入,以及以終為始地掌握客戶真正想要的輸出樣貌。這些看似基本的提問,都決定 AI 能否精準落地。

確認方向後,良興與 Data-DI 成功導入 AI 會議記錄自動化系統,透過模糊比對技術校正語音辨識誤差,並將生成的雙版本報告直接回存至既有資料庫,不僅將行政人員從重複性作業中釋放,也為後續的 AI 應用奠定扎實的系統整合基礎。

賴志達分享,現在他去外部開會也會用這個工具,運用 AI 把錄音轉文字、再整理成簡報,很快就能完成,更令外部夥伴驚艷。「我認為這是很成功的案子!也提醒想做 AI 的老闆們,與其急著搞大架構,不如先從小工具讓公司嘗試 AI,建立理解和認同。」

AI 把資深員工大腦轉化為資產

補完行政效率的缺口後,良興接著切入更深層的營運核心:知識傳承。過去,頂尖銷售經驗長期鎖在少數資深員工身上,新人培訓耗時三個月,員工離職即帶走知識資本。與此同時,網路資訊發達,消費者進店前早已掌握基本規格,3C 通路門市人員要如何發揮更多價值?「我要門市的人不是死背規格,而是面對客人時,能用客人能理解的方式對話。」賴志達說。

為此,Data-DI 協助良興建置 AI 門市教育訓練系統。系統透過六大自動化關卡,串接教材生成、審核上架、AI 銷售對練與成績回報,主管僅需在核心節點審核;員工透過手機語音對練,系統依口吻、專業度、回應力等維度自動評分。賴志達表示,目標是將新人培訓期縮短至一個月,讓數十年累積的銷售智慧轉化為可複製、可傳承的企業資產。

然而,要讓這套系統真正運作,得先解決兩個根本問題:資料從哪裡來?以及訓練如何更準確?

「以前大數據時代,講的是資料要大、全、細、實;現在 AI 要做到的是準(準確)、合(合乎場景)。」包威棣說。良興不同廠商提供的素材品質參差不齊,Data-DI 除了整合內部資料,也補充加入外部市場評測內容以填補空缺,再透過人員審核機制過濾雜訊,搭配 agent 架構的多層步驟與知識限定,確保系統能精準提煉對應品類的訓練素材。

數智聚(良興)_2.JPG
Data-DI 業務副總包威棣
圖/ 數位時代

賴志達則看得更遠:「這些教育訓練的內容,也將成為公司未來訓練機器人很好的原料。」

Data-DI 陪跑型顧問,帶領企業 AI 轉型

良興與 Data-DI 合作的兩個專案中,雙方共同克服了長提示詞邏輯混亂、AI 幻覺污染知識庫、逐字稿讀取逾時等技術難題。邁向下一步,賴志達表示,公司各部門很早就建置 Power BI 報表,但數據豐富不等於決策清晰。「數據是土壤,如果沒有梳理,就沒有用了。」因此,他的下一個目標是活化數據資本、推動行銷自動流,以精實的人力持續驅動成長。

數智聚(良興)_3.jpg
良興攜手 Data-DI 推動 AI 落地,以小步快跑模式為企業創造變革。
圖/ 數位時代

包威棣則從顧問視角歸納兩個觀察:AI 導入需要高層認同、由上而下推進,像賴志達這樣持續引領良興走在業界前端的決策者,就是不可或缺的推手;而單點工具的價值,終究要累積成組織體質的轉變才算真正落地。「就像會議記錄改變了會議當責的結構,人員訓練改變了知識傳承的方式。從點狀應用走向企業變革,這種決策思路才是 AI 真正深入落地產生價值的關鍵。」

最後,對於仍在觀望AI應用的企業,他則建議:「未來 AI 導致的落差只會愈來愈大,人會變成超級工作者,企業會變成超級企業。開始做就對了,先做一個三個月的小任務,降低落差、再急起追上。」從痛點切入、小步快跑,讓組織在實作中累積對 AI 的理解與信任,這正是 Data-DI 的陪跑哲學。

有關更多 Data-DI 相關資訊,請查詢網站:https://www.data-di.com/

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
代理式商務連動百兆商機
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓