半買半整合!輝達砸200億美元吃下新創Groq核心資產:招牌LPU晶片是什麼?黃仁勳為何看上它?
半買半整合!輝達砸200億美元吃下新創Groq核心資產:招牌LPU晶片是什麼?黃仁勳為何看上它?

根據《CNBC》報導,輝達以200億美元(約為新台幣6,289億元)與AI晶片新創Groq達成「非獨家技術授權」,成為輝達有史以來規模最大的交易案。不過,與傳統併購不同,輝達並未真正買下Groq,而是將Groq的關鍵技術納入自家體系,同時延攬Groq創辦人羅斯(Jonathan Ross)與多名高層主管加入。

Groq是一間專注於「AI推理」領域的新創公司,主打商品是專為推論設計的「語言處理單元」(LPU)晶片。黃仁勳對內部員工表示,輝達將會把Groq的LPU,整合進輝達的AI工廠(AI Factory)架構,以支援更廣泛的AI即時推理。這樁合作主要展現了輝達搶攻AI推論市場的佈局。

LPU晶片是什麼?
Groq 的 LPU(Language Processing Unit,語言處理單元) 是一種專為人工智慧(AI)推論(Inference) 任務設計的特殊應用集成電路(ASIC)。

其核心目標在於解決大型語言模型(LLM)在生成文字時的延遲(Latency)與吞吐量瓶頸,標榜能比傳統 GPU 提供更快的反應速度與更高的效能。

值得注意的是,Groq 的創辦人兼執行長 Jonathan Ross 同時也是 Google TPU 的核心開發者。他在 Google 期間發起了 TPU 專案,並設計了第一代 TPU 晶片的核心架構。

Groq是誰?為什麼輝達要收購?

Groq成立於2016年,由多名前Google工程師創辦,其中創辦人兼執行長羅斯(Jonathan Ross)為Google TPU的早期開發成員之一。過去,Groq曾被《CNBC》形容為「輝達挑戰者」。

輝達的GPU幾乎壟斷大型語言模型的訓練市場,但隨著模型逐漸成熟,企業與消費端的需求,正快速從訓練轉向推論。相比一次性的模型訓練,推論所需的是長時間、即時、低延遲的運算需求,對晶片架構的要求截然不同,因此仍有多家新創嘗試以不同架構切入市場,Groq正是其中之一。

根據Groq官方資料指出,其主力商品LPU是從一開始就為AI推理打造的專用晶片,主打低延遲與即時反應能力。透過單核心架構與專用編譯器,事先排定運算流程,使推理效能更加穩定;同時將模型權重直接放在晶片上的記憶體中,減少資料搬移時間,特別適合即時、低延遲的AI推理應用。在推論階段,可較傳統GPU更快部署、能耗更低。

至於輝達未來可能如何運用Groq的技術,可以從輝達執行長黃仁勳在員工內部信的說明看見方向:「我們計畫將Groq的低延遲處理器整合進輝達的AI工廠(AI Factory)架構,進一步延伸平台能力,以支援更廣泛的AI推理與即時工作負載。」

《路透社》也在報導中指出,輝達雖然在AI模型訓練市場占據主導地位,但在推理領域面臨來自AMD以及多家新創公司的競爭。輝達應會將Groq作為其擴展推理與即時運算能力的補充。

什麼是非獨家推論技術授權協議?

黃仁勳指出:「我們雖然將納入Groq的優秀人才並授權使用其智慧財產,但並未收購Groq這家公司。」根據《CNBC》引述Groq最大投資人、Disruptive資本執行長戴維斯(Alex Davis)的說法,輝達將取得Groq幾乎所有核心資產,但不包含其雲端服務GroqCloud,而Groq法人也仍會以獨立公司形式存在,由原財務長愛德華(Simon Edwards)接任執行長。

根據《路透社》報導,分析師拉斯根(Stacy Rasgon)指出,反壟斷風險可能是此類交易的主要考量之一。透過「非獨家授權」的交易結構,即使Groq的經營團隊與關鍵技術人才實際上將併入輝達體系,仍可在名義上保留市場競爭的空間。

近年來,大型科技公司以「授權或合作」名義,實際延攬新創核心團隊的案例明顯增加,成為科技巨頭取得AI技術與人才的重要手段之一。例如,微軟曾以約6.5億美元與新創公司達成一項被對外稱為授權費用的交易,藉此延攬該公司頂尖AI高層加入;Meta也曾投入約150億美元,聘請Scale AI的執行長加入公司,但並未收購整間企業。

亞馬遜曾延攬Adept AI的創辦團隊,而輝達今年稍早亦曾以類似方式,支付逾9億美元,聘請AI硬體新創Enfabrica的執行長與多名員工,同時取得其技術授權。這類交易既能讓大型科技公司取得關鍵人才與技術,也在結構上避免直接收購所可能引發的反壟斷審查風險。

參考來源:CNBC、路透社、Groq

延伸閱讀:輝達推出開源AI模型 Nemotron 3:它不必最聰明,卻是多模型系統的「最佳綠葉」?

往下滑看下一篇文章
AI讓軟體開發更快,誰來接住「上線之後」?諾德資訊以Production as a Service補上最後一哩
AI讓軟體開發更快,誰來接住「上線之後」?諾德資訊以Production as a Service補上最後一哩

2026台灣設計展於9月24日至10月11日在桃園登場,以「桃園流」為主題,結合千塘之鄉的水文地景、國門之都的航空與物流優勢、多元族群文化匯流,以及 AI 科技應用,展現城市運轉的動態美學。

其中,為提供民眾不同於以往的互動體驗,AIoT 智慧感知大數據平台服務商棋苓(Chylyng)推出全展區 AI 穿戴互動體驗「FLOW CHECK」。參觀者配戴主辦單位提供的智慧手環後,可沿著展場動線於不同站點進行互動。即使多人同時參與,每位參觀者仍可依照不同的路徑、選擇與互動節奏完成體驗;系統並依據互動過程與結果,即時生成專屬的 Flowmomo 數位卡牌,讓參觀者儲存並帶走屬於自己的展覽體驗紀錄。

看似簡單的手環互動,背後其實是一套整合穿戴裝置、即時感測、場域互動、資料處理與雲端服務的完整系統。尤其在大型公開展覽環境中,不僅必須因應大量參觀者於短時間內同時使用,也必須確保從手環感測、站點互動、資料傳輸到最終結果產出的每一個環節,都能維持即時且穩定的服務品質。

棋苓以自主開發的 Eleplo AIoT Platform 為技術核心,整合穿戴裝置、感測設備、人員與資產定位,以及即時事件與資料管理,並負責建構 FLOW CHECK 的手環互動邏輯、站點應用、卡牌生成及參觀者操作介面。

專業分工合作:諾德資訊坐鎮後端,撐住大型公開展覽的服務韌性

為了讓系統從開發與測試環境順利進入大型公開場域,並進一步提升正式服務的可用性、資安與系統韌性,諾德資訊與棋苓採取專業分工合作。棋苓聚焦於 AIoT 平台、穿戴應用及使用者體驗;諾德資訊則負責後端基礎架構、正式環境部署、壓力測試、高可用性驗證,以及服務上線後的系統與流量監控。

由於展場現地部署時間僅有兩天,雙方將大量驗證工作提前至開展前完成。諾德資訊於正式開展前約一個月即建置專用測試環境,讓棋苓的應用服務提早與正式營運架構整合,並進行壓力測試、高可用性驗證及異常情境測試,使原本必須於現場進行的系統驗證工作大幅提前完成。

諾德資訊業務開發經理邱柏瑞表示:「FLOW CHECK 的挑戰在於大量參觀者可能集中於同一時段使用手環,因此除了確保服務穩定之外,也必須辨識進入系統的流量究竟來自真人使用者、合法自動化程式、AI Bot 或惡意攻擊,並透過即時監控及早發現異常。」為此,諾德資訊導入 IntelliFend Bot Management,協助辨識真人使用者、合法自動化及異常機器人流量,並於展覽公開服務期間透過遠端監控,持續掌握主機、資料庫、應用服務及外部流量狀態。

此外,為驗證系統在大型展覽情境下的承載能力,正式展出前,諾德資訊亦協助棋苓進行大規模壓力測試,模擬最高約 3 萬人同時使用的流量情境,提前觀察系統資源使用狀況、服務反應與可能的效能臨界點,並據此進行相關調校。

透過棋苓在 AIoT、智慧穿戴與互動應用上的技術能力,以及諾德資訊在正式營運環境、資安、壓力測試與維運監控上的經驗,雙方在展覽正式開放前,即完成從應用層到基礎架構的完整驗證,讓 FLOW CHECK 能夠在大型公開場域中穩定提供即時的 AI 穿戴互動體驗。

諾德資訊
諾德資訊業務開發經理邱柏瑞表示,FLOW CHECK展前模擬約3萬人同時在線情境,並即時辨識流量來自真人、Bot、AI或惡意攻擊,提前掌握系統臨界值。
圖/ 數位時代

AI加速開發腳步,但也增加「上線」考驗

從生成式AI到代理式AI,軟體開發速度快速提升,過去需要長時間才能完成的產品原型(Prototype)與概念性驗證(PoC)專案,現在可以很快完成驗證,讓軟體商有更多時間跟資源投入客戶需求、產品創意與使用體驗。

但是,從PoC走到Production,面對的是完全不同的考驗。
諾德資訊技術長張家榮解釋,進入正式環境(Production)後,軟體服務必須面對真實使用者的流量、不同客戶的IT環境、計算資源擴充、資料庫負載、網路連線、資安攻擊,以及服務異常時的切換與處理,就算在壓力測試時表現正常的系統,也可能在Production的時候出現問題。

更值得特別注意的是,AI不只讓開發者更快,也讓攻擊者發現漏洞的速度加快;過去,服務上線後還有時間慢慢觀察、修正,現在,服務一上線,可能很快就遭到掃描甚至攻擊。

也因如此,軟體商、系統整合商選擇基礎架構夥伴的條件開始改變,從過去關注功能與價格轉向:產品能不能順利上線?出了問題誰來處理?面對流量變化與資安風險,服務能不能持續運作?

張家榮表示:「諾德資訊可以提供從公有雲、私有雲、地端、邊緣運算、主機代管、網路,到維運與監控等服務,讓軟體夥伴可以將資源集中在應用與客戶需求,無須擔憂Production議題。」

諾德資訊
諾德資訊技術長張家榮指出,公司可提供從公有雲、私有雲、地端、邊緣運算、主機代管到維運監控的完整服務,讓軟體夥伴無須擔憂Production議題。
圖/ 數位時代

不僅提供資源,諾德資訊將Production變成一項服務

而這也是諾德資訊會提出「Production as a Service」的原因:不是在提供另一種雲端或主機服務,而是將軟體從開發走向正式營運所需的Production流程,轉化成可以被專業分工、驗證與持續維運的一項服務。

「Production as a Service不是單純把主機或雲端資源租給客戶,而是共同檢視這套軟體能不能順利上線與正常營運。」邱柏瑞表示。

實際做法包括,在上線前協助檢視架構,建立與正式環境相近的測試環境,確認系統正常狀態、最大承載量與資源需求,並驗證高可用性、資安、備援及服務切換機制;上線後則持續監看服務狀態、容量與流量,及早發現異常並處理。

諾德資訊之所以有這樣的服務能力,可以歸結為三點:

第一,長期累積的基礎架構與維運經驗,目前,諾德資訊同時服務的客戶數近30家,應用情境涵蓋IoT、購物平台、遊戲、音樂等不同類型的軟體服務。

第二,諾德資訊將每一個客戶遇到的問題與解決方案收攏至知識庫,讓團隊成員可以快速處理、借鏡,滿足客戶需求。

第三,依循ITIL的維運精神,並具備ISO 27001等資安相關認證,將服務流程、操作紀錄、備份、監控與異常處理等機制內化到服務之中。

這也是諾德資訊與單純提供雲端、IDC或主機代管服務的業者之間的最大差異:交付的不僅是基礎設施,而是讓服務持續運作的能力。面對客戶同時使用公有雲、私有雲、地端與邊緣運算環境,諾德資訊另以 MQloud 提供統一管理,把網路、防火牆、流量、監控與帳務收進同一套平台,降低跨環境營運的複雜度。

「軟體商負責開發,就像晶片設計公司;諾德資訊則負責協助完成測試、製程調整與正式生產,讓產品真正走向市場,希望成為『軟體界的台積電』。」張家榮如是說道。

展望未來,諾德資訊將持續深化 Production as a Service,成為軟體公司從上線到長期營運的夥伴。自構想階段起即與軟體商共同討論架構,於測試階段協助驗證,於準備上市時承接正式環境,上線後則持續守住流量、資安與服務韌性。軟體開發者與 SaaS 業者可將資源集中於產品與客戶,完整基礎架構與 24×7 維運則由諾德資訊端到端承接。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓