【觀點】全球GPU短缺供不應求,為何還能誕生「閒置算力」新商機?關鍵在有效分配
【觀點】全球GPU短缺供不應求,為何還能誕生「閒置算力」新商機?關鍵在有效分配

經過五十年,矽谷熱門話題終於從大數據、APP、SaaS,回歸到當初矽谷崛起的緣由:晶片,只是這次的主角從 CPU 變成 GPU。

從 OpenAI 這樣的 AI 新創,到微軟、Google 和亞馬遜這三大公有雲,以及雲端服務新挑戰者 CoreWeave 和 Lambda,再到 Meta、Tesla 等有 AI 需求的科技大廠,都在想辦法搶下更多GPU算力。

GPU 不只能拿來訓練AI模型,更成為一種官方認證的「新資產」。在 2023 年,雲端服務新創 CoreWeave 以 Nvidia 熱門晶片 H100 GPU 當作抵押品,成功獲得高達 23 億美元的債務融資。這也造就在 GPU 市場絕對領先的 Nvidia,市值在過去一年成長超過兩倍,躍升為僅次於微軟和 Meta 的全美第三大企業。

然而,GPU 供不應求,已經成為當下 AI 發展最大的瓶頸。例如 2023 年底,OpenAI 就曾因 GPU 算力不足,而不得不暫停新用戶註冊數週。我也聽到身邊的創業者分享,現在若想透過公有雲服務取得 GPU 算力,至少需等一到兩季。也難怪,儘管有微軟的算力支援,最近仍傳出 OpenAI 執行長 Sam Altman 為了打造自己的AI晶片工廠,正在募集約 7 兆美元資金。

Open AI的CEO Sam Altman|圖片來源:Vox.png
Open AI的CEO Sam Altman
圖/ Vox

巨頭爭奪當前,AI新創也難搶好晶片

GPU 短缺不只掀起科技巨頭們的「軍備戰」,也墊高 AI 新創的創業門檻。首先是,AI算力目前的分配極度不平均,根據估計,Nvidia 最新款 GPU 僅有不到 6% 是流向新創,讓新創取得 AI 算力變得更困難。再加上,AI 創業者如今在開發產品、找到用戶以前,得先募到數億美元的資金,想辦法取得用於開發和優化 AI 模型的算力,最後才能開始開發應用服務,跟以往開發 SaaS 或 APP 的創業邏輯完全不同。

然而,這波 AI 算力短缺的現象,短時間內可能還很難消退,甚至還會再加劇。原因是,我們正在從通用運算(general-purpose computing)轉到專用運算(niche computing)。簡單來說,就是未來晶片將變得更多元,因應其搭載的裝置和應用類型而有不同的設計。例如,AI 生成影片跟生成文字所需要的算力就不同;我們也看到Google推出專為類神經網路設計的 TPU(Tensor Processing Unit)晶片,以及 AI 新創 Groq 推出專為大型語言模型設計的 LPU(Language Processing Unit)晶片。

當晶片用途變得更細分,我們很難再像過去一樣,僅靠少數雲端大廠提供如此多樣化的晶片算力。當算力變得更分散,「找算力」這件事將變得更挑戰。

有效「分配」閒置算力,成為新機會點

在這趨勢下,受惠的除了 Nvidia、台積電等晶片商,我認為,另一個機會點在於 改善「分配」——誰能將既有閒置算力以更有效率的方式重新分配,誰就能吃下商機。 很難想像在 GPU 如此短缺的現在,還會有閒置的 GPU 算力吧?不過數據指出,近年美國資料中心的使用率僅有12-18%,顯示資料中心的資源分配仍有許多優化空間。

心元投資的雲端 GPU 運算新創 Inference.ai 就是妥善掌握「分配」商機的例子。其主打「GPU版的 Airbnb」,將各地資料中心閒置的 GPU,媒合給有 AI 算力需求,但不想自行搭建 GPU 伺服器的企業。他們也開發出「ChatGPU」,這款聊天機器人會針對客戶的開發需求,推薦適合的晶片款式和數量。在過去,採購 AI 算力就像是在盲開「黑盒子」,很難估計要達到特定精準度的 AI 模型,需要多少算力、花多久時間,而 Inference.ai 因事前對不同 AI 模型做了許多測試,因此能對標出用戶需要多少算力、找到哪裡有這項閒置算力,並提供用戶該算力。

就如文章開頭提到的,GPU 供不應求在許多人眼中是發展瓶頸,不過看在優秀創業者眼裡卻成為擁有巨大機會的創業點子。相信只要保有這樣的心態,一定能幫助我們在新時代開啟、市場面臨洗牌和重組時,找到最能發揮自己優勢的位置!

責任編輯:蘇柔瑋

往下滑看下一篇文章
突破摩爾定律極限!台灣奈微光用矽光子技術打造「會聞的晶片」,開創感測新藍海
突破摩爾定律極限!台灣奈微光用矽光子技術打造「會聞的晶片」,開創感測新藍海

在後摩爾定律時代,台灣奈微光不僅是開發出一款新晶片,更在於證明了創新不必只沿著摩爾定律持續追求製程極限,採取橫向發展同樣能找到市場著力點,台灣奈微光正運用 CMOS(Complementary Metal-Oxide-Semiconductor)製程,打造出全球少見、能「嗅聞」世界的感測平台,這場從臺大實驗室技術啟程的冒險,正讓臺灣半導體產業看見另一條通往未來的道路。

跨足大健康與車用,奈微光用矽光子打造感測新藍圖

台灣奈微光所研發的矽光子感測晶片樣品,針對多波段應用所設計的多樣化解決方案。
台灣奈微光所研發的矽光子感測晶片樣品,針對多波段應用所設計的多樣化解決方案。
圖/ 數位時代

正當全球半導體產業競相投入奈米級製程競賽,追求更小、更快的晶片時,台灣奈微光卻選擇了一條截然不同的道路。「我們的核心技術就在於光子 IC 設計。」台灣奈微光董事邱俊榮說明,他們所做的是「光的晶片」,與傳統專注於電子電路的 IC 完全不同。

長久以來,市場上若要製造中長波紅外光的光源,普遍會採用化合物半導體。然而,化合物半導體不僅成本高、良率較低,且在光譜調控上存在不少挑戰,台灣奈微光則突破性地利用 CMOS製程,直接從矽基底打造出中長波紅外光光源,顛覆了以往的作法。

邱俊榮強調,這都要歸功於臺灣半導體 CMOS 製程的高度成熟與優異良率,讓台灣奈微光能在成本上取得絕對競爭力,打破中長波紅外光技術高昂的門檻。「我們是透過 CMOS的半導體製程設備,把晶片延伸到矽光子光源與矽光子感測器。」他指出,「這就是台灣奈微光最核心的差異化。」台灣奈微光的矽光子技術,也催生出最具顛覆性的應用──微量氣體的連續偵測。傳統上,偵測微量氣體多依賴大型設備,或是藉由薄膜與電化學感測器,體積龐大、造價不菲,且難以持續監測,必須等待薄膜變化才能得到數據,台灣奈微光則運用中長波紅外光,透過氣體吸收特定波長時產生的能量變化,實現即時且連續的濃度偵測。

在應用面,台灣奈微光鎖定「大健康」與「汽車」兩大領域:希望未來能將這項技術導入智慧衣等穿戴裝置,持續監控呼吸與體內氣體變化,也可應用於電動車市場,偵測鋰電池異常釋放的氣體,為車輛安全嚴格把關。

挑戰摩爾定律侷限橫向創新,打開感測市場新局

台灣奈微光持續以矽光子技術挑戰摩爾定律的侷限,開創感測市場新局,展現臺灣半導體橫向創新的實力與決心。
台灣奈微光持續以矽光子技術挑戰摩爾定律的侷限,開創感測市場新局,展現臺灣半導體橫向創新的實力與決心。
圖/ 數位時代

這項突破性的感測能力,也展現出台灣奈微光對半導體產業發展脈絡的深刻洞察,傳統的半導體產業長期依循摩爾定律,追求單位面積內電晶體數量的極大化,也就是線寬持續縮小、功能不斷堆疊,屬於典型的「縱深式」發展,然而,隨著製程推進至1奈米世代,單台曝光機設備高達4億美元,資本支出急遽膨脹,物理極限與成本效益成為產業面臨的重大挑戰。

台灣奈微光選擇另闢蹊徑,他們將半導體製程的應用「橫向」擴展。邱俊榮指出,即便在傳統 IC 領域中,微米級製程線寬早已鮮少被提及,但在感測器等應用領域依然蘊藏廣大潛力,台灣奈微光正是運用這些「尚未被徹底開發」的微米級製程,結合自家的矽光子技術,開發出光源與感測器晶片,創造全新的應用價值,這意味著,臺灣半導體產業不只在奈米級製程領域具備領先地位,還能進一步將既有資產延伸至更多元的應用場景,而不必一味追逐最先進的製程節點。

「我們不是照著摩爾定律的方向往下挖掘,而是打開另一種可能,只要做一些物理上的調整,就能產生中長波的光源,還能偵測中長波紅外光,甚至在同一顆晶片上就可同時偵測到紫外光。」邱俊榮強調,這正是對半導體生命週期的延伸。他也提到,台灣奈微光的目標並非爭奪市場,而是藉由技術替換,協助既有產品升級、實現價值加值(value-add)。

不過,若要讓這項劃時代的光感測技術真正落地並普及至廣大市場,仍需面對商業化與規模量產的多重挑戰。為了推動晶片功能從單一走向多元,並提升其多波段的精確調控能力,台灣奈微光申請了經濟部產業發展署所推動的「驅動國內 IC 設計業者先進發展補助計畫」(簡稱晶創IC補助計畫),期望加速技術成熟與市場部署。

AI時代新戰局,台灣奈微光技術應用的無限可能

此計畫的核心目標,是讓單一晶片實現「多波段(multi-band)有效控制的微分辨識」。過去,台灣奈微光所開發的晶片多以單一功能為主,而透過晶創 IC 補助計畫的資源,將協助他們推進晶片功能的多元化。

這項技術的挑戰,在於如何精準控制多個光譜的發射。邱俊榮形容,以前的設計就像一次將所有光譜全部釋放,現在則能做到「要A動、BC不動」或「C動、AB不動」等更細膩的調控,要達成這種「誰要動、誰不動」的精準控制,必須增添新的光罩設計與更複雜的驅動機制,雖然這意味著更高的開發成本,但能顯著簡化後端機構,加速產品量產與推向市場的進程。

台灣奈微光預計在2026年6月前完成這項技術開發進入投片階段。儘管從投片到實際市場落地仍需時間,但他們已開始與紡織、電動車鋰電池、半導體廠房氣體偵測等產業客戶溝通布局,力求縮短市場開發週期。同時,在迎接AI的時代,數據品質與廣度更是關鍵。邱俊榮認為,台灣奈微光的矽光子感測技術,能為AI提供更精確、即時與連續的數據。透過晶片同時測量多種身體參數並實現每秒連續偵測,將提供豐富且精準的「身體密碼」數據,不僅能協助AI進行更深入的演算找出過去未能捕捉的變化規律,更將賦能AI在大健康等領域做出巨大貢獻。

目前,台灣奈微光正積極與半導體廠房氣體偵測廠商、大健康品牌客戶及跨產業夥伴合作。展望未來,台灣奈微光不僅要透過晶創IC補助計畫將晶片功能多元化,更將持續深化技術,證明台灣半導體產業不只在極限製程上領先,更能橫向開拓無限的市場潛力,為全球帶來前所未有的感測應用突破。

|企業小檔案|
● 企業名稱:台灣奈微光
● 董事長:張坤昱
● 核心技術:CMOS製程的先進矽光子光源晶片模組與感測晶片模組
● 資本額:新臺幣4.5億元

|驅動國內IC設計業者先進發展補助計畫簡介|
在行政院「晶片驅動臺灣產業創新方案」政策架構下,經濟部產業發展署透過推動「驅動國內IC設計業者先進發展補助計畫」,以實質政策補助,引導業者往AI、高效能運算、車用或新興應用等高值化領域之「16奈米以下先進製程」或「具國際高度信任之優勢、特殊領域」布局,以避開中國大陸在成熟製程之低價競爭,並提升我國IC設計產業價值與國際競爭力。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
蘋果能再次偉大?
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓