觀點|解讀「AI投資大時代」背後的隱憂:如果電力不再是算力天花板,接下來呢?
觀點|解讀「AI投資大時代」背後的隱憂:如果電力不再是算力天花板,接下來呢?

自從 OpenAI 於 2022 年底發表 ChatGPT 後,掀起「生成式 AI」的浪潮。儘管當時的產品仍有不少不足之處,生成式 AI 已陸續被大眾、企業與醫療機構採用。

AI 技術快速發展、功能日益增加,眾多開發 AI 技術的新創公司也紛紛加入市場。AI 市場欣欣向榮,使用者數量快速攀升。以 OpenAI 為例,其全球使用者數已達 8 億戶,市場規模極為龐大。

AI需要算力,算力需要GPU

AI 能夠持續發展運作,背後最重要的支撐是「算力」。

算力的基礎來自以 GPU、ASIC 等晶片構成的 AI 伺服器。OpenAI 開展其 AI 事業時,使用輝達(NVIDIA)的 GPU 訓練其「大語言模型」。

ChatGPT 爆紅後,市場積極採購以輝達 GPU 架構的 AI 伺服器。

不僅 AI 技術開發者需要以 AI 伺服器所構成的算力,微軟、亞馬遜、Alphabet、Meta 等雲端業者也需要龐大算力,才能服務其廣大客戶。

從輝達近年的營收來看,2022 年營業額為 269.7 億美元(與 2021 年的 269.1 億美元持平),2023 年激增至 609.2 億美元,2024 年再度跳升至 1,305 億美元。

由此可見,輝達深受 AI 時代來臨的惠益,營收從數百億美元跳升至千億美元級別。

輝達的 GPU 是構建 AI 資料中心的核心元件。從其營收可見,AI 基礎建設自 2023 年起如火如荼地興建,以迎接 AI 時代。

2024 年全球 AI 資料中心的投資規模約 570 億美元,預估到 2034 年,AI 相關基礎設施的總投入將超過 7 兆美元,呈現三級跳式的成長。

GPU需要電力,電力需要電廠

為了因應 AI 應用程式對算力的「渴求」,AI GPU 的效能快速提升,伴隨而來的是功耗亦大幅攀升。

傳統資料中心的伺服器每機架功率約 10–15 kW;AI 專用資料中心的伺服器每機架功率約 40–250 kW。加上機架密度大幅提高,冷卻系統升級成為必要,並從傳統的氣冷轉向液冷或浸沒式冷卻。

AI 資料中心對電力的需求極大,因此電力供給成為其「任督二脈」——沒有電力就沒有算力。此外,電力輸送網路也亟需更新升級,以應付龐大需求。

AI投資是千億等級大坑

AI 資料中心自 2025 年起,將呈現蛙跳式成長。

為了擴展並鞏固市場,輝達投資 OpenAI 1,000 億美元,建設 10 GW 資料中心;AMD 與 OpenAI 亦達成協議,以股權方式建設 6 GW 資料中心。

此外,黃仁勳奔走各國推廣「主權 AI」,促銷輝達 GPU,同步帶動 AI 資料中心的建設。

AI 資料中心的投資金額龐大,每 1 GW 的投資約 500 億美元。僅輝達投資 OpenAI 建設的 10 GW AI 資料中心,投資金額就高達 5,000 億美元。這樣的數字在幾年前幾乎難以想像,如今卻不再稀奇。

AI 時代對微軟、亞馬遜、Alphabet、Meta 四大雲端業者而言既是機遇也是挑戰。它們作為 AI 的「通路」,讓使用者能更便捷地存取 AI 資料。除提供雲端服務外,四大業者也積極開發 AI 應用程式,企圖成為 AI 服務的供應商。

四大雲端業者的資本支出,2021 年約 1,100 億美元,2022 年增至 1,400 億美元,2023 年約 1,300 億美元,2024 年激增至 2,000 億美元,今年預估將超過 3,000 億美元。

這四大雲端業者除了自建雲端算力,也租用其他提供 AI 資料中心的業者之算力。

算力過剩,是AI泡沫一大危機

在市場普遍樂觀、大舉興建 AI 基礎建設之際,輝達忙於 GPU 出貨,鴻海、廣達等 AI 伺服器組裝廠忙於生產,各地 AI 伺服器中心忙於土建與機房施工、裝設伺服器等。

通常一座 AI 資料中心的建設期約兩年;等到一切就緒,卻可能發現電力供應接不上,導致建設時程延誤。

全球各地(尤其美國)正積極投入 AI 基礎建設。二、三年後這些設施陸續上線時,是否會突然面臨算力過剩、供過於求的窘境?

延伸閱讀:91APP買下iCHEF,為什麼新創界歡天喜地?為何選不常見的「全現金交易」?4個關鍵提問解讀併購案

責任編輯:李先泰

往下滑看下一篇文章
化創業挑戰為成長動能,New Taipei Demo Day 成青年創業驗證產品與商模的關鍵舞台
化創業挑戰為成長動能,New Taipei Demo Day 成青年創業驗證產品與商模的關鍵舞台

創新創業能量不僅有益於經濟發展、提升就業機會,也能解決社會問題,為社會帶來廣泛的效益,而這也是新北市政府十分重視創新創業的原因,不僅早在2014年就由新北市經濟發展局成立全台第一個公部門加速器「新北創力坊」,有感於青年創新創業的重要性,新北市政府更於2022年成立青年局接手相關業務,協助新北年輕人更好的進行科技創新、社會企業、藝文設計等創新創業,每年直接挹注資源的新創團隊與新創企業超過100組,是新北青年創業的重要支持者。

從創投陪跑到鼓勵海外市場發展,新北青年局提供完整支援

今(2025)年,青年創業政策特別強調創投鏈結與國際化布局。因此,特於「New Taipei VentureStar 新北新創之星挑戰賽」新增創投陪跑機制,讓創投顧問不再只在決賽亮相,而是在整個輔導過程即提前介入,協助團隊調整商業模式、完善募資策略,並加速與市場端的媒合,讓創業者能更早與創投直接對話、貼近真實市場需求。

至於在引導新創走向國際市場方面,新北市青年局積極與全球創業組織建立合作,例如,在美國在台協會(AIT)的合作下,邀請美國投資人到新北分享海外市場與投資經驗;同時,跟西雅圖創投社群交流,以及舉辦「洛杉磯前進新北」媒合會,為新北青年新創打開接觸海外投資圈與市場的第一扇門。

「新北市希望青年創業者不只在地紮根,更能以國際視角思考市場擴張,把台灣的創新推向全球舞台。」新北市青年局長邱兆梅表示,青創基地會依新創在不同階段的需求提供相應支持:草創期著重法律、會計與商業登記等基礎輔導;而產品已成形的團隊,則能獲得 Demo Day、國內外展會攤位與補助、行銷曝光,以及商務媒合等資源,協助加速前進市場。

圖片 1.jpg
新北市青年局局長 邱兆梅(右) 與 新北創力坊營運夥伴/領濤新創營運長 張芷文Vivian(左)
圖/ 新北市政府青年局

📻 延伸收聽 📻
局長與Vivian在《創業新聲帶》Podcast 的專訪!分享更多關於New Taipei Demo Day 的亮點、青年創業資源的推進策略,以及如何協助新創團隊布局未來:
https://podcasts.apple.com/tw/podcast/%E5%89%B5%E6%A5%AD%E6%96%B0%E8%81%B2%E5%B8%B6/id1498785087?i=1000735317955

2025 New Taipei Demo Day圓滿結束,介觀生醫與摩絡人工智慧獲獎殊榮

在新創從 0 到 1 的旅程中,持續驗證產品與商業模式是否真正可行,是最關鍵的一件事情,這也是新北市政府青年局長期投入的核心方向。
邱兆梅指出,創業者必須不斷測試市場對其創新服務的興趣,並在過程中找到願意共同打磨產品的合作夥伴,或對解決方案有需求的潛在客戶進行概念驗證。「而New Taipei Demo Day正是最重要的驗證舞台之一,讓所有來自新北市各青創基地的科技新創能在這裡展現階段成果,並直接面對投資人、創投基金與產業合作夥伴。」

New Taipei Demo Day 自2024年開始擴大舉辦,不僅規模逐年成長,熱度也年年攀升,今(2025)年,青年局進一步擴大規模:上午以專題論壇開場,下午由新北創力坊、寶高數位基地及土城綠創基地的 12 組優秀新創團隊接力上台 Pitch,現場聚集超過百位創投、企業與產業專家,形成高度密集的創業交流場景。

歷經激烈pitch競賽,以及現場多位專業評審討論,最終頒發「評審獎」予介觀生醫、「潛力獎」給摩絡人工智慧,以肯定其在技術創新與商業前景上的表現,並鼓勵團隊加速向下一階段的市場驗證邁進。

介觀生醫以高階非線性光學虛擬切片技術,把術中病理判讀時間縮短到 5 分鐘

成立於 2022 年的介觀生醫正嘗試用一道光翻轉臨床手術的關鍵流程。他們以「Rapid Fresh Pathology」技術,協助醫師在手術進行當下,迅速判斷腫瘤的良惡性與邊界位置,將過去動輒半小時甚至更久的術中病理檢測,縮短至10分鐘。
介觀生醫共同創辦人吳沛哲解釋,傳統術中病理檢測是以冷凍切片(Frozen Section)進行,但過程可能使組織結構變形、造成偽影產生,高度仰賴病理科醫生的專業經驗判斷。「我們推出的 PATHOscope 系統,結合核心技術與臨床驗證能力,希望協助醫師在關鍵時刻做出更精準的判斷。」

圖片 2.jpg
2025 New Taipei Demo Day 「評審獎」得主-介觀生醫共同創辦人 吳沛哲。
圖/ 新北市政府青年局

介觀生醫在真實臨床場域驗證產品可行性後,接下來的挑戰是,取得更多臨床合作機會與市場推廣資源。吳沛哲分享,進駐新北青創基地後,團隊除了獲得創投媒合與掌握募資簡報技巧等協助,也能更深入理解如輔大醫院等潛在醫療場域的需求,對產品調整與臨床拓展都相當有幫助。「這次能獲得『評審獎』殊榮,不只是對團隊的肯定,也對我們未來的臨床與商業推進帶來極大助益。」

摩絡人工智慧以專業產業知識與強大技術能量,助製造業落地AI Agent服務

摩絡人工智慧成立於2023年,僅用兩年的時間就快速端出產業成果:協助紡織業客戶建立 Textile GPT 方案,以及半導體業者打造地端 AI Agent 服務,以及推動超過十家企業的 AI 概念驗證(PoC)計畫。同時,透過 NVIDIA NeMo™ 平台加速資料整合與生成式 AI 模型微調,使團隊能在 1 至 3 個月內因應企業需求完成模型調校與導入,大幅放大企業客戶的 AI 投資效益。

「能在 New Taipei Demo Day 上分享理念、展示產品、並直接與創投與潛在客戶交流,對我們非常有幫助。」摩絡人工智慧共同創辦人暨執行長高聖翔面帶微笑地表示,新北青年局跟寶高數位基地在團隊成長過程中扮演重要角色,除了協助掌握政府有那些新創計畫與資金可申請,也積極媒合創投、企業客戶,並提供國際參展、行銷曝光與實務課程等資源,讓青年新創能彼此交流、探索跨域合作的可能。「像今年 Demo Day,我們就在現場接到至少十家 VC 與 CVC 的洽詢。這些交流與回饋,正是促使團隊加速迭代、持續壯大的關鍵動能。」

圖片 3.jpg
2025 New Taipei Demo Day 「潛力獎」得主-摩絡人工智慧共同創辦人暨執行長 高聖翔。
圖/ 新北市政府青年局

介觀生醫與摩絡人工智慧不是特殊個案,新北青年局將持續完善青年創新創業成長服務,陪伴更多新創從產品製造驗證、落地實證進展到國內外市場擴張,同時,深化與企業、創投及北部 43 所大專院校育成中心的合作,串連產官學資源,形塑一個可長期運作、跨域共創的創業生態系。

圖片 4.jpg
New Taipei Demo Day 現場也有許多團隊攤位,不僅展示技術,更能促進交流媒合與商機發掘。
圖/ 新北市政府青年局

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
進擊的機器人
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓