AI如吃電巨獸!10年內全球資料中心用電將超越印度全國,AI巨頭們如何拆招?
AI如吃電巨獸!10年內全球資料中心用電將超越印度全國,AI巨頭們如何拆招?

向ChatGPT發送一個問題,它能整理出比Google搜尋更完整、懶人的答覆,AI帶給人們極為便利的服務,但背後的代價,卻是龐大的電力。

現在資料中心的用電問題,已經帶給愛爾蘭等國諸多地方困擾,外界更預測10年後全球資料中心的耗電將比肩印度。

換言之,AI堪稱「吃電怪獸」的問題,已經不能忽視。

AI耗電問題就在眼前

AI火熱的發展速度,使人工智慧顛覆生活的應用層出不窮,可能成為打點所有行程的助理、一鍵整理好數十萬字的資料與表格,甚至各種從無到有的影音創作都不在話下。然而,在實現多樣的想像之前,得先克服一大難題:電力消耗。

格拉斯哥大學電腦科學教授維姆.范德鮑韋德(Wim Vanderbauwhede)曾分析,用ChatGPT查詢一次的電力消耗,可能比Google搜尋多50到90倍的電力消耗。高效能的AI需要眾多資料中心高強度運轉為其提供支援。

近來科技巨頭發布的永續報告可見一斑,微軟5月發布的報告中,碳排放量自2020年以來增長了30%,原因就在於廣設資料中心。Google同樣在最新報告中,因擴大對資料中心的投入,碳排放較5年前增長48%。

資料中心成吃電怪獸,10年內用電比肩印度

龐大的資料中心正在造成負擔。高盛預估資料中心占美國電力消耗的比例,將從2022年的3%,到2030年成長至8%;國際能源署同樣預估,從2022年到2026年間,資料中心的用電量將成長一倍以上。

且根據《彭博社》報導,10年後──也就是2034年時,全球資料中心一年之內的用電量將達到1,580 TWh,相當於印度一整年的電力消耗。

即使是現在,全球資料中心超過350TWh的總用電量,已經比台灣2023年總用電量約270 Twh還要高,全球只有包括美國、中國在內的16個國家用電量超過資料中心的用電量總和。

輝達炙手可熱的H100晶片一枚功率就要700瓦,而微軟一個專門用於AI運算的資料中心就有上萬枚輝達晶片,並且還需要其他設備防止過熱,整體消耗的電力更為驚人。

圖一_NVIDIA H100 為每個資料中心提供突破性的效能、可擴展性與安全性。
資料中心積極使用輝達GPU投入AI運算,也使得電量消耗持續攀升。
圖/ NVIDIA

電力吃緊!各國開始限建資料中心

如今資料中心的負擔已讓許多地方感到吃不消。愛爾蘭由於稅率低、氣候適宜、連接大量海底電纜等優勢,長年受到科技巨頭偏愛,全國上下有著超過80座資料中心,也消耗著龐大電力。

國際能源署曾預估,2026年時愛爾蘭將有約3分之1電力用在營運資料中心上。愛爾蘭今年的平均零售電價比歐盟其他國家高出3分之1,外界就認為資料中心是造成現況的其中一個原因。

美國維吉尼亞州的勞登郡有著「資料中心巷」(data center alley)的稱呼,當地電力公司Dominion Energy供應著94間資料中心的電力需求,相當於數十萬個家庭的電力消耗。也因為電力負荷過高,該公司一直在申請擴建許可,聲稱在2022年春季就收到營運業者多達18次必須減輕電力負載的警告,可見電力需求已讓他們不堪承受。

事實上,《金融時報》在今年2月的報導中指出,包括愛爾蘭、勞登郡在內的多個地方,近年都開始限制新建資料中心。例如現在愛爾蘭對資料中心接入電網有了新的規定,並優先考慮能自行處理電力需求的資料中心,預計限制會持續到2028年。

另外,雖然資料中心的電力負荷讓部份地區苦不堪言,也有一些新興地方正在積極爭取資料中心進駐,東南亞就是一例。

新加坡政府今年5月底透露,希望將資料中心規模擴大30%,以成為地區甚至全球的數位重鎮。隔壁的馬來西亞情況也類似,其首府新山市被資料中心研調機構DC Byte評為東南亞資料中心市場成長最快的城市,總規模達到1.6千兆瓦,Google也於今年5月宣佈在馬來西亞投資20億美元建設資料中心。

電力消耗太驚人,AI巨頭怎因應?

巨量的電力消耗使得科技巨頭開始尋找緩解辦法,去年底就傳出微軟正在研究一項新的液冷技術,能夠透過特殊液體冷卻運轉中的AI晶片,降低資料中心的水電消耗。微軟也聲稱,他們希望透過增進資料中心的效率,來降低其消耗的能源。

而Google則運用自己擅長的軟體技術,開發出一套能轉移運算負載的系統。根據介紹,該系統能動態尋找可再生能源充足的資料中心所在地,將運算負荷轉移過去,又或者避開部份地區的尖峰用電時間,來降低對電網的負擔。

舉例來說,Google能透過這套系統,隨日照時間將運算負荷轉移到太陽能充足的地區,使得用電更靈活。

Sam Altman
OpenAI認為,核融合是AI龐大耗能終極解決方案,執行長奧特曼已投資核融合新創Helion 3.75億美元。

OpenAI則認為節流不如開源,先前曾傳出他們與核融合新創Helion Energy協商購買其電力──雖然核融合發電是尚未商業化的技術,OpenAI執行長山姆.奧特曼(Sam Altman)也投資該新創3.75億美元,相信核融合技術是滿足AI龐大能源需求的究極解方。

無論如何,在AI技術突飛猛進的發展下,電力需求攀升似乎已是避無可避的趨勢,加上許多國家力圖推出「主權AI」,希望以自身語言、訓練資料打造國家、民族本位的AI模型,資料中心的電力需求負荷可能這些國家都即將面對,屆時如何因應除了仰賴科技公司的解決方案外,或許也端看各國政府如何權衡,或者及早思索應對措施。

延伸閱讀:鴻海砸45億投資新總部!攻電動車、儲能、機器人產業,富士康為何重押河南鄭州?
Meta重磅釋出開源AI模型Llama 3.1!性能超越GPT-4o,為何要開源?祖克伯親訴3關鍵

資料來源:Bloomberg、Nikkei Asia、CNBC

責任編輯:李先泰

往下滑看下一篇文章
從台灣走進北美千家速食門市!Berry AI 如何攜手博弘雲端,讓 AI 規模化落地?
從台灣走進北美千家速食門市!Berry AI 如何攜手博弘雲端,讓 AI 規模化落地?

一家來自台灣的 AI 新創,如何讓美國上千家速食餐廳,都用它的 AI「看」得來速車道?

這家公司就是專注於 AI 影像辨識技術的 Berry AI (華捷智能),透過攝影機蒐集匿名數據並轉化為多項營運指標,協助速食品牌找出流程瓶頸、提升現場營運效率與整體顧客滿意度。以美國連鎖炸雞品牌 Zaxby’s 為例,在全面導入 Berry AI 解決方案後,服務速度提升 13%-20%,業績表現最好與最差的門市,每週營收差距從 2.4 萬美元縮小至約 9,000 美元。另一家連鎖速食品牌 Culver’s 在導入後,得來速車道的服務時間也立刻改善,進而提升整體吞吐量。

然而,支撐 Berry AI 解決方案的,不只有前端看得見的攝影機與影像辨識技術,還有後端穩定且具彈性的雲端平台。Berry AI 結合 Amazon Web Services (AWS) 全球雲端資源及博弘雲端顧問服務,打造兼顧即時性、穩定性與成本效益的雲地混合架構,成為推動 Berry AI 持續擴大北美市場版圖的重要關鍵。

從台灣 PoC 走向北美千店規模,Berry AI 面臨架構升級新挑戰

Berry AI 執行長林逸中表示,團隊成立初期投入近2年半的時間,探索最適合影像辨識技術的應用場景,最終將目光鎖定高度標準化的速食餐飲業(Quick Service Restaurant;QSR),推出得來速計時器、餐廳計數器等解決方案,運用 AI 影像分析技術,辨識顧客進入得來速車道或餐廳後的狀態,例如:排隊、點餐、候餐等。

同時,Berry AI 也進一步將現場蒐集到的數據轉化為可量化的營運指標,例如:不同門市、日期或時段的顧客等候時間,協助管理者從數據中找出流程瓶頸與可以優化的環節,進而提升服務效率及顧客滿意度。

在確立發展方向並於台灣完成 PoC (概念驗證)後,Berry AI 決定前進全球最大、也是 QSR 最核心的北美市場。然而,隨著合作客戶與部署門市持續增加,資料量快速攀升,加上服務範圍橫跨不同區域,既有以地端為主的架構開始面臨規模化挑戰。

林逸中補充指出,尤其 QSR 業者在選擇 AI 解決方案時,格外重視技術效能與穩定性,包括 AI 辨識精準度、能否因應突發狀況、系統能否穩定運作,以及網路發生問題時能否維持服務等。在這樣的要求下,若將所有運算與資料都留在地端,不僅難以因應日益增加的部署門市與資料量體,設備建置與維運成本也會隨之增加。

BerryAI 攜手博弘雲端 打造高可用性 AWS 雲地混合架構,突破北美規模化部署挑戰

如何確保系統的即時性、穩定性與成本效益,成為 Berry AI 進軍北美後必須解決的新課題。為此,Berry AI 選擇與博弘雲端合作,取得穩定且高可用的 AWS 運算與資料庫服務架構,將即時運算留在地端,同時在雲端環境整合資料庫處理大量資料與後續分析工作,形成兼顧地端即時運算與雲端彈性擴充的雲地混合架構。

Berry AI研發同仁汪楚剛說明,包括車輛偵測、追蹤與狀態辨識等需要即時反應的工作,會先在地端完成;再將辨識結果傳送至 AWS 雲端,計算各項營運指標,提供後續分析與決策使用。透過這套架構,Berry AI 至今已處理超過 2 億筆車輛狀態資料。

此外,AWS 也是 Berry AI 持續優化 AI 模型的重要基礎。Berry AI 將整套資料蒐集流程建構於 AWS 上,透過完整且多樣化的資料,持續訓練與優化模型,進一步提升地端影像辨識的準確度。

博弘雲端
Berry AI 鎖定高度標準化的速食餐飲業(Quick Service Restaurant;QSR),推出得來速計時器、餐廳計數器等解決方案,運用 AI 影像分析技術,辨識顧客進入得來速車道或餐廳後的狀態,例如:排隊、點餐、候餐等,協助管理者從數據中找出流程瓶頸與可以優化的環節,進而提升服務效率及顧客滿意度。
圖/ Berry AI網站圖

成為企業技術團隊的延伸,博弘雲端助 BerryAI 把 AWS 用得更好、更省

隨著北美業務持續成長,Berry AI 也迎來新的課題:如何把雲端資源用得更有效率、更省成本,這也成為 Berry AI 與博弘雲端合作的重要契機。

對此,可能有很多人好奇,像 Berry AI 這類技術能力成熟、具備自行建置架構能力的企業,為什麼還需要與博弘雲端合作?「關鍵在於,博弘雲端長期深耕 AWS,對相關服務與技術架構更加熟悉,可以成為企業內部技術團隊的延伸。」博弘雲端技術長宋青雲說。

當 Berry AI 遇到特定 AWS 服務或技術問題時,可以直接尋求博弘雲端協助;若需要進一步與 AWS 原廠確認,博弘雲端也能協助溝通與處理,減少 Berry AI 自行研究與排除問題所需投入的時間,讓內部研發團隊可以將更多心力和資源集中在核心產品開發。

更重要的是,博弘雲端不只提供技術支援,還能從 Berry AI 實際用量與成長需求出發,客製化設計最適合的節費方案,這對 Berry AI 降低營運成本有很大的幫助。宋青雲說明,博弘雲端根據 Berry AI 既有的 AWS 用量,推估未來 1-3 年內的使用需求,並以此為基礎規劃合適的長期雲端資源用量;同時考量 Berry AI 所屬飛捷集團旗下還有 3 家子公司同樣使用 AWS,進一步整合集團需求進行評估,放大整體採購規模,爭取更大的節費空間。

宋青雲強調,雲端採取隨需即付的計價模式,雖然具備彈性優勢,但若缺乏持續管理,仍可能出現資源配置不符商務規劃,或費用超出預期等情況。而博弘雲端不只能從使用現況出發、建議適合的節費方案,也會從效能、資安與成本等面向進行架構健檢,提出相應的優化建議;同時還會提供相關管理介面,讓企業隨時查看帳戶使用狀況、預估未來用量,在業務規模持續成長的同時,也能兼顧雲端架構的效能、安全與成本效益。

而架構健檢與成本優化,只是博弘雲端服務的一環。從企業準備上雲開始,博弘雲端便能協助將應用程式與資料從地端搬遷至雲端,或直接在雲端完成部署;進一步還能協助建置數據平台、數據中台,進行資料分析及導入 AI 應用,讓企業資料發揮更大價值。當服務正式上線後,博弘雲端也能接續提供維運服務。換言之,從前期 PoC、雲端建置到後續維運,博弘雲端都能依據企業需求,提供相應的服務與支援。

對 Berry AI 來說,藉由與博弘雲端合作,深化 AWS 雲端資源使用,不只是突破規模化挑戰,更重要的是能把有限的資源集中在核心業務,持續優化解決方案、開發更多貼近餐飲營運需求的應用,進一步爭取更多品牌合作,擴大北美市場版圖。目前,Berry AI 正全力拓展北美市場,也持續尋找對 AI 技術與餐飲產業應用充滿好奇心、重視團隊協作的人才加入。徵才方向涵蓋機器學習與電腦視覺、Platform & System(DevOps、Infrastructure),以及 Full Stack 軟體開發。從門市邊緣裝置上運行的 AI 模型、串連雲端與數千家門市的系統平台,到協助餐飲品牌提升營運效率的分析產品,每個環節都還有發揮的空間。 期待匯聚更多優秀夥伴,一起用 AI 解決真實的營運問題,讓來自台灣的技術走進更多全球 QSR 門市。

職缺詳情:https://www.cake.me/companies/berryai/jobs

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓