白話科技|什麼是HBF?跟HBM差在哪?為何它是解決AI「記憶體牆」難題的潛力方案?
白話科技|什麼是HBF?跟HBM差在哪?為何它是解決AI「記憶體牆」難題的潛力方案?

在AI硬體發展的辯論裡,大家盯著GPU與FLOPS不放。但被稱為「HBM之父」的韓國科學技術院(KAIST)教授金正浩日前在YouTube節目中公開提醒:真正的瓶頸正在轉向記憶體的「容量」與「帶寬」。

他以「容量為王」界定HBF在AI中的角色 :HBM負責速度、HBF負責海量儲存,兩者互補。 他並預估,HBF將於2027至2028年走向商業化,可能重塑版圖,甚至引發大廠併購記憶體公司的佈局。

問題來了:HBF是什麼?為何金正浩會斷言「未來三年你會頻繁聽到HBF,十年後市場對HBF的關注度將超過HBM」?

HBF是什麼?為什麼重要?

HBF(High Bandwidth Flash,高頻寬快閃)是一種為AI運算而生的新型記憶體架構,主打「高頻寬、低成本、TB級容量」,要解的卡點很直接: 記憶體的讀寫速度與容量追不上GPU,效能被「記憶體牆」掐住。

白話說,它把大量快閃記憶體疊在GPU旁,做成「大容量、中速」的近端資料倉,讓常用的大型知識(prior)近存,再按需高速餵給HBM與GPU,減少等待、平滑推論流程。

結果是: HBM負責極高速、低延遲的即時熱資料;HBF提供更大且更便宜的近端容量,緩解HBM的容量與供應瓶頸。

為何AI效能的瓶頸不是算力,而是記憶體?

回到現實的技術發展曲線。SemiAnalysis回顧DRAM發展:1980–1990年代密度幾乎每18個月翻倍;近十年則放緩到約十年才再翻倍。同時間,AI模型參數與推論資料量持續膨脹,兩條發展斜率自此脫鉤: GPU算力往前跑,系統效能卻越來越常被記憶體端限制。

業界的應對是把DRAM往上堆成HBM:先進封裝讓多層DRAM垂直堆在同一基板上,換來極高頻寬,先解速度的燃眉之急。但HBM付出三個代價:

  1. 成本占比攀升:HBM的製程與堆疊封裝昂貴,在如輝達H100等產品中,HBM成本占比可超過一半。
  2. 產能與良率吃緊:高難度製程長期拉扯供應。
  3. 容量門檻:單一堆疊要輕易跨過TB級仍不易,對大型模型來說依舊不夠。

也因此,當HBM把「速度」兜住,卻在「容量/成本」上步履維艱時,產業開始尋找一個能補位的方案。這正是HBF登場的背景: 在不犧牲臨近性與頻寬階梯的前提下,引入更大容量、相對低成本的近端快閃層,與HBM分工,讓記憶體金字塔回到可持續的比例。

HBF如何與HBM分工合作?

技術上,HBF與HBM的結構很像:都是多層晶粒垂直堆疊,透過矽穿孔(TSV)高速連接。真正的差異在材料,HBM堆的是DRAM;HBF堆的是NAND Flash(快閃)。

而材料的不同,直接決定了兩者在AI系統中的分工關係。

HBF是什麼?跟HBM差在哪?

DRAM的長處是極低延遲、極高頻寬,適合撐最前線的即時運算,但單位容量昂貴、擴充受限;NAND則主打高密度、低成本,長年是SSD與儲存系統的主力。

因此就如金正浩所述,在未來的AI系統裡,HBM負責「熱資料」與算子附近的高速快取;HBF承載「大模型的主體」,把超大型權重與常用知識近存於HBF,由HBM作為快取層按需抽取,加速餵給GPU,補上HBM的容量結構性缺口。

但必須強調的是: HBF不會、也不該取代HBM。因為它的存取延遲以微秒計算,與HBM的奈秒級有明顯差距;若把HBF推到最前線,反而會拖慢整體。正確的做法,是維持臨近性與頻寬階梯,在HBM之上疊出一層「低成本的大容量近端快閃」,讓模型不必硬塞進昂貴且稀缺的HBM。

換句話說,HBM解決速度,HBF補足容量;兩者分工互補,讓系統從「單一高成本記憶體硬撐」回到合理的金字塔:前線用HBM,中後場用HBF,總量與成本重新變得可持續。

HBF正在走向量產,台廠有機會切入嗎?

雖然HBF尚未有統一的技術規格或標準,但路線已清楚地被多家記憶體大廠納入開發計畫。

SanDisk在2025年8月與SK海力士簽署備忘錄,著手共同制定HBF技術規格,目標是推出可被產業採用的標準。依其白皮書,第一代HBF在頻寬接近HBM的前提下,提供8–16倍容量,成本維持相近;時程上,2026年下半年送樣,2027年初出現首批採用HBF的AI推論裝置。

日本鎧俠則已展示實體原型:容量5TB、頻寬64GB/s的HBF模組,透過PCIe 6.0與多控制器串接,證明NAND不僅能做後端儲存,也能貼近GPU的高速資料通道。

TrendForce的研判顯示,三星亦啟動自家HBF概念設計,準備切入市場。隨著SanDisk、SK海力士、鎧俠、三星接續表態,HBF已逐步被視為下一代AI記憶體的關鍵選項。

那台灣的切入點在哪?

HBF在封裝形式上與HBM高度相似,多層堆疊、TSV互連、高密度載板,這些都是台灣先進封裝的拿手項目。 若HBF走入量產,高速測試設備、訊號完整性分析、可靠度驗證的需求同步上升。雖然核心NAND仍由國際原廠主導,但一旦量產展開,封裝、載板、測試與高速訊號周邊供應鏈的價值將放大,台灣有機會在「中段關鍵量產環節」占位。

必須說明的是,HBF當前標準尚未定稿、供應時程需驗證、頻寬/延遲指標仍要看量產良率與系統整合。若能在HBM相近的臨近性架構下交付「更大容量、近似成本」的HBF,台灣供應鏈的承接價值才會真正釋放;反之,若規格分歧或時程滑落,紅利將延後。

資料來源:TrendforceSK海力士SanDiskSanDisk白皮書鎧俠SemiAnalysis

責任編輯:李先泰

往下滑看下一篇文章
數位時代 X 國泰金控 從百套系統上雲到 Cloud First:國泰如何把雲端變成AI成長引擎?
數位時代 X 國泰金控 從百套系統上雲到 Cloud First:國泰如何把雲端變成AI成長引擎?

2019年金融監理機關正式將雲端納入委外規範後,揭示金融業上雲時代來臨,國泰金控數數發中心成立雲端策略發展部,負責擬定集團上雲策略,並於2020年正式啟動7年集團雲端轉型計畫;在多數金融機構仍停留在單點遷移或IT現代化的現下,國泰金融集團在 2025 年即完成 100 套系統上雲,更將雲端轉型階段從 Cloud Ready、Cloud Adoption 推向 Cloud First,成為數據與人工智慧應用的關鍵引擎。

國泰金控資訊長|吳建興 James Wu
圖/ 數位時代

「百套系統上雲不僅僅是數字,更是讓國泰從『 IT 進化業務』邁向『 IT 驅動成長』的關鍵轉折。」國泰金控雲端策略發展部協理顏勝豪表示,上雲帶來的效益十分顯著,包括提升資源可用性與營運敏捷度、減輕 IT 維運負擔;同時,雲端業者多具備零碳排或綠能機房機制,亦有助於企業朝向 ESG 永續營運邁進。「金融上雲不是單純的現代化基礎設施或者是升級技術,而是為了換取速度與可靠度,讓集團可以加速創新腳步、彈性調配資源,以及培育所需人才與技能,為未來做最佳準備。」
為讓集團員工、金融同業以及有志上雲的夥伴可以進一步探討雲端轉型的各種可能,國泰金控舉辦雲端轉型成果發表會,會中除有集團子公司分享最新成果,三大公有雲平台業者也從不同技術視角共同探討在合規、資安與 AI 應用的可能。

七年、三階段,國泰金融集團將雲端內化為營運流程與創新引擎

國泰金控科技長|姚旭杰 Marcus Ya
圖/ 數位時代

為什麼國泰可以領先市場完成雲端轉型、數據與 AI 賦能業務?

顏勝豪認為,雲端轉型的起點不是直接遷移系統,而是從四個面向打底:應用系統盤點評估、雲端架構設計、雲端遷移藍圖規劃,以及組織治理框架建立,而這也是 Cloud Ready 階段最重要的事情。
「不同子公司有不同商業模式與節奏,若沒有共同語言與平台底座,上雲很容易各自為政。」顏勝豪表示,為讓所有員工可以齊步前行,國泰以雲端遷移方法論 Cathay 6R(註1)作為共同語言、用平台作為共同底座,讓轉型不只是技術選擇,而是集團行動。
完成單一系統的雲端遷移後,便進入 Cloud Adoption 階段。在這個階段中,要透過大規模遷移建立更成熟的上雲標準作業流程(SOP),透過 FinOps 機制控管與優化雲端營運成本,以及透過自動化與治理模型確認多雲環境與安全與維運穩定性,目標是將雲端內化為組織日常運營的一部分,進而邁向 Cloud First 階段:在合規前提下,新專案與系統升級預設在雲端環境開發,並善用雲原生優勢加速新產品功能開發速度。
「集團雲端策略只有一個核心原則:讓雲成為 AI 時代的成長引擎,而不是單純的基礎設施。」關於國泰的未來雲端布局,顏勝豪如是總結。

國泰金控 雲端策略發展部 協理|顏勝豪 Otto Yen
圖/ 數位時代

以雲端為 AI 資源引擎、發揮數據燃料價值,實現 AI 賦能業務應用

國泰不僅在2025年完成集團百套系統上雲,也啟動數據上雲計畫並為 GenAI 奠定基礎建設。
例如國泰金控實現數據上雲,打造資料湖倉與 GAIA 生態系統架構為 AI 賦能業務做準備:成立國泰風險聯防中心(CRC)攜手集團洗防人員強化風險控管與金融犯罪因應能力;釋出國泰員工 AI 助手–Agia–Beta
版,提供差勤、福利與權益、技術支援、職務職能與集團其他資訊等五大類別管理辦法等查詢服務;此外,亦推出集團數據共享平台、集團法規知識庫、 AI 評測中心等服務,更好發揮 Cloud First 與 AI 賦能業務應用的價值。
雲端是 AI 時代的關鍵底座、數據則是 AI 的燃料。顏勝豪指出,發展AI需要龐大的 GPU 算力,若自建 GPU 機房,不僅硬體設備昂貴、折舊速度快,光是散熱系統一年就高達兩、三千萬元的成本,若採取雲端資源,可以隨啟隨用,同時,大幅降低試錯成本。「當雲端打好基礎、AI成為能力模組,銀行、人壽、產險與證券的創新不再是單點突破,而是放大集團級綜效。」

國泰以 Cloud First + AI 持續領先市場、形塑未來樣貌

「雲端可以優化算力成本,資料則決定 AI 應用上限。」顏勝豪解釋,在 AI 新世代,AI 模型定調能力「下限」,集團子公司掌握的「獨特資料」則決定應用的「上限」,考量雲端有許多好用 AI 服務,唯有資料上雲才能發揮數據價值、用 AI 賦能集團各子公司業務。
例如國泰世華銀行將採取多公有雲策略,打造雲端智慧生態圈,並以現代化雲原生技術拓展應用場景;同時,運用 AI 與資料分析優化客戶服務體驗,並藉由跨雲整合機制支援多元業務模式,以充分發揮上雲效益。至於國泰產險,不僅在兩年半內完成13套核心系統上雲、優化營運流程,如以 Serverless 架構打造百萬級效果、萬元成本的短網址系統等,讓雲端成為產險驅動長期成長的核心引擎與標準配備。

國泰人壽則是透過雲端與 AI 滿足不同客戶需求,如以 AI Search 精準呈現關鍵字搜尋結果,讓客戶可以精準且快速的查找所需資料、大幅優化官網體驗與滿意度。至於國泰證券則是於2026年初推出「庫存管家」服務,以客戶持股為核心,應用 AI 技術打造個人化推播服務,協助投資人更有效率地掌握庫存狀況,提供更即時、系統化的投資管理體驗。
總的來說,國泰金控在集團的雲端轉型不僅是技術升級,更是思維革新,從百套系統上雲進展到 Cloud First 階段,可以預期在雲地基礎下,國泰將進一步引領 AI 時代變革,持續提升營運韌性與放大創新價值。

註1:Cathay 6R 國泰設計 Cathay 6R 雲端遷移方法論,將系統遷移方式依據上雲模式、系統開發成本分為 Rehost 、Replatform、Refactor、Rewrite、Replace 和 Retain 共6種遷移架構,並能對應到 IaaS、PaaS、SaaS 三種不同上雲模式。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
2026 大重啟
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓