在AI硬體發展的辯論裡,大家盯著GPU與FLOPS不放。但被稱為「HBM之父」的韓國科學技術院(KAIST)教授金正浩日前在YouTube節目中公開提醒:真正的瓶頸正在轉向記憶體的「容量」與「帶寬」。
他以「容量為王」界定HBF在AI中的角色 :HBM負責速度、HBF負責海量儲存,兩者互補。 他並預估,HBF將於2027至2028年走向商業化,可能重塑版圖,甚至引發大廠併購記憶體公司的佈局。
問題來了:HBF是什麼?為何金正浩會斷言「未來三年你會頻繁聽到HBF,十年後市場對HBF的關注度將超過HBM」?
HBF是什麼?為什麼重要?
HBF(High Bandwidth Flash,高頻寬快閃)是一種為AI運算而生的新型記憶體架構,主打「高頻寬、低成本、TB級容量」,要解的卡點很直接: 記憶體的讀寫速度與容量追不上GPU,效能被「記憶體牆」掐住。
白話說,它把大量快閃記憶體疊在GPU旁,做成「大容量、中速」的近端資料倉,讓常用的大型知識(prior)近存,再按需高速餵給HBM與GPU,減少等待、平滑推論流程。
結果是: HBM負責極高速、低延遲的即時熱資料;HBF提供更大且更便宜的近端容量,緩解HBM的容量與供應瓶頸。
為何AI效能的瓶頸不是算力,而是記憶體?
回到現實的技術發展曲線。SemiAnalysis回顧DRAM發展:1980–1990年代密度幾乎每18個月翻倍;近十年則放緩到約十年才再翻倍。同時間,AI模型參數與推論資料量持續膨脹,兩條發展斜率自此脫鉤: GPU算力往前跑,系統效能卻越來越常被記憶體端限制。
業界的應對是把DRAM往上堆成HBM:先進封裝讓多層DRAM垂直堆在同一基板上,換來極高頻寬,先解速度的燃眉之急。但HBM付出三個代價:
- 成本占比攀升:HBM的製程與堆疊封裝昂貴,在如輝達H100等產品中,HBM成本占比可超過一半。
- 產能與良率吃緊:高難度製程長期拉扯供應。
- 容量門檻:單一堆疊要輕易跨過TB級仍不易,對大型模型來說依舊不夠。
也因此,當HBM把「速度」兜住,卻在「容量/成本」上步履維艱時,產業開始尋找一個能補位的方案。這正是HBF登場的背景: 在不犧牲臨近性與頻寬階梯的前提下,引入更大容量、相對低成本的近端快閃層,與HBM分工,讓記憶體金字塔回到可持續的比例。
HBF如何與HBM分工合作?
技術上,HBF與HBM的結構很像:都是多層晶粒垂直堆疊,透過矽穿孔(TSV)高速連接。真正的差異在材料,HBM堆的是DRAM;HBF堆的是NAND Flash(快閃)。
而材料的不同,直接決定了兩者在AI系統中的分工關係。
DRAM的長處是極低延遲、極高頻寬,適合撐最前線的即時運算,但單位容量昂貴、擴充受限;NAND則主打高密度、低成本,長年是SSD與儲存系統的主力。
因此就如金正浩所述,在未來的AI系統裡,HBM負責「熱資料」與算子附近的高速快取;HBF承載「大模型的主體」,把超大型權重與常用知識近存於HBF,由HBM作為快取層按需抽取,加速餵給GPU,補上HBM的容量結構性缺口。
但必須強調的是: HBF不會、也不該取代HBM。因為它的存取延遲以微秒計算,與HBM的奈秒級有明顯差距;若把HBF推到最前線,反而會拖慢整體。正確的做法,是維持臨近性與頻寬階梯,在HBM之上疊出一層「低成本的大容量近端快閃」,讓模型不必硬塞進昂貴且稀缺的HBM。
換句話說,HBM解決速度,HBF補足容量;兩者分工互補,讓系統從「單一高成本記憶體硬撐」回到合理的金字塔:前線用HBM,中後場用HBF,總量與成本重新變得可持續。
HBF正在走向量產,台廠有機會切入嗎?
雖然HBF尚未有統一的技術規格或標準,但路線已清楚地被多家記憶體大廠納入開發計畫。
SanDisk在2025年8月與SK海力士簽署備忘錄,著手共同制定HBF技術規格,目標是推出可被產業採用的標準。依其白皮書,第一代HBF在頻寬接近HBM的前提下,提供8–16倍容量,成本維持相近;時程上,2026年下半年送樣,2027年初出現首批採用HBF的AI推論裝置。
日本鎧俠則已展示實體原型:容量5TB、頻寬64GB/s的HBF模組,透過PCIe 6.0與多控制器串接,證明NAND不僅能做後端儲存,也能貼近GPU的高速資料通道。
TrendForce的研判顯示,三星亦啟動自家HBF概念設計,準備切入市場。隨著SanDisk、SK海力士、鎧俠、三星接續表態,HBF已逐步被視為下一代AI記憶體的關鍵選項。
那台灣的切入點在哪?
HBF在封裝形式上與HBM高度相似,多層堆疊、TSV互連、高密度載板,這些都是台灣先進封裝的拿手項目。 若HBF走入量產,高速測試設備、訊號完整性分析、可靠度驗證的需求同步上升。雖然核心NAND仍由國際原廠主導,但一旦量產展開,封裝、載板、測試與高速訊號周邊供應鏈的價值將放大,台灣有機會在「中段關鍵量產環節」占位。
必須說明的是,HBF當前標準尚未定稿、供應時程需驗證、頻寬/延遲指標仍要看量產良率與系統整合。若能在HBM相近的臨近性架構下交付「更大容量、近似成本」的HBF,台灣供應鏈的承接價值才會真正釋放;反之,若規格分歧或時程滑落,紅利將延後。
資料來源:Trendforce、SK海力士、SanDisk、SanDisk白皮書、鎧俠、SemiAnalysis
責任編輯:李先泰
