白話科技|什麼是HBF?跟HBM差在哪?為何它是解決AI「記憶體牆」難題的潛力方案?
白話科技|什麼是HBF?跟HBM差在哪?為何它是解決AI「記憶體牆」難題的潛力方案?

在AI硬體發展的辯論裡,大家盯著GPU與FLOPS不放。但被稱為「HBM之父」的韓國科學技術院(KAIST)教授金正浩日前在YouTube節目中公開提醒:真正的瓶頸正在轉向記憶體的「容量」與「帶寬」。

他以「容量為王」界定HBF在AI中的角色 :HBM負責速度、HBF負責海量儲存,兩者互補。 他並預估,HBF將於2027至2028年走向商業化,可能重塑版圖,甚至引發大廠併購記憶體公司的佈局。

問題來了:HBF是什麼?為何金正浩會斷言「未來三年你會頻繁聽到HBF,十年後市場對HBF的關注度將超過HBM」?

HBF是什麼?為什麼重要?

HBF(High Bandwidth Flash,高頻寬快閃)是一種為AI運算而生的新型記憶體架構,主打「高頻寬、低成本、TB級容量」,要解的卡點很直接: 記憶體的讀寫速度與容量追不上GPU,效能被「記憶體牆」掐住。

白話說,它把大量快閃記憶體疊在GPU旁,做成「大容量、中速」的近端資料倉,讓常用的大型知識(prior)近存,再按需高速餵給HBM與GPU,減少等待、平滑推論流程。

結果是: HBM負責極高速、低延遲的即時熱資料;HBF提供更大且更便宜的近端容量,緩解HBM的容量與供應瓶頸。

為何AI效能的瓶頸不是算力,而是記憶體?

回到現實的技術發展曲線。SemiAnalysis回顧DRAM發展:1980–1990年代密度幾乎每18個月翻倍;近十年則放緩到約十年才再翻倍。同時間,AI模型參數與推論資料量持續膨脹,兩條發展斜率自此脫鉤: GPU算力往前跑,系統效能卻越來越常被記憶體端限制。

業界的應對是把DRAM往上堆成HBM:先進封裝讓多層DRAM垂直堆在同一基板上,換來極高頻寬,先解速度的燃眉之急。但HBM付出三個代價:

  1. 成本占比攀升:HBM的製程與堆疊封裝昂貴,在如輝達H100等產品中,HBM成本占比可超過一半。
  2. 產能與良率吃緊:高難度製程長期拉扯供應。
  3. 容量門檻:單一堆疊要輕易跨過TB級仍不易,對大型模型來說依舊不夠。

也因此,當HBM把「速度」兜住,卻在「容量/成本」上步履維艱時,產業開始尋找一個能補位的方案。這正是HBF登場的背景: 在不犧牲臨近性與頻寬階梯的前提下,引入更大容量、相對低成本的近端快閃層,與HBM分工,讓記憶體金字塔回到可持續的比例。

HBF如何與HBM分工合作?

技術上,HBF與HBM的結構很像:都是多層晶粒垂直堆疊,透過矽穿孔(TSV)高速連接。真正的差異在材料,HBM堆的是DRAM;HBF堆的是NAND Flash(快閃)。

而材料的不同,直接決定了兩者在AI系統中的分工關係。

HBF是什麼?跟HBM差在哪?

DRAM的長處是極低延遲、極高頻寬,適合撐最前線的即時運算,但單位容量昂貴、擴充受限;NAND則主打高密度、低成本,長年是SSD與儲存系統的主力。

因此就如金正浩所述,在未來的AI系統裡,HBM負責「熱資料」與算子附近的高速快取;HBF承載「大模型的主體」,把超大型權重與常用知識近存於HBF,由HBM作為快取層按需抽取,加速餵給GPU,補上HBM的容量結構性缺口。

但必須強調的是: HBF不會、也不該取代HBM。因為它的存取延遲以微秒計算,與HBM的奈秒級有明顯差距;若把HBF推到最前線,反而會拖慢整體。正確的做法,是維持臨近性與頻寬階梯,在HBM之上疊出一層「低成本的大容量近端快閃」,讓模型不必硬塞進昂貴且稀缺的HBM。

換句話說,HBM解決速度,HBF補足容量;兩者分工互補,讓系統從「單一高成本記憶體硬撐」回到合理的金字塔:前線用HBM,中後場用HBF,總量與成本重新變得可持續。

HBF正在走向量產,台廠有機會切入嗎?

雖然HBF尚未有統一的技術規格或標準,但路線已清楚地被多家記憶體大廠納入開發計畫。

SanDisk在2025年8月與SK海力士簽署備忘錄,著手共同制定HBF技術規格,目標是推出可被產業採用的標準。依其白皮書,第一代HBF在頻寬接近HBM的前提下,提供8–16倍容量,成本維持相近;時程上,2026年下半年送樣,2027年初出現首批採用HBF的AI推論裝置。

日本鎧俠則已展示實體原型:容量5TB、頻寬64GB/s的HBF模組,透過PCIe 6.0與多控制器串接,證明NAND不僅能做後端儲存,也能貼近GPU的高速資料通道。

TrendForce的研判顯示,三星亦啟動自家HBF概念設計,準備切入市場。隨著SanDisk、SK海力士、鎧俠、三星接續表態,HBF已逐步被視為下一代AI記憶體的關鍵選項。

那台灣的切入點在哪?

HBF在封裝形式上與HBM高度相似,多層堆疊、TSV互連、高密度載板,這些都是台灣先進封裝的拿手項目。 若HBF走入量產,高速測試設備、訊號完整性分析、可靠度驗證的需求同步上升。雖然核心NAND仍由國際原廠主導,但一旦量產展開,封裝、載板、測試與高速訊號周邊供應鏈的價值將放大,台灣有機會在「中段關鍵量產環節」占位。

必須說明的是,HBF當前標準尚未定稿、供應時程需驗證、頻寬/延遲指標仍要看量產良率與系統整合。若能在HBM相近的臨近性架構下交付「更大容量、近似成本」的HBF,台灣供應鏈的承接價值才會真正釋放;反之,若規格分歧或時程滑落,紅利將延後。

資料來源:TrendforceSK海力士SanDiskSanDisk白皮書鎧俠SemiAnalysis

責任編輯:李先泰

往下滑看下一篇文章
中華電信 5G 加速器 Demo Day,以 AI 啟動未來:從共創到加速,攜手新創 開創未來
中華電信 5G 加速器 Demo Day,以 AI 啟動未來:從共創到加速,攜手新創 開創未來

第七屆「中華電信 5G 加速器」Demo Day 近期揭幕,現場匯聚創新能量,不僅展現中華電信的 AI 創新布局,更邀集 12 家具備高度潛力的新創團隊,輪番展示核心技術與前瞻解決方案。這些團隊也同時分享,如何善用 5G 加速器資源突破營運挑戰,並在「1 到 N」的成長歷程中,採取哪些策略與客戶建立長期合作關係,讓 AI 應用能夠真正落地。

中華電信投資事業處副總經理陳元凱於開場致詞時指出,5G 加速器自 2018 年成立以來,已吸引超過 80 家新創團隊加入,期許透過電信CVC平台,以大帶小,推動創新創業,成為台灣推動創新的重要平台。為了讓更多具潛力的新創能在關鍵時刻獲得實質支援,中華電信不只提供技術支援、實證場域、商機媒合及行銷曝光等資源,更於本屆 5G 加速器增設「AI 創新特別獎」,包括 AI 算力、行動上網與寬頻上網服務,協助團隊進行 AI 應用研發與市場導入,展現中華電信持續賦能新創,從自身做起,共同打造台灣創新創業雨林生態系的決心。

從 AI 1.0語音辨識到 AI 2.0 AI 代理人:中華電信的 AI 創新版圖

活動一開始,中華電信研究院前瞻科技研究所所長汪世昌率先分享,中華電信如何迎戰 AI 所帶來的產業變革。汪世昌引述 Pitchbook 數據指出,2025年 1 月到 8 月間,已經有高達 55% 的創投資金湧進 AI 市場,顯見 AI 已成為全球資金瘋狂追逐的焦點。

中華電信
中華電信研究院前瞻科技研究所所長汪世昌引述Pitchbook數據指出,高達 55% 的創投資金湧進 AI 市場,顯見 AI 已成為全球資金瘋狂追逐的焦點。
圖/ 數位時代

而中華電信早在 AI 浪潮興起初期便積極投入,2016 年啟動 AI 1.0 佈局,在語音辨識、影像辨識、自然語言處理等領域建立自主技術,並進一步發展智慧客服、科技執法、影像偵測等解決方案,服務範圍涵蓋眾多企業客戶與政府部門。

隨著生成式 AI 時代的到來,中華電信在2023年邁入 AI 2.0,重點任務包括推動全員 AI 素養、打造自研開發平台 「AI Factory」、提供 AI DC 服務等,並積極發展各類創新應用,如:由 AI 代筆生成遺囑、AI 防詐、語音偵偽,到結合全光網路進行跨國共演,AI 正逐步滲入生活與產業的每個角落。

汪世昌表示,2025 年的發展重點是 Agentic AI。他也罕見公開中華電信打造的 AI 代理人應用,包括餐廳訂位和訂票、有聲繪本製作、撰寫符合公司需求的企業報告、生成主管決策建議及審閱檔案等。未來,中華電信將持續聚焦代理 AI、多模態、垂直領域大模型、邊緣 AI、機器人與 AI Coding 等方向,以技術自主與台灣在地化為利基,打造真正能解決企業痛點的下一代 AI 服務。

中華電信
中華電信未來的技術佈局將聚焦代理 AI、多模態、垂直領域大模型、邊緣 AI、機器人與 AI Coding 等方向。
圖/ 數位時代

媒合市場 × 產品升級:中華電信 5G 加速器如何成為新創的成長引擎

不過,AI 應用牽涉的場景極為廣泛,企業需求也往往多元且複雜,單靠自身力量,很難在第一時間滿足每一種期待。因此,中華電信在打造下一代 AI 服務的同時,也透過 5G 加速器串連生態系夥伴,協助新創團隊快速驗證技術,並找到正確的落地入口,讓 AI更順利走進企業現場。

《數位時代》創新長兼技術主編黃亮崢亦認同中華電信對新創的支援,他指出,新創應該要懂得借力使力,善用加速器、投資人和生態系合作夥伴的力量推動自身發展,如此不只能立足台灣,更有機會邁向國際舞台,讓全球都能看見台灣的創新實力。

從新創團隊的分享中可歸納出,中華電信 5G 加速器為新創團隊帶來二大關鍵助益。第一,讓團隊能夠接觸到更多潛在客戶與內部決策者,使產品驗證與市場拓展更有效率。像是創智生物科技在入選加速器後,將有機會接觸到醫療以外的潛在客群,進而挖掘更多元的產品落地場景。寵訊生醫同樣受惠於中華電信的品牌聲譽,預期不僅大幅提高曝光度與市場知名度,更在飼主和獸醫師心中建立信任感,顯著提升產品採用意願。中華電信內部衍生創業(Spin-off)的中華創智國際,在內部育成期間同樣藉助5G 加速器的媒合機制,提升知名度,與潛在目標客戶深入對話,確認產品是否符合使用需求,大幅縮短業務開發時間。

中華電信
第七屆中華電信5G加速器Demo Day邀請本屆入圍新創進行座談交流,分享入選中華電信5G 加速器後帶來的助益。
圖/ 數位時代

第二項效益,則是導入中華電信集團的技術和資源,為新創解決方案加值,甚至創造更大的市場。伊斯酷軟體科技希望借助中華電信在 5G 與網路的資通訊優勢,為客戶提供整合自家 RPA 應用與網路基礎建設的完整服務。光影立方期望在 5G 加速器協助下,為自家 2D 轉 3D 技術找到更具商業價值的切入點。至於野革運動則期待,在加入 5G 加速器後,可結合中華電信 Hami Video 運動賽事的精彩內容,為球迷打造「影像 × 數據」的觀賽體驗,增加產品競爭力。

新創跨進企業供應鏈的三大關鍵策略

但即便有加速器的推力,真正決定新創能否在市場站穩腳步的關鍵,仍取決於自身的商業策略。在 DemoDay 第二場座談交流中,新創團隊分享自身在「1 到 N」的成長過程中,做了哪些決策與商業洞察,「從這些分享中可以很清楚地看到,產品定位、客戶經營與商業模式,是新創走向規模化的三大關鍵策略,」黃亮崢總結指出。

中華電信
第七屆中華電信5G加速器Demo Day邀請歷屆與本屆入選共6家新創相互交流,探討從1 到 N的成長過程中,該如何做出對的決策與商業洞察。
圖/ 數位時代

第一個策略,是建立產品差異化。尤其競爭越激烈的市場,越需要透過差異化來打造市場競爭力。如中華電信今年內部衍生(Spin-off)的第二家團隊,中華智慧影像(IVS)選擇以 Edge AI 和市售晶片打造解決方案,而非追逐最前沿模型,正是因為企業應用更看重穩定與可靠,並在此基礎上發展差異化服務。

第二個策略,是強化客戶信任。零邁移動(ZEMO)服務強調早期客戶的重要性,服務好第一個或早期客戶,可以吸引更多客戶主動上門。滿拓科技與歐姆佳科技也分享了服務客戶的秘訣,滿拓(DeepMentor)強調新創應先與客戶對齊導入目標與驗收規則,並開放產品實測,以透明態度換取客戶信任;歐姆佳科技(Ohmplus)則認為,無論客戶的意見是讚美或抱怨,都應用心聆聽並積極調整,當客戶感受到你的誠意時,後續合作自然會更緊密。

第三個策略,是建立對的商業模式。阿米索拉(AMOESO)認為,新創必須讓合作夥伴與客戶都能保有利潤,因此自身要具備很強的成本控制能力,才能形成可持續推廣的商業模式。而台灣圖靈鏈(Turing Space)則指出,商業模式並非一成不變,新創應該勇於實驗不同路徑,但前提是組織架構要具備彈性、企業文化要一致,才能在多元嘗試中找出最適合自身與客戶的商業模式。

中華電信
圖/ 數位時代

當 AI 與 5G 引領產業進入新篇章,中華電信將延續推動「打造台灣創新創業數位雨林生態系」的精神,以最優質的 5G 網路、IDC 基礎設施與自研 AI 技術平台,作為新創前進路上的堅實後盾,並透過 5G 加速器為新創提供驗證場域、技術支援與商業媒合,陪伴更多台灣新創從概念走向應用落地、從台灣走向全球舞台,共同開創下一個 AI 產業大未來。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
進擊的機器人
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓