白話科技|什麼是HBF?跟HBM差在哪?為何它是解決AI「記憶體牆」難題的潛力方案?
白話科技|什麼是HBF?跟HBM差在哪?為何它是解決AI「記憶體牆」難題的潛力方案?

在AI硬體發展的辯論裡,大家盯著GPU與FLOPS不放。但被稱為「HBM之父」的韓國科學技術院(KAIST)教授金正浩日前在YouTube節目中公開提醒:真正的瓶頸正在轉向記憶體的「容量」與「帶寬」。

他以「容量為王」界定HBF在AI中的角色 :HBM負責速度、HBF負責海量儲存,兩者互補。 他並預估,HBF將於2027至2028年走向商業化,可能重塑版圖,甚至引發大廠併購記憶體公司的佈局。

問題來了:HBF是什麼?為何金正浩會斷言「未來三年你會頻繁聽到HBF,十年後市場對HBF的關注度將超過HBM」?

HBF是什麼?為什麼重要?

HBF(High Bandwidth Flash,高頻寬快閃)是一種為AI運算而生的新型記憶體架構,主打「高頻寬、低成本、TB級容量」,要解的卡點很直接: 記憶體的讀寫速度與容量追不上GPU,效能被「記憶體牆」掐住。

白話說,它把大量快閃記憶體疊在GPU旁,做成「大容量、中速」的近端資料倉,讓常用的大型知識(prior)近存,再按需高速餵給HBM與GPU,減少等待、平滑推論流程。

結果是: HBM負責極高速、低延遲的即時熱資料;HBF提供更大且更便宜的近端容量,緩解HBM的容量與供應瓶頸。

為何AI效能的瓶頸不是算力,而是記憶體?

回到現實的技術發展曲線。SemiAnalysis回顧DRAM發展:1980–1990年代密度幾乎每18個月翻倍;近十年則放緩到約十年才再翻倍。同時間,AI模型參數與推論資料量持續膨脹,兩條發展斜率自此脫鉤: GPU算力往前跑,系統效能卻越來越常被記憶體端限制。

業界的應對是把DRAM往上堆成HBM:先進封裝讓多層DRAM垂直堆在同一基板上,換來極高頻寬,先解速度的燃眉之急。但HBM付出三個代價:

  1. 成本占比攀升:HBM的製程與堆疊封裝昂貴,在如輝達H100等產品中,HBM成本占比可超過一半。
  2. 產能與良率吃緊:高難度製程長期拉扯供應。
  3. 容量門檻:單一堆疊要輕易跨過TB級仍不易,對大型模型來說依舊不夠。

也因此,當HBM把「速度」兜住,卻在「容量/成本」上步履維艱時,產業開始尋找一個能補位的方案。這正是HBF登場的背景: 在不犧牲臨近性與頻寬階梯的前提下,引入更大容量、相對低成本的近端快閃層,與HBM分工,讓記憶體金字塔回到可持續的比例。

HBF如何與HBM分工合作?

技術上,HBF與HBM的結構很像:都是多層晶粒垂直堆疊,透過矽穿孔(TSV)高速連接。真正的差異在材料,HBM堆的是DRAM;HBF堆的是NAND Flash(快閃)。

而材料的不同,直接決定了兩者在AI系統中的分工關係。

HBF是什麼?跟HBM差在哪?

DRAM的長處是極低延遲、極高頻寬,適合撐最前線的即時運算,但單位容量昂貴、擴充受限;NAND則主打高密度、低成本,長年是SSD與儲存系統的主力。

因此就如金正浩所述,在未來的AI系統裡,HBM負責「熱資料」與算子附近的高速快取;HBF承載「大模型的主體」,把超大型權重與常用知識近存於HBF,由HBM作為快取層按需抽取,加速餵給GPU,補上HBM的容量結構性缺口。

但必須強調的是: HBF不會、也不該取代HBM。因為它的存取延遲以微秒計算,與HBM的奈秒級有明顯差距;若把HBF推到最前線,反而會拖慢整體。正確的做法,是維持臨近性與頻寬階梯,在HBM之上疊出一層「低成本的大容量近端快閃」,讓模型不必硬塞進昂貴且稀缺的HBM。

換句話說,HBM解決速度,HBF補足容量;兩者分工互補,讓系統從「單一高成本記憶體硬撐」回到合理的金字塔:前線用HBM,中後場用HBF,總量與成本重新變得可持續。

HBF正在走向量產,台廠有機會切入嗎?

雖然HBF尚未有統一的技術規格或標準,但路線已清楚地被多家記憶體大廠納入開發計畫。

SanDisk在2025年8月與SK海力士簽署備忘錄,著手共同制定HBF技術規格,目標是推出可被產業採用的標準。依其白皮書,第一代HBF在頻寬接近HBM的前提下,提供8–16倍容量,成本維持相近;時程上,2026年下半年送樣,2027年初出現首批採用HBF的AI推論裝置。

日本鎧俠則已展示實體原型:容量5TB、頻寬64GB/s的HBF模組,透過PCIe 6.0與多控制器串接,證明NAND不僅能做後端儲存,也能貼近GPU的高速資料通道。

TrendForce的研判顯示,三星亦啟動自家HBF概念設計,準備切入市場。隨著SanDisk、SK海力士、鎧俠、三星接續表態,HBF已逐步被視為下一代AI記憶體的關鍵選項。

那台灣的切入點在哪?

HBF在封裝形式上與HBM高度相似,多層堆疊、TSV互連、高密度載板,這些都是台灣先進封裝的拿手項目。 若HBF走入量產,高速測試設備、訊號完整性分析、可靠度驗證的需求同步上升。雖然核心NAND仍由國際原廠主導,但一旦量產展開,封裝、載板、測試與高速訊號周邊供應鏈的價值將放大,台灣有機會在「中段關鍵量產環節」占位。

必須說明的是,HBF當前標準尚未定稿、供應時程需驗證、頻寬/延遲指標仍要看量產良率與系統整合。若能在HBM相近的臨近性架構下交付「更大容量、近似成本」的HBF,台灣供應鏈的承接價值才會真正釋放;反之,若規格分歧或時程滑落,紅利將延後。

資料來源:TrendforceSK海力士SanDiskSanDisk白皮書鎧俠SemiAnalysis

責任編輯:李先泰

往下滑看下一篇文章
五十年零售老店的 AI 轉型:良興攜手 Data-DI,打造專屬 AI Agent 賦能組織升級與知識傳承
五十年零售老店的 AI 轉型:良興攜手 Data-DI,打造專屬 AI Agent 賦能組織升級與知識傳承

1973 年,良興從台北光華商場一間 50 坪的電子零件行起家,半個世紀後蛻變為年營收破十億、毛利率 18% 的全通路 3C 品牌。不過,伴隨規模擴張帶來的不只是成長,還有日益加劇的管理摩擦。門市遍布全台、品項高達近萬筆,加上跨部門協作頻繁,行政耗損與知識傳承的缺口,成為這家老字號邁向下一階段的隱形天花板。

良興總經理賴志達回顧,從電子零件跨入電商、從線下擴張到 OMO 全通路、再到會員深度經營,作為 3C 零售業者,良興每一波轉型都走在同業前面。「現在輪到 AI 了。如何做到人機協作、AI 賦能,就是良興第五波轉型的核心命題。」

AI 自動化,從行政細節釋放組織戰力

轉型需要夥伴,而賴志達評估合作夥伴的標準很明確:技術能力是基本,產業知識(Domain Know-how)的深度是關鍵,回饋速度更是最終決定因素。2025 年的未來商務展上,良興選擇攜手 Data-DI,看重的正是其「策略諮詢 + AI 產品 + 落地陪跑」三軌並行的實施能力。

很快的,良興與 Data-DI 合作的第一個專案,就落在最耗費人力、卻最常被忽視的環節:會議記錄。「會議如果沒有產值、沒有效果,對企業很傷!」賴志達說,他每天參加許多會議,但跨單位協作的會議記錄長期依賴人工聆聽與逐字整理,常出現人名誤植、決策遺漏、行動項目無人追蹤,讓會議效果大打折扣。

數智聚(良興)_1.JPG
良興總經理賴志達
圖/ 數位時代

為了解決會議記錄的痛點,Data-DI 業務副總包威棣指出,在導入工具以前,團隊須先釐清三件事:場景是否具備落地價值、哪些流程節點適合 AI 介入,以及以終為始地掌握客戶真正想要的輸出樣貌。這些看似基本的提問,都決定 AI 能否精準落地。

確認方向後,良興與 Data-DI 成功導入 AI 會議記錄自動化系統,透過模糊比對技術校正語音辨識誤差,並將生成的雙版本報告直接回存至既有資料庫,不僅將行政人員從重複性作業中釋放,也為後續的 AI 應用奠定扎實的系統整合基礎。

賴志達分享,現在他去外部開會也會用這個工具,運用 AI 把錄音轉文字、再整理成簡報,很快就能完成,更令外部夥伴驚艷。「我認為這是很成功的案子!也提醒想做 AI 的老闆們,與其急著搞大架構,不如先從小工具讓公司嘗試 AI,建立理解和認同。」

AI 把資深員工大腦轉化為資產

補完行政效率的缺口後,良興接著切入更深層的營運核心:知識傳承。過去,頂尖銷售經驗長期鎖在少數資深員工身上,新人培訓耗時三個月,員工離職即帶走知識資本。與此同時,網路資訊發達,消費者進店前早已掌握基本規格,3C 通路門市人員要如何發揮更多價值?「我要門市的人不是死背規格,而是面對客人時,能用客人能理解的方式對話。」賴志達說。

為此,Data-DI 協助良興建置 AI 門市教育訓練系統。系統透過六大自動化關卡,串接教材生成、審核上架、AI 銷售對練與成績回報,主管僅需在核心節點審核;員工透過手機語音對練,系統依口吻、專業度、回應力等維度自動評分。賴志達表示,目標是將新人培訓期縮短至一個月,讓數十年累積的銷售智慧轉化為可複製、可傳承的企業資產。

然而,要讓這套系統真正運作,得先解決兩個根本問題:資料從哪裡來?以及訓練如何更準確?

「以前大數據時代,講的是資料要大、全、細、實;現在 AI 要做到的是準(準確)、合(合乎場景)。」包威棣說。良興不同廠商提供的素材品質參差不齊,Data-DI 除了整合內部資料,也補充加入外部市場評測內容以填補空缺,再透過人員審核機制過濾雜訊,搭配 agent 架構的多層步驟與知識限定,確保系統能精準提煉對應品類的訓練素材。

數智聚(良興)_2.JPG
Data-DI 業務副總包威棣
圖/ 數位時代

賴志達則看得更遠:「這些教育訓練的內容,也將成為公司未來訓練機器人很好的原料。」

Data-DI 陪跑型顧問,帶領企業 AI 轉型

良興與 Data-DI 合作的兩個專案中,雙方共同克服了長提示詞邏輯混亂、AI 幻覺污染知識庫、逐字稿讀取逾時等技術難題。邁向下一步,賴志達表示,公司各部門很早就建置 Power BI 報表,但數據豐富不等於決策清晰。「數據是土壤,如果沒有梳理,就沒有用了。」因此,他的下一個目標是活化數據資本、推動行銷自動流,以精實的人力持續驅動成長。

數智聚(良興)_3.jpg
良興攜手 Data-DI 推動 AI 落地,以小步快跑模式為企業創造變革。
圖/ 數位時代

包威棣則從顧問視角歸納兩個觀察:AI 導入需要高層認同、由上而下推進,像賴志達這樣持續引領良興走在業界前端的決策者,就是不可或缺的推手;而單點工具的價值,終究要累積成組織體質的轉變才算真正落地。「就像會議記錄改變了會議當責的結構,人員訓練改變了知識傳承的方式。從點狀應用走向企業變革,這種決策思路才是 AI 真正深入落地產生價值的關鍵。」

最後,對於仍在觀望AI應用的企業,他則建議:「未來 AI 導致的落差只會愈來愈大,人會變成超級工作者,企業會變成超級企業。開始做就對了,先做一個三個月的小任務,降低落差、再急起追上。」從痛點切入、小步快跑,讓組織在實作中累積對 AI 的理解與信任,這正是 Data-DI 的陪跑哲學。

有關更多 Data-DI 相關資訊,請查詢網站:https://www.data-di.com/

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
代理式商務連動百兆商機
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓