數位關鍵字155.尖端AI運算為什麼必用HBM記憶體?未來又將有哪些技術革新

在AI發展如火如荼之際,許多人都在關注AI模型和軟體的進展,但支撐這些突破的硬體技術卻常被忽視。數位時代創新長黃亮崢James邀請友訊科技DLink董事高宏傑Brian,深入探討在AI時代,記憶體技術面臨的挑戰與創新,以及這些技術如何推動AI的發展。

AI的蓬勃發展正在推動記憶體技術的革新。從最初為3D圖形設計的GDDR,到專為高效能運算打造的HBM,再到整合CPU、GPU和大容量HBM的NVIDIA GH200,每一步技術進展都在為AI提供更強大的硬體支持。Apple的統一內存架構(UMA)則展示了軟硬體協同優化的潛力,為AI應用開發提供了更高效的平台。

展望未來,GDDR7和HBM4等新一代規格即將推出,可能會帶來更多突破。而In-Memory Computing技術的概念,更是勾勒出一個記憶體與運算融為一體的未來藍圖。隨著這些技術的發展,我們可以期待看到更強大、更高效的AI應用誕生。

聽完這集可以學到:

  1. 記憶體在AI時代面臨的三大挑戰:速度、容量、能效,以及這些挑戰如何影響AI的發展。

  2. 從GDDR到HBM:記憶體技術的演進歷程,以及每種技術如何應對AI時代的需求。

  3. Apple的統一內存架構(UMA)如何改變了記憶體與處理器的協作模式,為何這對AI開發如此重要。

  4. 高頻寬記憶體(HBM)技術的優勢,以及它如何突破傳統記憶體的限制,實現更高效的AI運算。

  5. NVIDIA的GH200晶片如何整合CPU、GPU和HBM,展現AI硬體的未來發展方向。

EP207. 從拚外交到拚外貿,他如何打造台灣成全球AI領袖舞台? ft.外貿協會董事長黃志芳

塊轉WEB3_92. 銀行也是破圈關鍵!「傳統銀行」在加密產業中有何影響力?

記者茶水間134.Z世代同事真的難溝通、講話沒禮貌嗎?Z世代現身說法,職場觀有哪些差異?

Web3大西進48. CZ 與 SBF 的「幣男生死鬥」如何影響交易所的未來?【從《無限風暴》解析交易所的過去與未來】系列特輯

數位關鍵字154.企業必修!深入淺出SLA:從入門到精通的實用指南

EP206. 超高齡社會免驚!三面向分析背後3.6兆商機 ft.數位時代特約主筆趙郁竹

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
蘋果能再次偉大?
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓