當終端裝置導入AI邊緣運算後，未來的生活將會如何？|數位時代 BusinessNext

當終端裝置導入AI邊緣運算後，未來的生活將會如何？

隨著IoT技術普及，全球資訊量開始大幅增長，然而其中部份數據對即時、穩定的極端要求，又催生出「AI邊緣運算」，隨著這項技術逐步踏進生活周遭，未來社會又將呈現怎樣的風貌？

由於智慧型手機與IoT物聯網的普及，IDC觀察到全球的資訊數據量從2017年開始大幅增加，這些由各式各樣感測元件中所蒐集而來的數據，除了在量的方面以倍數生成，在質的方面，即時性或重要性資訊的比重也有越來越高的趨勢。IDC預估到2025年，全球有四成以上的資料量將是具備即時性、重要性、或極端重要特徵的數據。

舉例來說，企業在進行網路金流交易；醫生施行遠端醫療所傳輸的病患資料、生命癥相等監控數據；又或是未來自駕車行駛途中，與前方號誌或車輛間的溝通資訊等，上述種種及其所傳輸的資訊就屬於重要數據（Critical data）或極端重要的數據（Hypercritical data）。

因為一旦這類資料數據在傳輸途中遭遇斷線或丟失，將可能導致重大的生命財產損傷。也正因為要能即時處理這類重要資料，並且避免資訊傳遞時的可能產生的延誤、斷線、甚至丟失，「AI邊緣運算」的需求與重要性便油然而生。

IDC預估到2022年，全球將有四分之一的終端設備將具有AI邊緣運算的功能。擁有AI優化能力的邊緣運算系統處理器出貨量，也將由今（2019）年的3.4億台，成長到2023年的15億台，5年的複合成長率將達到64.9%。

觀察市場會選擇與看好AI邊緣運算的發展與優勢，就是強調邊緣運算在資料的處理與傳輸上能具備「低延遲」、「穩定可靠」、「隱私」（這裡尤其強調可離線處理的優勢）、「低功耗」、與「安全」等特性。擺脫過去終端裝置只能單純蒐集數據，一切仍需仰賴雲端回傳與計算的狀況。希望能夠藉由導入AI邊緣運算，進一步達到未來可以無須透過網路與雲端，便能利用智慧裝置中，經過預先機器學習與AI優化的處理器，來進行專屬與即時性的AI運算與應用。

對企業來說，搭配AI人工智慧與邊緣運算能力的裝置，除了能有效地提升企業工作效率，在資源整合與利用上也會更靈活與彈性，不但可以加速經營決策的制訂，也讓企業能在人力、資源、與商業模式中，相較過去能有更大的機會創造出多元與最佳的配置。不僅符合現今企業數位創新精神，也更容易吸引到具備多元技能、行事敏捷的人才。

在不久後的將來，我們將可以親眼見證到AI人工智慧與具備邊緣運算的智慧裝置，開始大量出現在我們周遭的環境中，它們不僅將改變我們的日常生活，同時也會是影響企業未來工作型態的一項重要指標與推手。

原因在於這些應用在生活與工作環境中的新興裝置與工具，有越來越多是基於或受惠AI相關的技術而被使用。特別是IDC從2017年便已預測，AI相關的技術與應用將積極由雲端擴展至終端，不論是智慧型手機、監控系統、物聯網、無人機、機器人、車載系統等終端裝置，基於即時反應、降低功耗、系統優化、或個人隱私等種種考量，朝向無須透過網路與雲端，於裝置中進行立即性的AI運算與判讀，做出專屬性或小規模的預先判別與應用。

甚至從今（2019）年開始，個人電腦也將會繼智慧型手機、智慧家居與物聯網裝置之後，大幅度導入AI邊緣運算技術，配合日常生活與工作使用，開發出更穩定、靈活、且符合人性化的操作與應用。無論是在電池續航力、檔案管理、身份識別、資料安全性保護、終端裝置間的互通與管理等面向，我們將陸續看到更多AI與邊緣運算的相關應用。而這些具備AI邊緣運算的智慧終端裝置，將徹底翻轉人類的生活與工作型態。

責任編輯：陳建鈞

《數位時代》長期徵稿，針對時事科技議題，需要您的獨特觀點，歡迎各類專業人士來稿一起交流。投稿請寄edit@bnext.com.tw，文長至少800字，請附上個人100字內簡介，文章若採用將經編輯潤飾，如需改標會與您討論。

（觀點文章呈現多元意見，不代表《數位時代》的立場。）

從生成式AI訓練、推論，到代理式工作流程（Agentic Workflow）與未來的實體AI，資料流量正以指數級成長，讓記憶體從過去支援運算的配角躍升為決定AI效能與能源效率的關鍵角色。

全球知名的半導體與微電子技術分析機構TechInsights指出，AI競爭正逐漸從晶片算力擴展到記憶體架構設計能力，加速「Computational Memory」等新架構興起；在這波浪潮中，深耕記憶體與儲存技術數十年的美光科技，正與關鍵夥伴展開深度協同設計，包含攜手NVIDIA共同開發適用於新世代資料中心的低功耗記憶體技術，在AI基礎建設的新賽局中成為不可或缺的關鍵。

當GPU不再是唯一主角，記憶體為何躍上AI舞台中央？

過去，半導體的焦點多圍繞在晶片，例如CPU、GPU跟AI加速器等，市場普遍認為，晶片運算能力是左右科技產業發展速度的關鍵，但在進入生成式AI世代後，產業逐漸發現另一個事實：真正限制AI效能的瓶頸不是運算，而是資料能否快速被存取與傳輸。

從大型語言模型訓練，到AI推論、代理式工作流程（Agentic Workflow），甚至未來的機器人與自駕車，龐大的資料流量正持續推升對高頻寬、低延遲、高容量記憶體的需求，讓記憶體產業從過去相對標準化、以價格競爭為主的市場，逐漸轉變為AI基礎建設的重要核心。

「仔細觀察AI應用服務會發現，大多數工作負載都被頻寬限制。」美光科技全球業務執行副總裁Mike Cordano認為，記憶體是突破（頻寬）瓶頸的關鍵，也讓AI競賽從晶片算力升級到記憶體與儲存架構的系統級競爭。這樣的產業洞察，也正是Mike在歷經二十餘年的儲存產業資歷，加上四年半的創投生涯後，選擇加入美光的核心原因之一：在AI重塑產業結構的浪潮下，記憶體將成為這波成長最直接的動能所在。

從零組件供應商到策略夥伴，記憶體共創時代來臨

AI的崛起，正在改變記憶體廠商與客戶的關係。

過去，記憶體產品多是標準化元件，客戶關注的是價格、供貨與規格；合作模式也偏向短期採購與交易導向。然而隨著AI系統規模愈來愈大，從資料中心、雲端平台到終端裝置，記憶體已經成為決定系統效能的重要關鍵，也因如此，越來越多企業將記憶體視為「策略性資產」，而非單純零組件。

Mike表示：「現在，我們跟客戶合作的時間跨度改變了，在產品正式上市前三到四年便開始合作，從系統架構階段就共同規劃未來需求。」例如，美光科技與NVIDIA共同研發的資料中心所使用的低功耗記憶體，便是雙方提前多年展開深度合作（co-design）的成果。

值得特別注意的是，美光科技除從技術層面與晶片製造商等夥伴共創產品，也在需求層面與客戶進行密切合作，例如，將過去較無約束力、期限僅一年的長期協議（LTA）轉變成為期五年、條款更具約束力的策略性客戶協議（SCA），藉此掌握客戶的未來需求，進而在技術層面做更深度的合作。Mike坦言，深度協同設計是高成本的投入，美光的做法是先廣泛進行市場感知，理解不同場域的需求方向，再與生態系統中的夥伴們展開客製化合作。

從裝置導向轉為Token導向，AI浪潮重寫記憶體成長模式

除了合作模式改變，更大的典範轉移是需求的改變。

Mike解釋，過去記憶體需求跟PC、手機跟伺服器出貨量息息相關，但在AI新世代，推動記憶體需求成長的核心不再是設備數量，而是AI模型所產生的運算與資料消耗量。「AI產業逐漸走向以『Consumption』或『Token』為主的新經濟模式，每一次的模型運算都需要消耗大量的記憶體跟儲存資源，這意味著，即使設備銷量成長趨緩，記憶體需求仍可能持續上升。」

更重要的是，AI應用正從資料中心外擴至手機、PC、自駕車與機器人等場域，儘管不同場域對記憶體的需求不盡相同，但是，Mike認為：所有AI裝置都存在三項共同需求：更快的速度、更大的容量，以及更高的能源效率。

正如Mike在受訪時提到的：「我們最大的挑戰，是如何與客戶和整個生態系保持高度一致，一方面創造供給與產能，另一方面持續推動技術創新。」可以預期，在接下來的五年，記憶體產業面臨的挑戰不僅僅是擴展產能，而是如何與客戶共同規劃需求、同步投入技術創新，而這也是美光科技積極經營AI生態體系的原因。

總的來說，AI帶來的改變，不只是算力提升，而是重新定義整個運算架構：過去，記憶體被視為支援運算的基礎元件；現在，則是決定AI效能、能源效率與創新速度的關鍵資源；當產業競爭從晶片性能延伸到資料流動效率，從裝置數量轉向Token消耗量，記憶體的重要性也將隨之水漲船高，對美光科技來說，這將是其從供應商走向AI生態系核心夥伴的關鍵角色轉變。