AI真正的主戰場在硬體
AI真正的主戰場在硬體

別誤會了,我熱愛軟體。

我只是覺得這一波已經接近尾聲——如果不是已經過了尾聲——的精實新創浪潮下,太多投資人和創業家口中念念有詞的、關於軟體新創的論點不過是一堆狗屁。

比這些關於軟體新創的狗屁更狗屁的,是毫無根據就把硬體投資視為過時的、難以產生回報的論點,即使面對了市場上公開資訊的反駁。

別誤會了,如果可以,我也想投資一個SaaS的商用軟體新創,看著他們用很少的資金做出MVP(Minimum Viable Product),然後用社群草根的方式取得眾多使用者,每週根據使用者的回饋以及蒐集到的數據改善並更新軟體,然後針對進階使用者每月收取費用,量測並改善耗損率,然後達成千萬使用戶、超過百分之百的年成長率以及九成以上的用戶留存率,取得最少五千萬美元的每年重複營收,然後以五億美元的價格出售給Salesforce這樣令人景仰的SaaS企業,並將創業家和Marc Benioff這樣令人景仰的創辦人簽約後握手的照片裱框,放在自己的桌子上朝外給所有進到自己辦公室的年輕創業家看。

等等,去他的投資!我乾脆自己創辦這樣的公司好了!

事實上,在動態均衡的商業世界裡,沒有任何一種商業模式或者產業具有永久的投資優勢。

興起於2004年的精實新創風潮為我們的世界帶來了臉書、推特、Youtube、Dropbox、Uber和Airbnb等日常生活的應用軟體,也連帶讓MVP、iteration和pivot變成熱門單字,更催生了一整個世代非工程背景也未曾創過業的新型風險資本家,他們在各大小新創活動中轉來轉去,以看似老練的口吻問著創業家,「你的每月活躍用戶量是多少?」

但在這樣低的創業和投資進入障礙的世界裡,伴隨而來的必然是激烈的全面競爭,不管是創業家彼此,或者風險資本家之間。這些競爭也許會反映在燒錢進行同業競爭上,也許反映在平均估值的不斷推升上。最終來說,產業抵達了動態均衡,人們也終於開始發現軟體精實新創並沒有比較容易創業,投資起來也沒有比較好賺。

似乎是歷史重演地,我們看到人工智慧的投資趨勢最近也反映出這樣的潮流反轉。

和精實新創經歷的一樣,我們不難想像過去兩年間滿手是錢的風險資本家們,乘著「人工智慧」、「機器學習」和「深度學習」的關鍵字浪潮,追逐著各種宣稱使用人工智慧、機器學習或深度學習來取代人類世界中某些由勞工負責的工作的新創。

而就跟精實新創投資一樣的,事實上任何有一點社會經驗的人都可以想像出任何一種「用AI取代人類」的新創應用。唯一不一樣的地方在於,要開發這樣的應用需要的不只是能夠寫邏輯程式代碼的coder,還需要懂得機器學習演算法的數學專家。

如果無法取得訓練模型用的資料,也是白搭

不夠格的投資者們,就像他們在精實新創浪潮中追著浪尾投資已經有數十家先行者的新創類型一樣,忙不迭地把錢灌進「能夠描繪某種AI使用情境」的軟體新創。稍微謹慎一點的投資者們,找來了從事相關研究的教授或者博士班學生來幫忙作盡職調查,以求避開明顯的騙子。

但不管是哪一種,打著「用AI取代人類」嘴砲的軟體新創仍然面臨兩個自己無法解決的挑戰。

其中一個就是我常常講的,就算是絕頂聰明的數學家或者資料科學家,如果無法取得訓練模型用的資料,那也是白搭,這也是為什麼在Hardware Club我們選擇投資提供從感測器到雲端機器學習完整系統的Full-stack AI新創。

另ㄧ個純軟體AI新創面臨的挑戰,則是在創業或者投資初期常常被忽略的硬體計算能力的限制。

常被忽略的硬體計算能力的限制

我在〈軟體吃掉世界,AI吃掉軟體〉一文中就曾經提到過,精實新創誕生的背景是晶片運算能力遠大於終端應用軟體所需,但機器學習的出現瞬間把這個落差給「闔上」了,突然間我們從毫不在乎硬體,又變得必須對硬體規格斤斤計較。

<iframe width="560" height="315" src="https://www.youtube.com/embed/eZdOkDtYMoo" frameborder="0" allowfullscreen></iframe>

上面這個影片是史丹佛大學CS231n課程〈卷積神經網路在影像辨識上的應用〉第十五堂課的講座影片,主講者是最近剛取得電機暨計算機科學博士學位、明年即將在麻省理工開始任教的Song Han,講座的題目就是他的博士論文〈深度學習的高效率演算法和硬體〉

我強烈建議對於機器學習有興趣的人,不管是創業家或投資者——把這個講座影片看完,因為看完之後他們就能理解為什麼我說AI真正的主戰場在硬體

舉例來說,這整個講座使用的術語大約有三四成是機器學習和深度學習相關的,剩下的術語卻都是所有半導體產業的「老人」們再熟悉不過的:CPU、GPU、FLOPS、DDR 3、DDR 4、記憶體頻寬等。

事實上如果直接去閱讀Song Han的博士論文,老半導體人會看到兩個很親切的名字:論文的主要指導教授Bill Dally以及協同指導教授Mark Horowitz。其中Dally教授所著作的教科書〈Digital Systems Engineering〉幾乎所有電機本科生人手一本,而Horowitz教授則是我當年在半導體的研究領域「高速數位串流介面」的權威,如果把我當年閱讀過的他的論文疊在一起,就算沒辦法到頂天花板,最少也夠站在上面換燈泡。

Song Han在這兩位半導體老將的指導下完成這個博士論文,而且還受邀在CS231n〈卷積神經網路在影像辨識上的應用〉課程給講座的原因非常簡單:我們現在的CPU或者GPU、甚至於谷歌的TPU,都遠遠無法應付現有機器學習演算法「可能」的運算需求,因此軟硬體協同開發是必要的。

當我們說CPU、GPU乃至於TPU無法應付機器學習「可能」的運算需求,有兩個事情是我們所在乎的:運算速度以及耗能

一般的創業家和投資者比較能夠理解運算速度的重要性,畢竟整個深度學習的大躍進就是在於過去得花上幾週甚至幾個月才能完成的神經網路運算,被降到幾天甚至幾小時,但較少創業家或投資者能夠理解耗能的重要性,因為在過去十餘年的精實新創浪潮中,耗能這種東西百分之百是高通、鴻海、蘋果和三星這些人的問題。

機器學習中「耗能」是個大挑戰

但是在機器學習中「耗能」是一個很大的挑戰,甚至會成為效能的障礙。

機器學習的耗能主要來自兩個領域。

(一)矩陣乘法:所建置的神經網路越多層,每一層的神經元數越多,所需要運算的矩陣乘法就愈多。而半導體邏輯晶片的乘法是由NAND閘組合出來的,每一個電晶體的節點都會在電壓上下擺動的過程中消耗掉能量。考慮到矩陣乘法所需要用到的邏輯閘數量驚人,而且隨著神經元和係數的增加以指數成長,這部分運算的耗能也就指數成長。

(二)記憶體存取:類神經網路的運算需要大量而且高速的記憶體存取,主處理器(不論是CPU或者GPU)和記憶體模組通常是不同的晶片,因此存取發生在印刷電路板上,大量的能量會被耗損在對抗印刷電路板和晶片封裝的雜散容和電阻上。

耗能劇烈的第一個影響是電力成本。以去年擊敗李世乭的AlphaGo為例,該系統使用了1920個CPU和280個GPU,光下一場棋局的電費就高達三千美元,相較之下李世乭本人下這場局可能只需要一兩碗飯的熱量,「電」腦和「人」腦在耗能效率上仍然有天壤之別。

但是如果做多少運算就付多少電費就能解決的話,那還好說。但耗能的最大問題是:不管是哪一種耗能方式,都會轉換成廢熱,這些廢熱必須排出去,才能讓系統正常運轉。但系統耗能產生廢熱的速度根據運算量成指數成長,排除廢熱的速度卻受限於熱力學和流體力學有著線性的特質,因此我們不難想像在邁向泛用型人工智慧的路上,我們可能會先被「熵」這個躲也躲不掉的敵人給擋住,而不是演算法。

AI真正的主戰場在硬體-圖表.jpg
機器學習演算法與硬體的最佳化方式

在Song Han的講座中,他介紹了各種軟體演算法和硬體晶片結構的協同最佳化,以應付機器學習中training和inference兩個部分的耗能效率挑戰。但是不管是哪一種方式,不管改善多少運算效能和耗能效率,從工程的角度來看都是短期的、貼貼補補之類的解決方案,在摩爾定律多年前早已停止改善耗能的事實下,這些方案並沒辦法提供一個康莊大道通往真正的人工智慧經濟學終局

這也是作為風險資本投資者,我們致力於尋找著半導體邏輯運算以外的解決方案的原因。在之前專欄〈量子電腦春暖花開〉中我所介紹過的量子電腦是一種,而且理論上是最能夠應付無限延伸的未來中機器學習運算需求的一種。

但量子電腦的問題在於,目前不管是新創或者谷歌、IBM乃至於Intel等大廠的系統,都必須把溫度降到絕對零度附近,才能進行量子運算,地球上的降溫系統本身就是一個極為耗能的裝置,要等到綜合能源效率和建置成本到達可以和半導體晶片相比擬,恐怕還要不少的時光。

那麼有沒有其他的方式能夠比半導體有著高許多的耗能效率,但又沒有量子電腦那接近絕對零度的挑戰呢?答案也許存在自然界裡,就像是量子電腦採用物理特性進行運算,自然界也有許多物理現象包含了矩陣乘法的特質,也許我們可以找到一種運算方式,是將資料轉換成自然界的物理現象,在那裡完成運算,然後再匯回電腦系統中。這種運算統稱為「類比運算」(analog computing),其實是一門很古老的學問,遠在數位晶片高速成長的年代之前,幾乎所有的運算都是在類比世界中發生的。

作為投資者,我尋找著也等待著能夠善用類比運算來大幅加速機器學習的創業家,如果能夠投資到這樣的新創,我不介意錯過Blue Apron這樣的投資機會一百次!

本文由楊建銘授權轉載自其風傳媒專欄。

《數位時代》長期徵稿,針對時事科技議題,需要您的獨特觀點,歡迎各類專業人士來稿一起交流。投稿請寄edit@bnext.com.tw,文長至少800字,請附上個人100字內簡介,文章若採用將經編輯潤飾,如需改標會與您討論。

(觀點文章呈現多元意見,不代表《數位時代》的立場。)

往下滑看下一篇文章
71% 台灣企業資安評級待強化!QNAP World Tour 2026盛大開場,剖析 Edge AI 與營運韌性新局
71% 台灣企業資安評級待強化!QNAP World Tour 2026盛大開場,剖析 Edge AI 與營運韌性新局

近年隨著主權 AI 議題持續升溫,企業開始重新思考資料與算力的部署方式,希望讓敏感資料留在地端,同時具備就近運算的能力,這也進一步加速 Edge AI 的發展。然而,當 AI 從雲端走向本地端與邊緣端時,企業除了追求運算效能與應用創新,更必須確保服務的穩定可靠。畢竟,再先進的 AI 應用,一旦因資安攻擊、設備故障或資料損毀而停擺,就會無法創造商業價值。

換句話說,「AI 創新」與「營運韌性」已不再是兩條各自獨立的單行道。企業加速 AI 布局的同時,也需要一套能守護資料安全、具備快速復原能力並確保營運不中斷的 IT 基礎架構。

因此,在本月 18 日盛大登場的「QNAP World Tour 2026 台北場|立足 Edge AI,決勝企業全方位韌性」論壇中,QNAP 總經理劉文義指出,企業需要的已經不只是把資料存下來,而是一套能同時支撐 AI 創新與營運不中斷的韌性平台。QNAP 此次聚焦企業韌性與 Edge AI 兩大主軸,深度剖析企業 IT 基礎架構如何兼顧穩健營運與 AI 智慧應用,同時展出高效能邊緣 AI 伺服器、企業級 ZFS 全快閃 NAS、網管型交換器等多項新產品,全面滿足企業下一階段的轉型需求。

QNAP
QNAP總經理劉文義指出,企業需要的已不只是把資料存下來,而是一套能同時支撐AI創新與營運不中斷的韌性平台。
圖/ 數位時代

從一站式 AI 平台至監控、影音應用,QNAP 加速 Edge AI 落地

在邊緣 AI 領域,QNAP 除了提供 GPU-Ready 的 Edge AI 平台與管理軟體 AI Service Center,更進一步推出 Qsirch AI、QuONE 及 QuAgent 等應用服務,打造從 AI 運算、模型管理、RAG 私有知識庫到 Agent 智慧應用的一站式企業 AI 平台。

QNAP資深智慧儲存產品經理 Yuna Chen形容,AI Service Center 就像一個管理中樞,IT 管理者可在單一介面統一管理所有 AI 應用所使用的模型與金鑰,也能隨時查詢 Token 用量、成本與稽核紀錄,清楚掌握誰在什麼時間點呼叫了哪些模型,讓企業在導入 AI 應用的同時,也能兼顧管理與治理需求。同時Yuna Chen也分享 NAS 結合AI 的使用者體驗,藉由執行在 QNAP NAS 上的對話式 AI 代理程式 QuAgent,自然語言能直接轉化為操作介面,使用者透過對話即可完成檔案搜尋、備份、系統查詢等工作;而 QuONE 則將行動裝置與 AI 技術深度結合,將原本分散的多款應用整合至單一入口,使用者只需一次登入,就能快速存取所需服務,徹底告別繁瑣的跨應用切換與登入流程,打造最直覺的 NAS 智慧助理體驗。

QNAP
QNAP資深智慧儲存產品經理Yuna Chen說明,AI Service Center可統一管理AI應用的模型與金鑰,並掌握Token用量、成本與稽核紀錄。
圖/ 數位時代

QNAP 智慧儲存產品經理 Vivian Luo 則說明,Qsirch AI 導入強大的語意理解與多模態檢索能力,能將 NAS 內的巨量檔案轉化為隨查即用的知識庫。使用者只要以自然語言描述內容,就能搜尋 NAS 裡的文件、圖片、影音與音訊等不同格式資料。影音檔案還可自動生成逐字稿,讓過去難以檢索的音訊與影片內容也能被全文搜尋。而所有索引皆在 NAS 本機完成,檔案不上傳雲端,兼顧搜尋效率與資料隱私。

QNAP
QNAP智慧儲存產品經理Vivian Luo表示,Qsirch AI具備語意理解與多模態檢索能力,索引皆在NAS本機完成,兼顧搜尋效率與資料隱私。
圖/ 數位時代

除了打造一站式 AI 平台,QNAP 也將 Edge AI 能力延伸至監視監控場域。QNAP 智慧視訊產品部部長 Hanz Sung 指出,QNAP 結合 AI 發展出 Deep Search、SkiLLM 等服務,使用者可以透過自然語言去描述想要搜尋的影像片段,或要求系統執行影像分析、產出調查報告與佐證影片等任務,不僅降低人工調閱影像與事件調查負擔,也讓視訊監控系統從被動記錄的角色,進一步升級為主動分析的監控顧問。

在視訊監控外,另一個 Edge AI 的應用則是影音內容產製。受到影音檔案容量指數級成長、AI 創作普及與多人協作之需求,高效能儲存與低延遲傳輸已成為影響創作效率的關鍵因素。

QNAP
QNAP智慧視訊產品部部長Hanz Sung指出,結合Deep Search、SkiLLM等AI服務,可讓視訊監控系統從被動記錄升級為主動分析的監控顧問。
圖/ 數位時代

QNAP 智慧儲存產品經理 Eddie Chuang 表示,QNAP 新一代 NAS 機種不僅支援 Thunderbolt™ 5 高速傳輸、可擴充 25GbE/100GbE、內建 NPU 加速等設計,更運用 AI 提升影音團隊管理與使用素材的效率,例如:透過地端 AI 運算,NAS 可以進一步化身為專案知識庫,協助團隊查詢過往剪輯邏輯、彙整客戶回饋,甚至快速確認素材版權狀態。

QNAP
QNAP智慧儲存產品經理Eddie Chuang表示,新一代NAS支援Thunderbolt 5高速傳輸與內建NPU加速,運用地端AI提升影音團隊協作效率。
圖/ 數位時代

從資料確信復原、高可用性到主動式威脅偵測,QNAP 層層築起營運韌性

除了 Edge AI 佈局,本場論壇的第二個主軸「營運韌性」,則從資料備份、高可用性與資安三個面向出發。QNAP 總經理劉文義也於開場引述 QNAP 於 8 月針對台灣 241 家企業進行的資安韌性調查,指出 71% 企業的資安綜合評級落在「待強化」以下,更有 53% 無法確保備份免於被刪除或篡改,揭示了國內企業 IT 架構在應對資安攻擊與營運中斷時的重大潛在風險。

QNAP 資深智慧儲存產品經理 Jack Wang 認為,企業資料備份現正面臨的挑戰是,遭遇災難或事故時,備份資料能否「真正被完整還原」,讓營運迅速恢復正常。為此,QNAP 在最新的備份解決方案 HDP for Business 中,整合自動化備份驗證與快速還原機制。當資料備份完成後,自動於 NAS 上以虛擬機 (VM) 開機驗證,並將過程錄影存證,讓 IT 主管與稽核人員有實際可查驗的復原證明;一旦事故真的發生,Instant Restore 則能直接將備份以 VM 型態在 NAS 上啟動、暫時接手服務,將復原時間從過去以天為單位來計算縮短至分鐘等級,為企業營運建立第一道防線。

QNAP
QNAP資深智慧儲存產品經理Jack Wang說明,HDP for Business整合自動化備份驗證,搭配Instant Restore可將復原時間縮短至分鐘等級。
圖/ 數位時代

除了備份資料的可復原性,確保關鍵服務在故障發生時依然能持續運作,更是營運韌性的重中之重。尤其隨著 AI 應用深入核心業務,一旦系統遭受非預期停擺,影響的不只是 IT 部門,更可能直接造成營運中斷與商業損失。為此,QNAP 針對硬體、系統、站點、容量及應用五個可能發生故障的層級,分別提出對應解決方案,協助企業打造高可用性的 IT 架構。

QNAP 資深儲存系統產品經理 Oliver Lam 進一步舉例,像是系統層的 QuTS hero High Availability Manager 採用 Active-Passive 雙機叢集,可在 90 秒內完成故障切換;硬體層的 ES NAS 則透過 Active-Active 雙主控架構,在控制器故障時,可於 30 至 60 秒內接管服務,讓企業在遭遇突發故障時,關鍵服務仍能快速切換至備援系統,將停機時間與營運衝擊降至最低。

QNAP
QNAP資深儲存系統產品經理Oliver Lam舉例,QuTS hero High Availability Manager可在90秒內完成故障切換,強化企業高可用性架構。
圖/ 數位時代

而造成系統停擺的原因,除了重大災害,可能是資安攻擊,因此,營運韌性的另一道防線,就是在威脅真正造成破壞之前,及早發現異常。QNAP 先進網通產品經理 Ruby Chan 指出,面對勒索軟體、零日攻擊等資安威脅,企業需要的資安工具,不只是可以防禦威脅,更要具備主動持續偵測與快速應變能力。

QNAP
QNAP先進網通產品經理Ruby Chan指出,面對勒索軟體與零日攻擊等資安威脅,企業所需的資安工具須具備主動持續偵測與快速應變能力。
圖/ 數位時代

自推出以來,深獲企業客戶青睞的 QNAP ADRA NDR X 內網資安防禦解決方案,內建超過 4.3 萬筆且還在持續更新的特徵規則,不僅能偵測出已知攻擊,還搭配 AI 行為分析技術去建立裝置的日常行為基準,主動辨識零時差攻擊與異常行為;更透過 LLM 將可疑封包與事件串連成完整攻擊鏈,協助 IT 人員快速掌握威脅脈絡。當系統偵測到高風險事件時,還能與 QNAP NAS 聯動、自動觸發快照,保留遭到加密或破壞前的資料版本,將資安防護從威脅偵測一路延伸到事件應變與資料復原,建立更完整的營運韌性防線,協助中小企業以高性價比的資安投資,輕鬆實現企業級內網防護能力。

當 AI 從雲端走向邊緣,企業 IT 基礎架構肩負的任務也隨之擴大,既要支撐 AI 創新,更要確保資料安全與營運不中斷。從 Edge AI 平台、場域應用,到資料復原、高可用性與資安防護,QNAP 正持續擴展 NAS 的角色,躍升為數位資產與營運連續性的關鍵守護者,協助企業打造穩健的 IT 底座,以全力追求創新、運用 AI 創造更大的商業價值;而QNAP 也深信再強大的技術,最終都要回到每一位使用者的日常體驗 ─ 安全、便利、穩定可靠。

QNAP
QNAP World Tour 2026台北場吸引大批IT從業人員到場,展區同步展示邊緣AI伺服器、企業級全快閃NAS等多項新品實機。
圖/ 數位時代
QNAP
現場同步展出Seagate等合作夥伴的「AI READY智慧資料管理」方案,呼應論壇聚焦Edge AI與企業韌性的雙主軸命題。
圖/ 數位時代

錯過了台北場沒關係! QNAP World Tour即將進行全台巡迴
立即報名:
QNAP World Tour 2026 高雄場
10/22 (四) | 13:00- 16:00 |
高雄翰品酒店春耕廳
https://campaign.qnap.com/registration_QNAPWorldTour2026_Taiwan_Kaohsiung
QNAP World Tour 2026 台中場
11/05 (四) | 13:00- 16:00|
台中福華大飯店 5F CR500 會議室
https://campaign.qnap.com/registration_QNAPWorldTour2026_Taiwan_Taichung

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
台達電全解讀
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓