AI真正的主戰場在硬體
AI真正的主戰場在硬體

別誤會了,我熱愛軟體。

我只是覺得這一波已經接近尾聲——如果不是已經過了尾聲——的精實新創浪潮下,太多投資人和創業家口中念念有詞的、關於軟體新創的論點不過是一堆狗屁。

比這些關於軟體新創的狗屁更狗屁的,是毫無根據就把硬體投資視為過時的、難以產生回報的論點,即使面對了市場上公開資訊的反駁。

別誤會了,如果可以,我也想投資一個SaaS的商用軟體新創,看著他們用很少的資金做出MVP(Minimum Viable Product),然後用社群草根的方式取得眾多使用者,每週根據使用者的回饋以及蒐集到的數據改善並更新軟體,然後針對進階使用者每月收取費用,量測並改善耗損率,然後達成千萬使用戶、超過百分之百的年成長率以及九成以上的用戶留存率,取得最少五千萬美元的每年重複營收,然後以五億美元的價格出售給Salesforce這樣令人景仰的SaaS企業,並將創業家和Marc Benioff這樣令人景仰的創辦人簽約後握手的照片裱框,放在自己的桌子上朝外給所有進到自己辦公室的年輕創業家看。

等等,去他的投資!我乾脆自己創辦這樣的公司好了!

事實上,在動態均衡的商業世界裡,沒有任何一種商業模式或者產業具有永久的投資優勢。

興起於2004年的精實新創風潮為我們的世界帶來了臉書、推特、Youtube、Dropbox、Uber和Airbnb等日常生活的應用軟體,也連帶讓MVP、iteration和pivot變成熱門單字,更催生了一整個世代非工程背景也未曾創過業的新型風險資本家,他們在各大小新創活動中轉來轉去,以看似老練的口吻問著創業家,「你的每月活躍用戶量是多少?」

但在這樣低的創業和投資進入障礙的世界裡,伴隨而來的必然是激烈的全面競爭,不管是創業家彼此,或者風險資本家之間。這些競爭也許會反映在燒錢進行同業競爭上,也許反映在平均估值的不斷推升上。最終來說,產業抵達了動態均衡,人們也終於開始發現軟體精實新創並沒有比較容易創業,投資起來也沒有比較好賺。

似乎是歷史重演地,我們看到人工智慧的投資趨勢最近也反映出這樣的潮流反轉。

和精實新創經歷的一樣,我們不難想像過去兩年間滿手是錢的風險資本家們,乘著「人工智慧」、「機器學習」和「深度學習」的關鍵字浪潮,追逐著各種宣稱使用人工智慧、機器學習或深度學習來取代人類世界中某些由勞工負責的工作的新創。

而就跟精實新創投資一樣的,事實上任何有一點社會經驗的人都可以想像出任何一種「用AI取代人類」的新創應用。唯一不一樣的地方在於,要開發這樣的應用需要的不只是能夠寫邏輯程式代碼的coder,還需要懂得機器學習演算法的數學專家。

如果無法取得訓練模型用的資料,也是白搭

不夠格的投資者們,就像他們在精實新創浪潮中追著浪尾投資已經有數十家先行者的新創類型一樣,忙不迭地把錢灌進「能夠描繪某種AI使用情境」的軟體新創。稍微謹慎一點的投資者們,找來了從事相關研究的教授或者博士班學生來幫忙作盡職調查,以求避開明顯的騙子。

但不管是哪一種,打著「用AI取代人類」嘴砲的軟體新創仍然面臨兩個自己無法解決的挑戰。

其中一個就是我常常講的,就算是絕頂聰明的數學家或者資料科學家,如果無法取得訓練模型用的資料,那也是白搭,這也是為什麼在Hardware Club我們選擇投資提供從感測器到雲端機器學習完整系統的Full-stack AI新創。

另ㄧ個純軟體AI新創面臨的挑戰,則是在創業或者投資初期常常被忽略的硬體計算能力的限制。

常被忽略的硬體計算能力的限制

我在〈軟體吃掉世界,AI吃掉軟體〉一文中就曾經提到過,精實新創誕生的背景是晶片運算能力遠大於終端應用軟體所需,但機器學習的出現瞬間把這個落差給「闔上」了,突然間我們從毫不在乎硬體,又變得必須對硬體規格斤斤計較。

上面這個影片是史丹佛大學CS231n課程〈卷積神經網路在影像辨識上的應用〉第十五堂課的講座影片,主講者是最近剛取得電機暨計算機科學博士學位、明年即將在麻省理工開始任教的Song Han,講座的題目就是他的博士論文〈深度學習的高效率演算法和硬體〉。

我強烈建議對於機器學習有興趣的人,不管是創業家或投資者——把這個講座影片看完,因為看完之後他們就能理解為什麼我說AI真正的主戰場在硬體。

舉例來說,這整個講座使用的術語大約有三四成是機器學習和深度學習相關的,剩下的術語卻都是所有半導體產業的「老人」們再熟悉不過的:CPU、GPU、FLOPS、DDR 3、DDR 4、記憶體頻寬等。

事實上如果直接去閱讀Song Han的博士論文,老半導體人會看到兩個很親切的名字:論文的主要指導教授Bill Dally以及協同指導教授Mark Horowitz。其中Dally教授所著作的教科書〈Digital Systems Engineering〉幾乎所有電機本科生人手一本,而Horowitz教授則是我當年在半導體的研究領域「高速數位串流介面」的權威,如果把我當年閱讀過的他的論文疊在一起,就算沒辦法到頂天花板,最少也夠站在上面換燈泡。

Song Han在這兩位半導體老將的指導下完成這個博士論文,而且還受邀在CS231n〈卷積神經網路在影像辨識上的應用〉課程給講座的原因非常簡單:我們現在的CPU或者GPU、甚至於谷歌的TPU,都遠遠無法應付現有機器學習演算法「可能」的運算需求,因此軟硬體協同開發是必要的。

當我們說CPU、GPU乃至於TPU無法應付機器學習「可能」的運算需求,有兩個事情是我們所在乎的:運算速度以及耗能。

一般的創業家和投資者比較能夠理解運算速度的重要性,畢竟整個深度學習的大躍進就是在於過去得花上幾週甚至幾個月才能完成的神經網路運算,被降到幾天甚至幾小時,但較少創業家或投資者能夠理解耗能的重要性,因為在過去十餘年的精實新創浪潮中,耗能這種東西百分之百是高通、鴻海、蘋果和三星這些人的問題。

機器學習中「耗能」是個大挑戰

但是在機器學習中「耗能」是一個很大的挑戰,甚至會成為效能的障礙。

機器學習的耗能主要來自兩個領域。

(一)矩陣乘法:所建置的神經網路越多層,每一層的神經元數越多,所需要運算的矩陣乘法就愈多。而半導體邏輯晶片的乘法是由NAND閘組合出來的,每一個電晶體的節點都會在電壓上下擺動的過程中消耗掉能量。考慮到矩陣乘法所需要用到的邏輯閘數量驚人,而且隨著神經元和係數的增加以指數成長,這部分運算的耗能也就指數成長。

(二)記憶體存取:類神經網路的運算需要大量而且高速的記憶體存取,主處理器(不論是CPU或者GPU)和記憶體模組通常是不同的晶片,因此存取發生在印刷電路板上,大量的能量會被耗損在對抗印刷電路板和晶片封裝的雜散容和電阻上。

耗能劇烈的第一個影響是電力成本。以去年擊敗李世乭的AlphaGo為例,該系統使用了1920個CPU和280個GPU,光下一場棋局的電費就高達三千美元,相較之下李世乭本人下這場局可能只需要一兩碗飯的熱量,「電」腦和「人」腦在耗能效率上仍然有天壤之別。

但是如果做多少運算就付多少電費就能解決的話,那還好說。但耗能的最大問題是:不管是哪一種耗能方式,都會轉換成廢熱,這些廢熱必須排出去,才能讓系統正常運轉。但系統耗能產生廢熱的速度根據運算量成指數成長,排除廢熱的速度卻受限於熱力學和流體力學有著線性的特質,因此我們不難想像在邁向泛用型人工智慧的路上,我們可能會先被「熵」這個躲也躲不掉的敵人給擋住,而不是演算法。

AI真正的主戰場在硬體-圖表.jpg
機器學習演算法與硬體的最佳化方式

在Song Han的講座中,他介紹了各種軟體演算法和硬體晶片結構的協同最佳化,以應付機器學習中training和inference兩個部分的耗能效率挑戰。但是不管是哪一種方式,不管改善多少運算效能和耗能效率,從工程的角度來看都是短期的、貼貼補補之類的解決方案,在摩爾定律多年前早已停止改善耗能的事實下,這些方案並沒辦法提供一個康莊大道通往真正的人工智慧經濟學終局。

這也是作為風險資本投資者,我們致力於尋找著半導體邏輯運算以外的解決方案的原因。在之前專欄〈量子電腦春暖花開〉中我所介紹過的量子電腦是一種,而且理論上是最能夠應付無限延伸的未來中機器學習運算需求的一種。

但量子電腦的問題在於,目前不管是新創或者谷歌、IBM乃至於Intel等大廠的系統,都必須把溫度降到絕對零度附近,才能進行量子運算,地球上的降溫系統本身就是一個極為耗能的裝置,要等到綜合能源效率和建置成本到達可以和半導體晶片相比擬,恐怕還要不少的時光。

那麼有沒有其他的方式能夠比半導體有著高許多的耗能效率,但又沒有量子電腦那接近絕對零度的挑戰呢?答案也許存在自然界裡,就像是量子電腦採用物理特性進行運算,自然界也有許多物理現象包含了矩陣乘法的特質,也許我們可以找到一種運算方式,是將資料轉換成自然界的物理現象,在那裡完成運算,然後再匯回電腦系統中。這種運算統稱為「類比運算」(analog computing),其實是一門很古老的學問,遠在數位晶片高速成長的年代之前,幾乎所有的運算都是在類比世界中發生的。

作為投資者,我尋找著也等待著能夠善用類比運算來大幅加速機器學習的創業家,如果能夠投資到這樣的新創,我不介意錯過Blue Apron這樣的投資機會一百次!

本文由楊建銘授權轉載自其風傳媒專欄。

《數位時代》長期徵稿,針對時事科技議題,需要您的獨特觀點,歡迎各類專業人士來稿一起交流。投稿請寄edit@bnext.com.tw,文長至少800字,請附上個人100字內簡介,文章若採用將經編輯潤飾,如需改標會與您討論。

(觀點文章呈現多元意見,不代表《數位時代》的立場。)

往下滑看下一篇文章
從人才培育到跨域創新!法國皇家推「AI for Pets 創新徵件計畫」,為寵物照護開創新可能
從人才培育到跨域創新!法國皇家推「AI for Pets 創新徵件計畫」,為寵物照護開創新可能

AI 不只能改變人類的生活,更能為毛孩帶來哪些變革?自 1968 年創立以來,寵物健康營養領導品牌法國皇家(Royal Canin)便致力於以科學與數據為基礎,依據貓犬的品種、年齡與健康狀況,提供符合個別需求的精準營養方案。如今,隨著毛孩高齡化,以及疾病照護、流浪動物收容等需求日益多元,法國皇家也開始思考,如何運用 AI 將長年累積的「精準營養」理念延伸至更全面的「精準照護」。

為此,法國皇家推出「2026 法國皇家 AI for Pets 創新徵件計畫」,成為台灣首度以「AI 寵物照護」為主題的公開徵件活動。活動祭出總奬金 100 萬元,預計選出 10 名獲獎隊伍,希望串聯台灣科技人才與寵物照護生態系,運用 AI 協助獸醫師、收容單位與飼主解決實際難題,讓科技成為改善寵物生活的助力。

#0 法國皇家
圖/ 法國皇家

從主管賦能到適才適所,法國皇家的人才培育哲學

「我們期待透過競賽為寵物產業注入創新動能,也為台灣科技人才創造展現實力的舞台,」法國皇家香港台灣總經理張堇琪一語道出舉辦本次活動的原因。

她觀察,台灣科技人才具備深厚實力;而面對當前貓犬高齡化與收容長照的挑戰,寵物健康領域正處於科技轉型的關鍵時刻,也還存在許多尚未被滿足的需求,希望透過競賽串聯科技人才與第一線的真實照護痛點,讓科技轉化為實質的守護力量,也為跨領域人才開闢一條投入毛孩經濟的快速通道。

#2 法國皇家
法國皇家香港台灣總經理張堇琪
圖/ 數位時代拍攝

事實上,法國皇家對人才價值的重視,不只展現在對外部科技人才的支持,更早已落實於內部人才培育制度。「我們極為重視直屬主管的培育,因為我們相信,每位同仁都值得擁有一位好主管。」張堇琪指出,這正是法國皇家所強調的「Great Line Manager」理念。

為了落實這項理念,法國皇家發展出一套融合企業文化的訓練系統,搭配一對一專業教練輔導,協助新任主管逐步掌握帶領團隊的方法與技巧;此外,集團也建立跨國交流機制,例如總經理社群(GM Community),讓不同市場的領導者分享經驗、相互學習。透過多元方式持續精進主管的領導與管理能力,讓他們更懂得如何帶領團隊、營造良好的職場氛圍,進而提升同仁的工作投入度與整體組織生產力。

除了主管賦能,法國皇家亦同樣重視基層同仁的培育,並強調「從個人出發」的精神。例如,定期提撥學習基金,讓同仁可以自主選擇有助於職涯與個人成長的課程,全方位支持同仁成為更好的自己。又如,引進霍根測評系統(Hogan Assessments),透過科學化評估工具,協助同仁深入了解自身的能力與人格特質,與主管共同規劃適合的成長路徑,也讓主管能精準調配團隊分工、達成適才適所目標,讓每位夥伴的潛力都能獲得充分發揮。

互惠精神走出企業內部,為第一線獸醫人才注入更多專業能量

這些做法背後,反映的是法國皇家母集團瑪氏(Mars) 所強調的互惠(Mutuality)原則。企業投資人才,不只是為了追求營運績效,更希望每位同仁都能在工作與生活中持續成長。而這份互惠精神,也從企業內部延伸至整個寵物照護產業。

「要讓寵物獲得好的照顧,首先也要照顧好那些照顧寵物的人。」張堇琪強調,獸醫師與獸醫助理是守護毛孩健康的第一線基石,唯有提供足夠的專業資源與支持,才能讓他們更有能力照顧好每一隻寵物。

因此,法國皇家長期投入獸醫專業人才培育,尤其著重傳統獸醫養成教育中,比重相對有限的營養學知識。例如,與台大獸醫學系合作,安排授課教授赴法國總部與營養專家交流、提供前沿的寵物營養研究數據、指派具獸醫師資格的同仁協助課堂教學、媒合獸醫系學生至動物醫院實習,累積臨床經驗等。

值得注意的是,法國皇家對獸醫人才的培育並不局限於營養專業,更延伸至醫病溝通技巧,協助獸醫團隊以淺顯易懂的方式向飼主解釋複雜病情,不僅能有效提升衛教溝通效率,也能建立更堅實的醫病信任關係。

不只追求商業價值!AI for Pets 四大主題探索寵物照護新解方

從內部人才培育到獸醫專業賦能,法國皇家一直相當重視人才的價值。延續這份理念,張堇琪也希望透過 AI for Pets 創新徵件計畫,為這座科技島上有想法、有技術的人才搭建發揮所長的舞台。為此,法國皇家攜手工業技術研究院、台灣人工智慧協會及臺大創意創業中心,串聯產學研資源,讓更多具潛力的創新構想被看見,也為科技人才開啟探索寵物產業應用的新機會。

而要讓科技人才的創意能夠回應第一線的照護痛點,首先必須找對問題。法國皇家從貓犬生命歷程出發,歸納出就醫、日常、收容到相遇四大照護場景,並轉化為「獸醫照護」、「預防保健」、「流浪動物福利」與「負責任的飼主」四大徵件主題,引導參賽者從診間、家庭或收容場域等不同角度切入,探索 AI 在寵物照護上的應用可能。

令人好奇的是,相較於企業通常優先考量具有商業價值的應用,「流浪動物福利」未必能為法國皇家帶來直接營收,為什麼會被列為這次競賽的重要主題?「因為我們對寵物福祉的關注,並不局限於具有商業價值的市場需求,」張堇琪回答,流浪動物往往缺乏足夠的照護資源,第一線動保團體與志工也需要更多支持。因此,法國皇家希望藉由這次競賽,讓科技創新的成果也能惠及那些最需要幫助的毛孩與動保工作者,落實「為寵物創造更美好的世界」的品牌使命。

對張堇琪而言,這場計畫的價值不只在於選出優秀作品,更希望讓參賽者看見自身技術能為寵物產業帶來的貢獻,從中建立信心,持續探索更多應用落地的可能。這也呼應瑪氏集團所重視的「互惠」原則:科技人才得以發揮所長,寵物產業也能獲得新的解決方案,也讓社會共享創新成果。

「我們歡迎所有想透過科技改善寵物生活的人來參加,就算不具備寵物產業背景也沒關係,專業知識可以由我們來補足,更重要的是解決問題的能力,以及對毛孩的用心。」張堇琪強調,法國皇家期待透過這次競賽,催生更多能實際落地的創新解方,讓跨領域創新的力量持續為寵物照護帶來新的可能。


🏆 徵件資訊

∙ 總獎金:100 萬元(冠軍最高 40 萬元)
∙ 參賽資格:年滿 18 歲,不限學生、業界人士或新創團隊(1–5 人組隊參加)
∙ 徵件截止:即日起至 2027/1/6(三)17:00 止
∙ 早鳥限定:於早鳥期限前完成報名,並於初賽截止前完成提案繳交且通過資格審核,法國皇家將捐贈 20 公斤飼料予社團法人台灣同伴動物扶助協會(犬山居),每位正式隊員還可獲得專屬早鳥禮一份!
∙ 競賽官網與報名簡章

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓