問一次ChatGPT，比網路搜尋多花10倍資源！生成式AI能耗大，高通揭2大突破關鍵|數位時代 BusinessNext

生成式AI資源耗費大，「混合式AI」、「更小的LLM」成突破口

自網路普及的數十年以來，人們從習以為常的「Google一下」獲取解答，在近幾年生成式AI技術成熟後，越來越多人變成各種大小事都「去問ChatGPT」，並運用在工作上提升生產力。不過，在生成式AI所帶來的便利背後，代價是比過去高上許多倍的能源消耗。

「每次生成式AI的詢問（inquiry）、推論（inference），所需的資源是一般上網搜尋的10倍！」劉思泰舉例，不論是和ChatGPT問答、美化照片、輔助程式設計等各項生成式AI功能加起來，再乘上全世界的人口，所需要的運算資源以及電力耗費是十分可觀。

業界也越發認知到，不可能將所有的AI訓練及推論，都放在雲端執行，而是需要 雲端運算及終端裝置運算結合的「混合式AI」（Hybrid AI） 。劉思泰解釋，即是把一部分的AI功能，主要是推論，分散到筆電、智慧型手機、智慧車等各種裝置上，需要大量資料的模型訓練則在雲端處理。

他並提及，在終端裝置的設計上，要考量各種不同的技術，包括高內存的記憶體、低耗電的網路，以及續航力及散熱，都需達到消費者能接受的程度。

另一方面，生成式AI核心的「大型語言模型」（Large Language Model，LLM），也開始有了典範轉移，並非參數越多越好，更少參數的「小型」大語言模型（LLM），能力變得更強，也更適合部署在裝置上。

劉思泰指出，例如80億個參數的Llama3模型，能力已和擁有1750億個參數的GPT-3.5Turbo在伯仲之間。規模更小的大語言模型，在裝置端更容易運行，也成為生成式AI能在裝置端落地的重要突破方向。

責任編輯：林美欣

走進蔬果加工廠，同樣是100公斤高麗菜，最後能做出多少成品？答案不見得相同。氣候、產地與品質影響原料條件，客戶要求的切法、重量與交期也各不相同。對曾任科技業研發主管十多年的宜展科技農業執行長林佑澤而言，這是與科技製造截然不同的世界。

「農業部分全部都不一致。」林佑澤以青江菜為例，即使機械手臂已經訓練好辨識特徵，面對形狀各異的蔬菜，仍難以判斷該從哪裡抓取。農產品的天然變數，卻得面對學校團膳、連鎖餐飲、航空空廚等企業客戶對品質與交期的要求。如何讓加工流程穩定運作，成為宜展投入數位轉型的起點。

從紙本、LINE到數據，先把現場經驗留下來

目前宜展一年處理數千噸蔬果、服務超過120家企業客戶，業務涵蓋採購、截切、清洗、包裝與配送。林佑澤觀察，農產加工的關鍵經驗往往掌握在資深員工手中：該買多少菜、原料損耗多少、訂單增加又該安排多少人力，都仰賴現場判斷。

「主要就是把人的經驗變成數據。」林佑澤說。過去客戶透過LINE或紙本下單，現場靠人工整理訂單、對照不同客戶的加工規格；如今宜展利用AI辨識訂單內容並匯入ERP，再依客戶、品項與規格進行標籤化派工。製程則透過QR Code記錄原料投入量與成品產出量，逐步掌握各環節的加工損耗。

接下來是整理現場的判斷依據。林佑澤透過與資深員工對談，了解採購、派工與品管的作業方式，再利用AI協助找出規則、建立SOP。AI整理出的流程仍須由現場人員逐項確認、修正，才能實際執行。

品質管理也在持續改善。傳統金屬檢測器難以辨識菜蟲、橡皮筋等非金屬異物，宜展正與技術夥伴規劃導入AI影像辨識，輔助產線末端檢查。林佑澤表示，每批農產品品質不同，比起單看良率，他更重視客訴是否減少。隨著訂單與製程資訊逐步累積，宜展也希望進一步建立需求預測、採購建議與生產排程模型，減少營運對資深員工個人經驗的依賴。

不只把菜切好，乾燥加工尋找第二成長曲線

除了改善截切本業，宜展也開始發展乾燥加工。學校團膳在寒暑假面臨需求波動，生鮮蔬果則有保存期限短、價格易受產季影響等限制。林佑澤希望藉由乾燥技術延長農產品保存期限，開拓附加價值更高的加工業務。

不過，乾燥同樣有依賴經驗的問題。傳統做法是太乾就降低溫度、縮短時間，不夠乾就反向調整。每批原料的水分與成熟度不同，反覆試做不僅增加成本，也難以維持品質一致。「品質目標沒有設定的話，前面的製程參數就不知道怎麼調整。」林佑澤將過去研發車用面板的思維帶進農產加工：先決定產品希望達到的口感、含水率與水活性，再回頭檢視原料成熟度、截切厚度及乾燥參數等條件。

團隊進一步結合不同乾燥技術、自行改造設備，並接洽桃園的設備業者合作。林佑澤曾比較其他地區的設備，最後選擇設備構造、乾燥均勻度與可靠度較符合需求的桃園業者。宜展也持續累積製程參數，希望未來透過AI找出適合不同原料的乾燥曲線，減少反覆試做。

「我們主要還是要做代工，想要做一個功能性的原料平台。」林佑澤說，果乾目前更像是展示技術能力的產品，未來希望將服務延伸至辛香料、中藥材、太空食品、超級蔬菜及寵物食品等領域。現階段宜展主要營收仍來自蔬果截切本業，乾燥事業尚未形成主要收入。未來若能建立穩定的乾燥製程與代工能力，宜展便有機會從既有蔬果供應鏈，切入附加價值更高的食品原料市場。

從彰化走向桃園，驗證營運方法能否跨區複製

隨著加工流程逐步數位化，宜展也開始思考，這套管理方法能否帶到彰化以外的場域。

參與桃園市政府青年事務局天際線加速器及Meet桃園＋後，宜展擴大與桃園產業生態系的連結。林佑澤提到，天際線協助邀集不同局處了解團隊需求，並提供資源媒合機會。宜展也開始與桃園市農會及在地農民合作，增加北部原料來源。這項合作不只拓展了供應來源，更成為宜展因應極端天候、穩定供貨的重要助力。林佑澤回憶，先前中南部連日降雨，蔬菜供應受到影響，宜展便從北部調度蔬菜，以不同產區互相支援，降低天候對供貨的衝擊。此外，團隊也透過天際線資源，獲得參與日本國際伴手禮設計競賽的輔導，並成功榮獲金賞獎肯定，除了展現產品的創新與設計實力，也為宜展拓展海外市場、提升國際能見度創造更多機會。

下一步，宜展規劃以桃園大溪作為第二個驗證場域，將彰化累積的資料、SOP與加工管理經驗，轉化為可複製、可優化的營運管理模式，帶到不同產地、供應鏈及人員條件下驗證。林佑澤指出，未來若要跨區域擴張，不可能每到一個新地方，就把原有團隊整批搬過去。因此，宜展希望將資深員工的實務經驗，轉化為標準化流程與數據模型，結合AI進行生產排程、資源配置及營運決策，讓新場域能依據當地條件快速調整，降低對特定人員經驗的依賴。

從彰化到桃園，宜展接下來要驗證的，是這套從傳統農產加工現場整理出來的管理方法，是能夠跨區域複製、快速部署並持續優化的農產加工營運系統。長期目標是降低新場域的建置成本與管理複雜度，提升擴張效率，讓傳統農產加工業具備規模化發展的能力。