LLM成本太高!「SLM」小型語言模型是下一波發展重點?兩者有何差別?
LLM成本太高!「SLM」小型語言模型是下一波發展重點?兩者有何差別?
##### 小型語言模型是下一波發展重點? 自從 ChatGPT 問世以來,「大型語言模型」(LLM, large language model)令各大企業趨之若鶩,無不希望打造一個企業自主 AI,畢竟參數量愈多,AI 軟體的效能就愈好,也就能夠執行更加細緻的任務。

大型語言模型的應用情境固然令人驚艷,但它們也非常昂貴,並且有相對複雜倫理、隱私問題。因此,調研機構 IDC 預測,2025 年生成式 AI 的下一波發展,可能是可以在使用上更彈性的「小型語言模型」(SLM)。

##### LLM 的局限:成本過高、準確度不穩定 根據調研機構 Info-Tech 於 2024 年做的全球調查,受訪企業在投資生成式 AI 解決方案時,最優先考慮的重點包括隱私和安全(65.43%)、成本效益(59.57%),再來就是準確性和可靠性(57.71%)。

在成本方面,訓練和管理生成式 AI 模型既複雜又昂貴,需要耗費大量的計算資源和高速網路,以及無數的記憶體。Forrester 的 AI 和機器學習分析師庫蘭(Rowan Curran) 表示,先進的語言模型訓練成本超過數百萬美元。在市場上,近期也發現 LLM 應用程式的訂閱價格上漲的情形,如 OpenAI 最近宣布推出每月 200 美元的 Pro 計劃,其他競爭對手也可能會將價格提高到這個區間。

加上,LLM 生成回答的準確度仍然有待加強,有時會產出偏離企業當下需求的回覆,SaaS 平台 Responsive 執行長衫達(AJ Sunder)指出,OpenAI 等企業的 LLM 在本質上是「黑盒子」,問題在於無法解釋如何得出最終答案,而這對於強調準確性、一致性和合規性的企業來說,就會是一個隱憂。

##### 並非所有企業都需要 LLM,SLM 提供更大的靈活性 相對來說,SLM 就沒有那麼多限制,可以更靈活地應用。

由於 SLM 不是為通用型的任務設計,而是在開發時針對特定領域的資料進行訓練,這種特性使 SLM 能夠有效處理專業領域的需求。此外,另一個關鍵優勢是資料保存在防火牆域內,因此 SLM 不會被外部敏感資料影響其訓練過程。

另外,因為 SLM 只承擔一小部分的任務,其結果更容易被解釋,因為使用者更容易掌握輸出結果背後的來源和基本原理,這對於商業決策需要追溯到源頭的受監管產業尤其重要。

最後,SLM 的模型較小,因此執行速度通常較 LLM 更快,對運算需求也比較低,所以可以安裝在個人的手機或者電腦上;SLM 也能夠在離線狀態繼續運行,這對於沒連接網路或網路連接不穩定的場合非常重要,大幅提高工具的可近性。

##### 各大科技巨頭,都在投入 SLM 2024 年以來,AI 巨頭如蘋果、微軟、Meta 陸續開始發佈參數量較少,但仍具有強大功能的「小型語言模型」。

像是微軟就推出小型語言模型「Phi-3」,設計目的在執行更簡單的任務,讓資源有限的公司也能夠使用;Facebook 母公司 Meta 也正積極投入開發一種新的小型語言模型,該模型與手機設備相容,旨在運行設備上的應用程序,同時減少模型推理任務期間的能耗;蘋果同樣研發 OpenELM,希望可以打造適合在市售筆電甚至智慧型手機上執行的 AI 模型。

##### LLM 和 SLM 使用並不衝突 《Forbes》指出,LLM 和 SLM 的使用不互斥。在實際運用上,企業可以採取混合方式運用 SLM 和 LLM──LLM 可以提供更廣泛的背景資訊,SLM 可確保精準的執行。

IDC 預測,2025 企業將因應場域需求靈活運用 SLM,而未來大世界模型(LWM)也值得關注,換句話說,多模型應用將是企業發展 AI 模型的常態。

資料來源:[Towards Data Science][1]、[Forbes][2]、[The Verge][3] 本文授權轉載自:[未來商務][4]
往下滑看下一篇文章
晶睿通訊智慧監控護航淡江大橋,全天候守護台灣破記錄地標
晶睿通訊智慧監控護航淡江大橋,全天候守護台灣破記錄地標

台灣近數十年最具指標性的世紀工程

淡江大橋橫跨淡水河口,主橋跨距長達近一公里,為全球跨距最長的不對稱單塔斜張橋。數十年來,老舊的關渡大橋獨自承載著日益龐大的車流,早已讓這條交通動脈不堪重負。

為了紓解交通壅塞,淡江大橋應運而生,通車後縮短約 15 公里路程、節省約 25 分鐘車程。大橋具備快速公路規格,更同時兼容行人、自行車、大眾公車與汽機車等六大多元運具,是串聯新北市與周邊區域的關鍵交通動脈。

為確保如此龐大規模的設施能安全無虞、持續運作,全台首座橋梁專責交控中心應運而生,專責提供 24 小時全線監控。這意味著大橋需要一套高度穩定、視野開闊的智慧影像系統,能清晰涵蓋大橋的全線跨度。

非比尋常:打破常規的嚴苛監控需求

橋梁管理機關需要的不僅是單純的監視設備,而是一套能作為未來整體智慧基礎建設基石的架構;除了支援高階 AI 交通分析,更必須在各營運環節中全面保障公共安全通訊。

無懼嚴苛:全天候穩定可靠

身處毫無遮蔽的海濱出海口,監控設備必須經受極端天候與強風鹽霧考驗,並在夜間低照度環境下,依舊維持高清晰畫質。

全線涵蓋:消除視野盲區死角

監控範圍遠超傳統固定式攝影機的極限,必須確保整座大橋長距離主線均無監控斷層與盲區。

人車共榮:全向守護多元用路人

面對行人、自行車、機車、重機、自小客車及公車同時混流通行的大橋環境,交控中心需要同時掌握各類車流狀況、落實法規遵從,並將人行安全擺在第一位。

#1 晶睿通訊
PTZ 快速球,支援廣域監控。圖片由iDS智慧安防雜誌提供,經授權使用。
圖/ 晶睿通訊

以更精簡設備配置,實現廣域全天候覆蓋

晶睿通訊攜手系統整合商橙力國際,於全橋部署 40 具專業攝影機,結合 AI 影像分析,提升監控效率。

除了搭配晶睿通訊的子彈型攝影機與車牌辨識機種外,全線更以高解析度 PTZ 快速球為主幹,落實廣域全天候監控。極度耐候的機構設計,能從容應對出海口的強烈鹽霧、夏季高溫暴雨及強颱吹襲。

這項重大決策考量的絕非僅是硬體規格。對於具備國家指標意義的重大工程而言,品牌的信任度與商譽,與技術實力同等重要。

晶睿通訊深耕台灣超過 25 年,擁有實力堅強的在地支援團隊,並攜手在地扎根深厚的夥伴。新北市政府與大橋主管機關獲得的不只是一套監控系統,更是投資了一套能伴隨大橋智慧升級、長遠擴充的前瞻平台。

#0 晶睿通訊
規則管理(Rule Management): 可自訂汽車道、機車道及人車共用道等專用分區,並執行方向性的車流/人流計數。
圖/ 晶睿通訊

將監控結果轉化為高價值交通數據

本專案不僅提供全時不間斷的影像監控,更為交控中心注入強大的智慧分析層,能同時支援「即時監看告警」與「事後回溯分析」。

人車流量即時分析與告警機制:交控中心可彈性設定橋面各處的流量自訂門檻(Threshold)。一旦人車流量超標,系統便會主動通報,讓管理人員精準應變處理。

即時偵測與歷史影像事後回溯:分析區域與事件規則既可預先設定以落實常態監控,亦能事後針對特定路段及時段的歷史錄影直接套用新規則重新檢索分析,省去反覆調閱畫面的繁瑣流程。

多元車種精準分類與行人計數:系統能精準辨識並分類統計汽車、大卡車、公車、機車與自行車等各型車輛;在行人計數方面,亦能有效區隔人行道上的「純步行路人」與「牽車/騎乘騎士」,避免數據重複誤判。

智慧交通決策應用、車牌辨識(LPR)與報表匯出:透過跨時段流量趨勢分析,可為交控號誌的時制最佳化提供精確決策依據;系統同步整合高精度車牌辨識(LPR),且後端所有數據皆支援匯出一鍵產製 CSV 報表,大幅簡化管理歸納流程。

#3 晶睿通訊
場景報告(Scene Report): 依車種進行車輛計數與分類,並可一鍵匯出 CSV 格式報表。
圖/ 晶睿通訊

全天候不間斷的清晰視野

大橋專責交控中心現已具備最關鍵的管理能力:無論晝夜氣候,全線通行廊道皆能保持清晰視野與全時監控。強大的 AI 智慧分析能為管理單位提供即時、可靠的影像與數據佐證,全面支援交通調度、車道使用規範落實,以及違規事件的研判與舉發。

大幅精簡設備數量

若想以傳統固定式攝影機涵蓋相同監控範圍,所需的設備數量將大幅增加;相較之下,PTZ 解決方案不僅更具成本效益,也是大型基礎建設兼顧實用性與營運效率的最佳選擇。

此專案不僅滿足當前的監控需求,更奠定了邁向整體智慧基礎建設的架構基石。隨著未來需求逐步升級擴充,淡江大橋將成為運用 AI 智慧影像打造更安全、更高效公共工程的標竿示範。

建置效益重點

AI 智慧交通分析:支援車流量分析、門檻超標警示、車種分類辨識、行人計數與車牌辨識(LPR),並可對歷史影像進行事後回溯分析;各項數據皆能匯出產製統計報表。

即時就緒:在大橋正式通車前即已建置完備,提供不間斷的監控能力,確保自啟用首日起,監管機制即全方位到位。

全線廊道零死角覆蓋:針對全線通行路廊提供 24/7 全天候視野;即使面對毫無遮蔽、天候嚴苛的近海強風鹽霧環境,依然能提供日夜穩定可靠的監控品質。

大規模建置具高成本效益:透過高階 PTZ 攝影機實現大範圍涵蓋,所需台數遠少於傳統固定式配置;在確保頂級監控品質的同時,大幅精簡施工立桿、配線等基礎設施需求。

高度公共建設投資價值:全面滿足專案嚴苛的技術規格,並在「成本預算」、「視野涵蓋」與「整體效能」之間取得最佳平衡。

充滿前瞻性的可擴充平台:建立具前瞻性的彈性擴充平台;隨日後營運需求演進,可無縫整合子彈型攝影機強化 AI 交通分析,或加入廣播喇叭(IP Speakers)實現公共安全廣播與即時應變。

“作為近年台灣最具指標性的重大工程之一,淡江大橋需要的是能夠長久攜手前行、具備前瞻建構實力的長期合作夥伴。”這正是我們選擇晶睿通訊的關鍵原因。其解決方案完全滿足此等重大建設的核心標準:自啟用首日起,即為全橋提供全方位、多視角的無死角監控;同時提供堅實穩健的智慧運算架構,能伴隨大橋未來的智慧化願景持續演進擴充。 -張橙莉, 執行長,橙力國際

我們守護的,不只是大橋

回歸本質,衡量一座宏偉橋樑真正價值的,始終是它所承載的每一段日常旅程:是在雨夜中奔波通勤的歸人、週末漫步於人行步道的一家大小,或是當天第二十趟行經相同路線的公車運將。晶睿通訊默默守護著每一位用路人,為交控中心賦予全方位的清晰視野與智慧洞察,日夜不輟地守護這座台灣最新地標的安全。

閱讀完整案例
晶睿通訊智慧監控護航淡江大橋,全天候守護台灣破記錄地標

觀看現場專訪, 聽主管機關怎麼說
淡江大橋-智慧橋樑管理中心 x 智慧與維運的全天候智慧監控核心

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓