【圖解】開源、專屬模型哪個好用?企業「省錢高效」怎麼選?麥肯錫解析一次看
【圖解】開源、專屬模型哪個好用?企業「省錢高效」怎麼選?麥肯錫解析一次看

人工智慧 (AI) 的局勢不斷快速演進,而開源技術在此轉變的過程中扮演舉足輕重的角色。麥肯錫、謀智基金會 (Mozilla Foundation)及麥戈文基金會 (Patrick J. McGovern)對此共同進行一項全面的研究調查,揭露了企業如何運用開源AI工具,以及使用這些AI工具帶來的好處與挑戰。

本文將深入探討這項調查報告的主要發現,重點分析開源技術在AI領域中日漸提高的重要性,同時剖析對台灣及大中華區企業的啟示。

本次調查報告最驚人的發現之一,就是開源AI技術已廣為市場採用。超過50%的受訪者表示採用開源工具,應用範圍遍及多種AI技術堆疊,包括數據、模型和工具。 在高科技、媒體及電信業中,這項趨勢尤為明顯,這些產業有70%的受訪者表示已導入開源AI。

開源AI的興起帶動台灣企業的轉變,過去基於對資安的疑慮及法律合規的考量,企業大多傾向地端部署,現在則視開源模型是維持高強度控管數據和營運的一種做法。「境內+開源」的混合解決方案,已逐漸成為策略慣例。

本調查報告提出開源AI有幾個主要優勢,其中之一就是 成本效益 。受訪者表示,開源AI的執行成本和維護成本都較專屬自有工具低,分別為60%及46%。此外,51%的受訪者認為採用開放來源,能減少公司採購軟體工具的相關成本。對於財力較薄弱、無法投資建置自家解決方案的新創公司和小型企業來說,開源AI的成本優勢格外關鍵。

BN365麥肯錫
圖/ 數位時代

開發人員對於開源AI工具也表示高度滿意。調查發現對開源技術表示「有點滿意」、「滿意」或「十分滿意」的受訪者是回答「不滿意」者的10倍。

此外,81%的開發人員表示,開源工具的使用體驗對他們的工作領域來說非常重要,66%則指出在工作上使用此類工具會是影響他們工作滿意度的重要因素。對開源AI的極致滿意度可以歸因於其所提供的彈性、透明度及支援社群等功能。

在台灣,愈來愈多開發人員針對像DeepSeek這樣的開源專案形成社群。DeepSeek是中國開發的領先AI模型,性能和成本優勢都十分出色。相較於OpenAI的GPT-4這樣的全球專屬AI模型,DeepSeek的模型訓練與推論成本低了90%,大大吸引了在AI解決方案上最看重經濟效益與可擴充性的台灣企業。

開源AI兼具成本性能,直逼專屬模型

性能與操作容易是開源AI工具滿意度高的主要因素。調查也發現,同時使用開源AI和專屬AI的使用者認為,這2種工具對於推動公司營收增加或節省跨部門成本的效果是差不多的。甚至開源AI在撙節成本這方面還更厲害一些,平均比專屬AI高4%,整體的成本改善效果為26%。這表示 開源工具不僅成本效益高,其性能也不輸專屬AI

DeepSeek的例子更證明了這一點。DeepSeek V3和R1模型在多語言任務、推理及數學智慧等方面都展現出相當或優於全球標竿模型的性能。台灣企業如製造、醫療和金融服務等,都已開始採用這些模型,試圖在成本、績效、和數據主權之間取得平衡。

開源AI前景看好,75%的受訪者表示,未來幾年將進一步加強對開源AI技術的應用。隨著開源模型的不斷改善和性能提升,它們將與專屬模型共同推動這波預期的增長。以Meta的Llama 3和DeepSeek-V3為例,這些模型在某些指標評測中超越專屬模型,顯示出開源AI的巨大潛力。

而在台灣,這項趨勢更受到產業界在數位創新與AI自給自足政策下推波助瀾。企業愈來愈希望透過投資,由開源AI支援的地端解決方案來減少對外國雲端基礎設施的依賴。

然而,即使效益良多,調查也提出了開源AI面臨的諸多挑戰。其中最重大的幾個關切領域為網路安全(62%)、合規性(54%)與智慧財產權(50%),對於需要處理敏感數據或在高度管制環境中營運的產業來說,要解決這些風險,可採取不同防禦措施,常見策略像是加強資訊安全框架,許多企業會投資先進安全措施,來保護自家的AI系統與數據;透過可編程防護欄,加強程式碼的安全層級與合規政策,藉此緩解風險。在面對複雜的智慧財產權和法遵議題上,採用開源AI的企業也需尋求法律顧問諮詢。

BN365麥肯錫
圖/ 數位時代

此外,由於台灣企業位處敏感的地緣政治環境,採用開源AI上需特別謹慎。為了降低風險,許多企業選擇採用如DeepSeek開源模型的「地端優先」部署,並加強網路安全協定,將地緣政治風險降至最低,同時符合新興數位主權的相關規範。

BN365麥肯錫
圖/ 數位時代
BN365麥肯錫
圖/ 數位時代

有意思的是,這份調查發現,企業最常使用的開源工具大多是主流科技公司如Meta、Google與微軟所開發。像是Meta Llama、Google Gemma和微軟Phi是受訪者最常使用的開源模型。這些大型企業掌握資源與專業,能夠開發出符合廣大使用者需求的高品質開源工具。

社群推動創新,也是開源AI成功的另外一個關鍵因素。非營利AI研究團體EleutherAI、AI模型共享平台Hugging Face和OpenMined等發起的倡議,吸引了更多人關注,加強了容易取得且由社群驅動的AI發展動能。這類協作產出的高績效模型和工具,甚至媲美專屬系統。開源社群的集體智慧與多元觀點滾動式地改善與創新,能讓開源AI成為業界的推進力。

而在大中華區,DeepSeek同樣受益於社群的大力貢獻,特別是社群打造出來的生態圈,包含了各式附加元件、客製化調整與針對中文與東亞語言本地化的應用程式。台灣活躍的新創社群也開始運用類似生態圈,橫跨電商、教育和精準製造業培育創新。

台廠布局2利器:邊緣AI與推理模型

開源模型將對未來AI模型開發帶來深遠影響,透過開源模型協作加速創新、減少重複開發,進而促進整體提升。放眼未來,這2大趨勢可能會受到開源AI創新影響,一是由小型語言模型(SLMs)推動的隱私導向邊緣應用,二是推理時間運算能力更強的推理模型。

小型語言模型有望為特定行業提供成本效益高、量身訂做的語言模型,並可部署在邊緣裝置上,保障數據隱私並減少延遲,適合醫療、金融等重視數據隱私的行業。此外,SLM的開發可能會由開源推動,因其能提供特定產業所需的彈性與客製化應用。

另一方面,推理模型透過在推理時間運用更高的運算能力,能在特定任務中達到卓越表現。這些模型的設計目的在於執行複雜的推理和決策工作,因此 很適合自動化系統、機器人、先進分析等領域 。推理模型的開源替代方案(例如DeepSeek-R1)已經問世,對OpenAI和Google DeepMind等大廠構成挑戰。

台灣企業憑藉在硬體與內建系統的優勢,特別適合利用新興的邊緣AI和推理模型,尤其在智慧製造、智慧醫療、汽車技術等產業,一些企業已開始實驗終端裝置的AI解決方案。

這份針對AI領域開源技術的調查報告,能看到開源AI工具當前及未來的潛力。調查結果也凸顯開源AI技術的成本效益龐大,開發人員滿意度高,在各行各業、各地區日益普及。儘管在資安、合規、智慧財產等方面仍有挑戰,但企業也積極落實相關策略減緩風險。

隨著開源AI持續發展,在全球人工智慧領域的地位日益提升,台灣也逐漸成為重要的參與者。採用如DeepSeek等開源技術的企業,有望藉由這些工具的成本效益、性能和協作創新,掌握競爭優勢。台灣企業若能積極解決開源AI相關的挑戰,將能充分發揮潛力,在迅速變化的人工智慧領域中推進創新。

開源AI的興起不僅代表了技術轉變,更是台灣保持數位創新領導地位的關鍵課題。

延伸閱讀:「嫌PChome土,我們就要更本土!」張瑜珊挾統一座標之力孵新商機,要把物流錢坑變前瞻

責任編輯:蘇柔瑋

關鍵字: #AI #台股
往下滑看下一篇文章
71% 台灣企業資安評級待強化!QNAP World Tour 2026盛大開場,剖析 Edge AI 與營運韌性新局
71% 台灣企業資安評級待強化!QNAP World Tour 2026盛大開場,剖析 Edge AI 與營運韌性新局

近年隨著主權 AI 議題持續升溫,企業開始重新思考資料與算力的部署方式,希望讓敏感資料留在地端,同時具備就近運算的能力,這也進一步加速 Edge AI 的發展。然而,當 AI 從雲端走向本地端與邊緣端時,企業除了追求運算效能與應用創新,更必須確保服務的穩定可靠。畢竟,再先進的 AI 應用,一旦因資安攻擊、設備故障或資料損毀而停擺,就會無法創造商業價值。

換句話說,「AI 創新」與「營運韌性」已不再是兩條各自獨立的單行道。企業加速 AI 布局的同時,也需要一套能守護資料安全、具備快速復原能力並確保營運不中斷的 IT 基礎架構。

因此,在本月 18 日盛大登場的「QNAP World Tour 2026 台北場|立足 Edge AI,決勝企業全方位韌性」論壇中,QNAP 總經理劉文義指出,企業需要的已經不只是把資料存下來,而是一套能同時支撐 AI 創新與營運不中斷的韌性平台。QNAP 此次聚焦企業韌性與 Edge AI 兩大主軸,深度剖析企業 IT 基礎架構如何兼顧穩健營運與 AI 智慧應用,同時展出高效能邊緣 AI 伺服器、企業級 ZFS 全快閃 NAS、網管型交換器等多項新產品,全面滿足企業下一階段的轉型需求。

QNAP
QNAP總經理劉文義指出,企業需要的已不只是把資料存下來,而是一套能同時支撐AI創新與營運不中斷的韌性平台。
圖/ 數位時代

從一站式 AI 平台至監控、影音應用,QNAP 加速 Edge AI 落地

在邊緣 AI 領域,QNAP 除了提供 GPU-Ready 的 Edge AI 平台與管理軟體 AI Service Center,更進一步推出 Qsirch AI、QuONE 及 QuAgent 等應用服務,打造從 AI 運算、模型管理、RAG 私有知識庫到 Agent 智慧應用的一站式企業 AI 平台。

QNAP資深智慧儲存產品經理 Yuna Chen形容,AI Service Center 就像一個管理中樞,IT 管理者可在單一介面統一管理所有 AI 應用所使用的模型與金鑰,也能隨時查詢 Token 用量、成本與稽核紀錄,清楚掌握誰在什麼時間點呼叫了哪些模型,讓企業在導入 AI 應用的同時,也能兼顧管理與治理需求。同時Yuna Chen也分享 NAS 結合AI 的使用者體驗,藉由執行在 QNAP NAS 上的對話式 AI 代理程式 QuAgent,自然語言能直接轉化為操作介面,使用者透過對話即可完成檔案搜尋、備份、系統查詢等工作;而 QuONE 則將行動裝置與 AI 技術深度結合,將原本分散的多款應用整合至單一入口,使用者只需一次登入,就能快速存取所需服務,徹底告別繁瑣的跨應用切換與登入流程,打造最直覺的 NAS 智慧助理體驗。

QNAP
QNAP資深智慧儲存產品經理Yuna Chen說明,AI Service Center可統一管理AI應用的模型與金鑰,並掌握Token用量、成本與稽核紀錄。
圖/ 數位時代

QNAP 智慧儲存產品經理 Vivian Luo 則說明,Qsirch AI 導入強大的語意理解與多模態檢索能力,能將 NAS 內的巨量檔案轉化為隨查即用的知識庫。使用者只要以自然語言描述內容,就能搜尋 NAS 裡的文件、圖片、影音與音訊等不同格式資料。影音檔案還可自動生成逐字稿,讓過去難以檢索的音訊與影片內容也能被全文搜尋。而所有索引皆在 NAS 本機完成,檔案不上傳雲端,兼顧搜尋效率與資料隱私。

QNAP
QNAP智慧儲存產品經理Vivian Luo表示,Qsirch AI具備語意理解與多模態檢索能力,索引皆在NAS本機完成,兼顧搜尋效率與資料隱私。
圖/ 數位時代

除了打造一站式 AI 平台,QNAP 也將 Edge AI 能力延伸至監視監控場域。QNAP 智慧視訊產品部部長 Hanz Sung 指出,QNAP 結合 AI 發展出 Deep Search、SkiLLM 等服務,使用者可以透過自然語言去描述想要搜尋的影像片段,或要求系統執行影像分析、產出調查報告與佐證影片等任務,不僅降低人工調閱影像與事件調查負擔,也讓視訊監控系統從被動記錄的角色,進一步升級為主動分析的監控顧問。

在視訊監控外,另一個 Edge AI 的應用則是影音內容產製。受到影音檔案容量指數級成長、AI 創作普及與多人協作之需求,高效能儲存與低延遲傳輸已成為影響創作效率的關鍵因素。

QNAP
QNAP智慧視訊產品部部長Hanz Sung指出,結合Deep Search、SkiLLM等AI服務,可讓視訊監控系統從被動記錄升級為主動分析的監控顧問。
圖/ 數位時代

QNAP 智慧儲存產品經理 Eddie Chuang 表示,QNAP 新一代 NAS 機種不僅支援 Thunderbolt™ 5 高速傳輸、可擴充 25GbE/100GbE、內建 NPU 加速等設計,更運用 AI 提升影音團隊管理與使用素材的效率,例如:透過地端 AI 運算,NAS 可以進一步化身為專案知識庫,協助團隊查詢過往剪輯邏輯、彙整客戶回饋,甚至快速確認素材版權狀態。

QNAP
QNAP智慧儲存產品經理Eddie Chuang表示,新一代NAS支援Thunderbolt 5高速傳輸與內建NPU加速,運用地端AI提升影音團隊協作效率。
圖/ 數位時代

從資料確信復原、高可用性到主動式威脅偵測,QNAP 層層築起營運韌性

除了 Edge AI 佈局,本場論壇的第二個主軸「營運韌性」,則從資料備份、高可用性與資安三個面向出發。QNAP 總經理劉文義也於開場引述 QNAP 於 8 月針對台灣 241 家企業進行的資安韌性調查,指出 71% 企業的資安綜合評級落在「待強化」以下,更有 53% 無法確保備份免於被刪除或篡改,揭示了國內企業 IT 架構在應對資安攻擊與營運中斷時的重大潛在風險。

QNAP 資深智慧儲存產品經理 Jack Wang 認為,企業資料備份現正面臨的挑戰是,遭遇災難或事故時,備份資料能否「真正被完整還原」,讓營運迅速恢復正常。為此,QNAP 在最新的備份解決方案 HDP for Business 中,整合自動化備份驗證與快速還原機制。當資料備份完成後,自動於 NAS 上以虛擬機 (VM) 開機驗證,並將過程錄影存證,讓 IT 主管與稽核人員有實際可查驗的復原證明;一旦事故真的發生,Instant Restore 則能直接將備份以 VM 型態在 NAS 上啟動、暫時接手服務,將復原時間從過去以天為單位來計算縮短至分鐘等級,為企業營運建立第一道防線。

QNAP
QNAP資深智慧儲存產品經理Jack Wang說明,HDP for Business整合自動化備份驗證,搭配Instant Restore可將復原時間縮短至分鐘等級。
圖/ 數位時代

除了備份資料的可復原性,確保關鍵服務在故障發生時依然能持續運作,更是營運韌性的重中之重。尤其隨著 AI 應用深入核心業務,一旦系統遭受非預期停擺,影響的不只是 IT 部門,更可能直接造成營運中斷與商業損失。為此,QNAP 針對硬體、系統、站點、容量及應用五個可能發生故障的層級,分別提出對應解決方案,協助企業打造高可用性的 IT 架構。

QNAP 資深儲存系統產品經理 Oliver Lam 進一步舉例,像是系統層的 QuTS hero High Availability Manager 採用 Active-Passive 雙機叢集,可在 90 秒內完成故障切換;硬體層的 ES NAS 則透過 Active-Active 雙主控架構,在控制器故障時,可於 30 至 60 秒內接管服務,讓企業在遭遇突發故障時,關鍵服務仍能快速切換至備援系統,將停機時間與營運衝擊降至最低。

QNAP
QNAP資深儲存系統產品經理Oliver Lam舉例,QuTS hero High Availability Manager可在90秒內完成故障切換,強化企業高可用性架構。
圖/ 數位時代

而造成系統停擺的原因,除了重大災害,可能是資安攻擊,因此,營運韌性的另一道防線,就是在威脅真正造成破壞之前,及早發現異常。QNAP 先進網通產品經理 Ruby Chan 指出,面對勒索軟體、零日攻擊等資安威脅,企業需要的資安工具,不只是可以防禦威脅,更要具備主動持續偵測與快速應變能力。

QNAP
QNAP先進網通產品經理Ruby Chan指出,面對勒索軟體與零日攻擊等資安威脅,企業所需的資安工具須具備主動持續偵測與快速應變能力。
圖/ 數位時代

自推出以來,深獲企業客戶青睞的 QNAP ADRA NDR X 內網資安防禦解決方案,內建超過 4.3 萬筆且還在持續更新的特徵規則,不僅能偵測出已知攻擊,還搭配 AI 行為分析技術去建立裝置的日常行為基準,主動辨識零時差攻擊與異常行為;更透過 LLM 將可疑封包與事件串連成完整攻擊鏈,協助 IT 人員快速掌握威脅脈絡。當系統偵測到高風險事件時,還能與 QNAP NAS 聯動、自動觸發快照,保留遭到加密或破壞前的資料版本,將資安防護從威脅偵測一路延伸到事件應變與資料復原,建立更完整的營運韌性防線,協助中小企業以高性價比的資安投資,輕鬆實現企業級內網防護能力。

當 AI 從雲端走向邊緣,企業 IT 基礎架構肩負的任務也隨之擴大,既要支撐 AI 創新,更要確保資料安全與營運不中斷。從 Edge AI 平台、場域應用,到資料復原、高可用性與資安防護,QNAP 正持續擴展 NAS 的角色,躍升為數位資產與營運連續性的關鍵守護者,協助企業打造穩健的 IT 底座,以全力追求創新、運用 AI 創造更大的商業價值;而QNAP 也深信再強大的技術,最終都要回到每一位使用者的日常體驗 ─ 安全、便利、穩定可靠。

QNAP
QNAP World Tour 2026台北場吸引大批IT從業人員到場,展區同步展示邊緣AI伺服器、企業級全快閃NAS等多項新品實機。
圖/ 數位時代
QNAP
現場同步展出Seagate等合作夥伴的「AI READY智慧資料管理」方案,呼應論壇聚焦Edge AI與企業韌性的雙主軸命題。
圖/ 數位時代

錯過了台北場沒關係! QNAP World Tour即將進行全台巡迴
立即報名:
QNAP World Tour 2026 高雄場
10/22 (四) | 13:00- 16:00 |
高雄翰品酒店春耕廳
https://campaign.qnap.com/registration_QNAPWorldTour2026_Taiwan_Kaohsiung
QNAP World Tour 2026 台中場
11/05 (四) | 13:00- 16:00|
台中福華大飯店 5F CR500 會議室
https://campaign.qnap.com/registration_QNAPWorldTour2026_Taiwan_Taichung

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
台達電全解讀
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓