【圖解】開源、專屬模型哪個好用?企業「省錢高效」怎麼選?麥肯錫解析一次看
【圖解】開源、專屬模型哪個好用?企業「省錢高效」怎麼選?麥肯錫解析一次看

人工智慧 (AI) 的局勢不斷快速演進,而開源技術在此轉變的過程中扮演舉足輕重的角色。麥肯錫、謀智基金會 (Mozilla Foundation)及麥戈文基金會 (Patrick J. McGovern)對此共同進行一項全面的研究調查,揭露了企業如何運用開源AI工具,以及使用這些AI工具帶來的好處與挑戰。

本文將深入探討這項調查報告的主要發現,重點分析開源技術在AI領域中日漸提高的重要性,同時剖析對台灣及大中華區企業的啟示。

本次調查報告最驚人的發現之一,就是開源AI技術已廣為市場採用。超過50%的受訪者表示採用開源工具,應用範圍遍及多種AI技術堆疊,包括數據、模型和工具。 在高科技、媒體及電信業中,這項趨勢尤為明顯,這些產業有70%的受訪者表示已導入開源AI。

開源AI的興起帶動台灣企業的轉變,過去基於對資安的疑慮及法律合規的考量,企業大多傾向地端部署,現在則視開源模型是維持高強度控管數據和營運的一種做法。「境內+開源」的混合解決方案,已逐漸成為策略慣例。

本調查報告提出開源AI有幾個主要優勢,其中之一就是 成本效益 。受訪者表示,開源AI的執行成本和維護成本都較專屬自有工具低,分別為60%及46%。此外,51%的受訪者認為採用開放來源,能減少公司採購軟體工具的相關成本。對於財力較薄弱、無法投資建置自家解決方案的新創公司和小型企業來說,開源AI的成本優勢格外關鍵。

BN365麥肯錫
圖/ 數位時代

開發人員對於開源AI工具也表示高度滿意。調查發現對開源技術表示「有點滿意」、「滿意」或「十分滿意」的受訪者是回答「不滿意」者的10倍。

此外,81%的開發人員表示,開源工具的使用體驗對他們的工作領域來說非常重要,66%則指出在工作上使用此類工具會是影響他們工作滿意度的重要因素。對開源AI的極致滿意度可以歸因於其所提供的彈性、透明度及支援社群等功能。

在台灣,愈來愈多開發人員針對像DeepSeek這樣的開源專案形成社群。DeepSeek是中國開發的領先AI模型,性能和成本優勢都十分出色。相較於OpenAI的GPT-4這樣的全球專屬AI模型,DeepSeek的模型訓練與推論成本低了90%,大大吸引了在AI解決方案上最看重經濟效益與可擴充性的台灣企業。

開源AI兼具成本性能,直逼專屬模型

性能與操作容易是開源AI工具滿意度高的主要因素。調查也發現,同時使用開源AI和專屬AI的使用者認為,這2種工具對於推動公司營收增加或節省跨部門成本的效果是差不多的。甚至開源AI在撙節成本這方面還更厲害一些,平均比專屬AI高4%,整體的成本改善效果為26%。這表示 開源工具不僅成本效益高,其性能也不輸專屬AI

DeepSeek的例子更證明了這一點。DeepSeek V3和R1模型在多語言任務、推理及數學智慧等方面都展現出相當或優於全球標竿模型的性能。台灣企業如製造、醫療和金融服務等,都已開始採用這些模型,試圖在成本、績效、和數據主權之間取得平衡。

開源AI前景看好,75%的受訪者表示,未來幾年將進一步加強對開源AI技術的應用。隨著開源模型的不斷改善和性能提升,它們將與專屬模型共同推動這波預期的增長。以Meta的Llama 3和DeepSeek-V3為例,這些模型在某些指標評測中超越專屬模型,顯示出開源AI的巨大潛力。

而在台灣,這項趨勢更受到產業界在數位創新與AI自給自足政策下推波助瀾。企業愈來愈希望透過投資,由開源AI支援的地端解決方案來減少對外國雲端基礎設施的依賴。

然而,即使效益良多,調查也提出了開源AI面臨的諸多挑戰。其中最重大的幾個關切領域為網路安全(62%)、合規性(54%)與智慧財產權(50%),對於需要處理敏感數據或在高度管制環境中營運的產業來說,要解決這些風險,可採取不同防禦措施,常見策略像是加強資訊安全框架,許多企業會投資先進安全措施,來保護自家的AI系統與數據;透過可編程防護欄,加強程式碼的安全層級與合規政策,藉此緩解風險。在面對複雜的智慧財產權和法遵議題上,採用開源AI的企業也需尋求法律顧問諮詢。

BN365麥肯錫
圖/ 數位時代

此外,由於台灣企業位處敏感的地緣政治環境,採用開源AI上需特別謹慎。為了降低風險,許多企業選擇採用如DeepSeek開源模型的「地端優先」部署,並加強網路安全協定,將地緣政治風險降至最低,同時符合新興數位主權的相關規範。

BN365麥肯錫
圖/ 數位時代
BN365麥肯錫
圖/ 數位時代

有意思的是,這份調查發現,企業最常使用的開源工具大多是主流科技公司如Meta、Google與微軟所開發。像是Meta Llama、Google Gemma和微軟Phi是受訪者最常使用的開源模型。這些大型企業掌握資源與專業,能夠開發出符合廣大使用者需求的高品質開源工具。

社群推動創新,也是開源AI成功的另外一個關鍵因素。非營利AI研究團體EleutherAI、AI模型共享平台Hugging Face和OpenMined等發起的倡議,吸引了更多人關注,加強了容易取得且由社群驅動的AI發展動能。這類協作產出的高績效模型和工具,甚至媲美專屬系統。開源社群的集體智慧與多元觀點滾動式地改善與創新,能讓開源AI成為業界的推進力。

而在大中華區,DeepSeek同樣受益於社群的大力貢獻,特別是社群打造出來的生態圈,包含了各式附加元件、客製化調整與針對中文與東亞語言本地化的應用程式。台灣活躍的新創社群也開始運用類似生態圈,橫跨電商、教育和精準製造業培育創新。

台廠布局2利器:邊緣AI與推理模型

開源模型將對未來AI模型開發帶來深遠影響,透過開源模型協作加速創新、減少重複開發,進而促進整體提升。放眼未來,這2大趨勢可能會受到開源AI創新影響,一是由小型語言模型(SLMs)推動的隱私導向邊緣應用,二是推理時間運算能力更強的推理模型。

小型語言模型有望為特定行業提供成本效益高、量身訂做的語言模型,並可部署在邊緣裝置上,保障數據隱私並減少延遲,適合醫療、金融等重視數據隱私的行業。此外,SLM的開發可能會由開源推動,因其能提供特定產業所需的彈性與客製化應用。

另一方面,推理模型透過在推理時間運用更高的運算能力,能在特定任務中達到卓越表現。這些模型的設計目的在於執行複雜的推理和決策工作,因此 很適合自動化系統、機器人、先進分析等領域 。推理模型的開源替代方案(例如DeepSeek-R1)已經問世,對OpenAI和Google DeepMind等大廠構成挑戰。

台灣企業憑藉在硬體與內建系統的優勢,特別適合利用新興的邊緣AI和推理模型,尤其在智慧製造、智慧醫療、汽車技術等產業,一些企業已開始實驗終端裝置的AI解決方案。

這份針對AI領域開源技術的調查報告,能看到開源AI工具當前及未來的潛力。調查結果也凸顯開源AI技術的成本效益龐大,開發人員滿意度高,在各行各業、各地區日益普及。儘管在資安、合規、智慧財產等方面仍有挑戰,但企業也積極落實相關策略減緩風險。

隨著開源AI持續發展,在全球人工智慧領域的地位日益提升,台灣也逐漸成為重要的參與者。採用如DeepSeek等開源技術的企業,有望藉由這些工具的成本效益、性能和協作創新,掌握競爭優勢。台灣企業若能積極解決開源AI相關的挑戰,將能充分發揮潛力,在迅速變化的人工智慧領域中推進創新。

開源AI的興起不僅代表了技術轉變,更是台灣保持數位創新領導地位的關鍵課題。

延伸閱讀:「嫌PChome土,我們就要更本土!」張瑜珊挾統一座標之力孵新商機,要把物流錢坑變前瞻

責任編輯:蘇柔瑋

關鍵字: #AI #台股
往下滑看下一篇文章
數位時代 X 國泰金控 從百套系統上雲到 Cloud First:國泰如何把雲端變成AI成長引擎?
數位時代 X 國泰金控 從百套系統上雲到 Cloud First:國泰如何把雲端變成AI成長引擎?

2019年金融監理機關正式將雲端納入委外規範後,揭示金融業上雲時代來臨,國泰金控數數發中心成立雲端策略發展部,負責擬定集團上雲策略,並於2020年正式啟動7年集團雲端轉型計畫;在多數金融機構仍停留在單點遷移或IT現代化的現下,國泰金融集團在 2025 年即完成 100 套系統上雲,更將雲端轉型階段從 Cloud Ready、Cloud Adoption 推向 Cloud First,成為數據與人工智慧應用的關鍵引擎。

國泰金控資訊長|吳建興 James Wu
圖/ 數位時代

「百套系統上雲不僅僅是數字,更是讓國泰從『 IT 進化業務』邁向『 IT 驅動成長』的關鍵轉折。」國泰金控雲端策略發展部協理顏勝豪表示,上雲帶來的效益十分顯著,包括提升資源可用性與營運敏捷度、減輕 IT 維運負擔;同時,雲端業者多具備零碳排或綠能機房機制,亦有助於企業朝向 ESG 永續營運邁進。「金融上雲不是單純的現代化基礎設施或者是升級技術,而是為了換取速度與可靠度,讓集團可以加速創新腳步、彈性調配資源,以及培育所需人才與技能,為未來做最佳準備。」
為讓集團員工、金融同業以及有志上雲的夥伴可以進一步探討雲端轉型的各種可能,國泰金控舉辦雲端轉型成果發表會,會中除有集團子公司分享最新成果,三大公有雲平台業者也從不同技術視角共同探討在合規、資安與 AI 應用的可能。

七年、三階段,國泰金融集團將雲端內化為營運流程與創新引擎

國泰金控科技長|姚旭杰 Marcus Ya
圖/ 數位時代

為什麼國泰可以領先市場完成雲端轉型、數據與 AI 賦能業務?

顏勝豪認為,雲端轉型的起點不是直接遷移系統,而是從四個面向打底:應用系統盤點評估、雲端架構設計、雲端遷移藍圖規劃,以及組織治理框架建立,而這也是 Cloud Ready 階段最重要的事情。
「不同子公司有不同商業模式與節奏,若沒有共同語言與平台底座,上雲很容易各自為政。」顏勝豪表示,為讓所有員工可以齊步前行,國泰以雲端遷移方法論 Cathay 6R(註1)作為共同語言、用平台作為共同底座,讓轉型不只是技術選擇,而是集團行動。
完成單一系統的雲端遷移後,便進入 Cloud Adoption 階段。在這個階段中,要透過大規模遷移建立更成熟的上雲標準作業流程(SOP),透過 FinOps 機制控管與優化雲端營運成本,以及透過自動化與治理模型確認多雲環境與安全與維運穩定性,目標是將雲端內化為組織日常運營的一部分,進而邁向 Cloud First 階段:在合規前提下,新專案與系統升級預設在雲端環境開發,並善用雲原生優勢加速新產品功能開發速度。
「集團雲端策略只有一個核心原則:讓雲成為 AI 時代的成長引擎,而不是單純的基礎設施。」關於國泰的未來雲端布局,顏勝豪如是總結。

國泰金控 雲端策略發展部 協理|顏勝豪 Otto Yen
圖/ 數位時代

以雲端為 AI 資源引擎、發揮數據燃料價值,實現 AI 賦能業務應用

國泰不僅在2025年完成集團百套系統上雲,也啟動數據上雲計畫並為 GenAI 奠定基礎建設。
例如國泰金控實現數據上雲,打造資料湖倉與 GAIA 生態系統架構為 AI 賦能業務做準備:成立國泰風險聯防中心(CRC)攜手集團洗防人員強化風險控管與金融犯罪因應能力;釋出國泰員工 AI 助手–Agia–Beta
版,提供差勤、福利與權益、技術支援、職務職能與集團其他資訊等五大類別管理辦法等查詢服務;此外,亦推出集團數據共享平台、集團法規知識庫、 AI 評測中心等服務,更好發揮 Cloud First 與 AI 賦能業務應用的價值。
雲端是 AI 時代的關鍵底座、數據則是 AI 的燃料。顏勝豪指出,發展AI需要龐大的 GPU 算力,若自建 GPU 機房,不僅硬體設備昂貴、折舊速度快,光是散熱系統一年就高達兩、三千萬元的成本,若採取雲端資源,可以隨啟隨用,同時,大幅降低試錯成本。「當雲端打好基礎、AI成為能力模組,銀行、人壽、產險與證券的創新不再是單點突破,而是放大集團級綜效。」

國泰以 Cloud First + AI 持續領先市場、形塑未來樣貌

「雲端可以優化算力成本,資料則決定 AI 應用上限。」顏勝豪解釋,在 AI 新世代,AI 模型定調能力「下限」,集團子公司掌握的「獨特資料」則決定應用的「上限」,考量雲端有許多好用 AI 服務,唯有資料上雲才能發揮數據價值、用 AI 賦能集團各子公司業務。
例如國泰世華銀行將採取多公有雲策略,打造雲端智慧生態圈,並以現代化雲原生技術拓展應用場景;同時,運用 AI 與資料分析優化客戶服務體驗,並藉由跨雲整合機制支援多元業務模式,以充分發揮上雲效益。至於國泰產險,不僅在兩年半內完成13套核心系統上雲、優化營運流程,如以 Serverless 架構打造百萬級效果、萬元成本的短網址系統等,讓雲端成為產險驅動長期成長的核心引擎與標準配備。

國泰人壽則是透過雲端與 AI 滿足不同客戶需求,如以 AI Search 精準呈現關鍵字搜尋結果,讓客戶可以精準且快速的查找所需資料、大幅優化官網體驗與滿意度。至於國泰證券則是於2026年初推出「庫存管家」服務,以客戶持股為核心,應用 AI 技術打造個人化推播服務,協助投資人更有效率地掌握庫存狀況,提供更即時、系統化的投資管理體驗。
總的來說,國泰金控在集團的雲端轉型不僅是技術升級,更是思維革新,從百套系統上雲進展到 Cloud First 階段,可以預期在雲地基礎下,國泰將進一步引領 AI 時代變革,持續提升營運韌性與放大創新價值。

註1:Cathay 6R 國泰設計 Cathay 6R 雲端遷移方法論,將系統遷移方式依據上雲模式、系統開發成本分為 Rehost 、Replatform、Refactor、Rewrite、Replace 和 Retain 共6種遷移架構,並能對應到 IaaS、PaaS、SaaS 三種不同上雲模式。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
2026 大重啟
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓