DeepSeek解析2|輝達高階GPU成長因它放緩,「邊緣AI」將加速成長
DeepSeek解析2|輝達高階GPU成長因它放緩,「邊緣AI」將加速成長

中國AI公司DeepSeek(深度求索)發布低成本AI模型DeepSeek,驚豔全世界。DeepSeek模型為何成功?將如何影響產業走向?

愈來愈多人開始測試、使用DeepSeek V3、DeepSeek R1,不少人使用的心得為DeepSeek性能不錯,價格僅OpenAI同級產品的2%左右,令人激賞。

為什麼DeepSeek能在有限的運算資源下(美國禁止高階AI晶片輸出到中國),能夠快速發展出大語言模型?並且在成立短短1年半後,即能開發出與美國OpenAI尖端大語言模型「比肩」的模型?

分析DeepSeek成功的因素如下:

成功因素一:人才、資源預先布局

首先,是DeepSeek創辦人梁文鋒在2015年成立對沖基金「幻方量化」,該公司主要的業務是積極研發機器學習、深度學習等技術,發展人工智慧進行金融操作。因此梁文鋒早就對人工智慧有深刻的認識。

ChatGPT問世後,梁文鋒應該注意到人工智慧新時代來臨,推想他應該已經在幻方量化公司內開始研發大語言模型,並且採購輝達的GPU。

梁文鋒累積一定基礎後,於2023年7月17日設立DeepSeek,專注研發AI大語言模型。
DeepSeek以高薪招募「天才級」(成績名列前矛以及曾在國際期刊發表論文)的「新鮮人」(剛畢業或畢業僅1、2年,碩士、博士在學研究生等)加入研發團隊。

DeepSeek的菁英團隊加上原有的基礎,撰寫出高效、精簡的程式。

成功因素二:以較少的運算資源,達成不錯效能

目前所有「大語言模型」未脫離Google Transformer架構,真正的創新是發展出另一套架構。

DeepSeek採用混合專家模型(MoE)架構與強化學習(RL)技術。MoE只啟動與特定任務相關的參數,這可提升運算效率並降低成本。

RL則採用創新的群組相對策略優化(GRPO)技術,這可以提升數學能力,擺脫對標註數據的依賴,不需要大量人工標註數據,降低訓練成本。

GRPO可促進自主學習,模型可透過多輪迭代,逐步優化它的行為策略。

DeepSeek降低數據精度採用FP8(8位元浮點運算),這可以提高運算速度,以較少的運算資源達成不錯的效能。

1月28日,DeepSeek一篇預先發表的論文,將數據精度降低到FP4,而且效能與BF16(16位元腦浮點)相當,這可進一步讓DeepSeek以更少的運算資源,達成同樣的效能。

成功因素三:利用模型蒸餾快速學習

模型蒸餾技術也讓DeepSeek能夠快速完成訓練自己的模型。所謂的模型蒸餾,是以成熟的模型(如ChatGPT o1)當作「老師模型」,而將欲訓練的模型(如DeepSeek V3)當作「學生模型」。

訓練過程是以同樣的資料,同時各自輸入老師與學生模型,將老師模型輸出的資料,逆向輸入學生模型,讓學生模型能學習老師模型參數設定的方式。

老師模型耗用很多資料與時間的訓練的成果,讓學生模型「蒸餾」出精粹的結果,節省龐大的資源與時間。

「短小精悍」的DeepSeek,讓大語言模型將來對運算資源需求有可能會降低,取而代之是眾多的「中小模型」。

DeepSeek R1與OpenAI o1差在哪?

讓我們以DeepSeek R1與OpenAI o1來比較兩者的性能與運算成本。

DeepSeek R1在數學、科學與程式設計領域表現突出,但是在一般化的應用,則需要額外微調。所幸由於DeepSeek R1的開源特性,讓開發者可以針對特定需求進行優化。

相較之下,OpenAI o1訓練於更廣泛的數據集,因此具備強大適應性,無需額外調整即可處理多種任務,適合通用AI的應用。

在隱私與數據安全方面,DeepSeek R1的數據儲存於中國境內的伺服器,由於可能涉及廣泛的使用者數據收集與沒有明確的共享政策,這可能引發使用者對資安疑慮。

相較之下,OpenAI o1受歐盟GDPR及美國CCPA法規監管,提供明確的「數據刪除機制」及「使用者隱私權」選項,可確保更高的透明度與安全性。

目前收費方面,DeepSeek R1遠低於OpenAI o1。

DeepSeek R1每百萬輸入Token價格為0.14至0.55美元,而Open AI o1每百萬輸入Token為7至15美元。

DeepSeek R1每百萬輸出Token為2.19美元,Open AI o1每百萬輸出Token為60美元。

DeepSeek R1、DeepSeek V3除了是「價廉物美」的大語言模型外,更重要的是它的開源性,可讓使用者自由下載。

據悉目前只要在PC上加裝中高階的圖形顯示卡(如輝達的RTX 40、50系列),即可下載DeepSeek R1或DeepSeek V3,讓使用者可單機使用AI大語言模型。

展望未來,輝達的高階GPU成長可能放緩,不過邊緣AI的應用將快速發展。機器人、自駕車等AI實體應用業者,將可修改DeepSeek大語言模型發展自己的AI,不必依賴像OpenAI公司這類開發大語言模型的公司。

延伸閱讀:DeepSeek解析1|神秘AI公司掀起全球AI風暴,一篇看懂553天關鍵布局

往下滑看下一篇文章
從黑客松到理賠第一線,富邦人壽如何讓 AI 從創新提案變成工作夥伴?
從黑客松到理賠第一線,富邦人壽如何讓 AI 從創新提案變成工作夥伴?

當許多企業還在討論 AI 能做什麼,富邦人壽更關注:AI 如何被第一線同仁使用?而這也是「理賠智慧助理」能從黑客松發想、走進理賠現場,成為真實工作夥伴的原因。

為什麼富邦人壽會選擇從最複雜、也最不易標準化的環節–理賠–切入、嘗試將AI從「回答問題的工具」轉變成進入核心營運流程的「決策輔助夥伴」?

保險理賠為何難以AI化?答案藏在大量非結構化資訊裡

相較於客服問答或行政流程,理賠工作最大的挑戰在於資訊高度分散且缺乏標準格式:從診斷證明、病理報告、手術紀錄到醫療收據,每份文件不同醫院格式都不同,內容還充滿專業醫療術語;理賠人員不僅必須理解文件內容,還需要同步比對保單條款、法規要求以及醫學知識,才能做出適當判斷。

更複雜的是,就算是相同疾病或手術名稱,不同案件背景也可能導致不同理賠結果,因此,理賠長期被視為高度依賴專業經驗與人工判斷的工作,很難透過傳統自動化工具處理。

近年來,隨著理賠案件量持續增加、醫療技術快速演進,以及新舊世代交替帶來的人才培育壓力,如何兼顧理賠品質、作業效率與知識傳承,成為刻不容緩的議題。

富邦人壽開始思考:如果AI無法取代專業判斷,是否能先協助理賠人員更快掌握資訊、縮短搜尋時間,讓專業人才把時間投入在更高價值的分析與決策工作?這個想法在富邦集團導入微軟Copilot Studio並舉辦黑客松活動後獲得實踐機會,理賠團隊將構想轉化為可驗證的AI提案,並在主管支持與跨部門合作下,於2026年1月正式導入理賠現場。

「黑客松讓我們有機會快速驗證想法,也讓AI應用從概念走向實際場景。」富邦人壽理賠部資深襄理郭乃瑀如是說道。

數位時代為此特別專訪富邦人壽黑客松獲獎團隊「ClaimAIngels」的成員,深入了解這項 AI 專案如何從創新提案一路走進理賠第一線,成為同仁日常工作的決策輔助夥伴。

富邦人壽
富邦人壽理賠智慧助理透過黑客松加速落地!數位時代專訪團隊成員郭乃瑀 (左上)、 王羽藍(左下)、陳子聆(右上)、林庭樂(右下),分享過程與收穫。
圖/ 數位時代

AI成功落地的關鍵,不只是模型,還有資料與流程重建

從創意發想到實際上線,最大的挑戰不是技術,而是如何讓AI真正符合第一線需求。

富邦人壽理賠部資深襄理林庭樂指出,團隊一開始便深入訪談理賠同仁,發現大家真正需要的並不是AI幫忙做決定,而是協助整理資訊,因此將理賠智慧助理專案聚焦於三大領域:手術等級建議、病理報告判讀輔助,以及國外醫療文件翻譯與摘要,目標是協助同仁降低資料蒐集與查詢時間,讓理賠同仁可以快速掌握案件重點。

但要做到這一步,必須先建立可信任的資料基礎。

由於醫療資料來源眾多且格式不一,團隊投入大量時間整理歷史案件、建立醫療名詞對應關係、標註資料來源與判斷依據,並透過跨部門討論及醫師顧問協作,逐步建立一致的判讀標準。林庭樂表示:「這項工作看似基礎,卻是AI能否提供可靠建議的關鍵,更重要的是,它讓過去散落在資深同仁腦中的經驗知識,逐漸轉化為可被組織保存與運用的數位資產。」

富邦人壽理賠部專員陳子聆便感受到明顯改變。她說:「過去遇到新的手術名稱,往往需要花費一到兩個小時查閱條款、搜尋歷史案例並向資深同仁請教,現在,透過理賠智慧助理協助,資料搜尋時間縮短50%以上,能將更多心力放在案件分析與專業判斷上。」

理賠部理賠審核科資深襄理王羽藍則形容,理賠智慧助理更像是一位隨身秘書。她說:「它會先幫我們整理案件重點,也能提醒是否遺漏重要資訊。無論是判讀國內外醫療文件、核對醫療收據,或分析病理報告內容,都能快速提供參考依據,讓我們把時間投入更重要的專業決策。」

除了資料基礎建設,金融業導入 AI 的另一個關鍵挑戰是風險與合規。

因應金融監理要求以及個資保護需求,團隊在設計理賠智慧助理時建立多層防護機制與使用護欄,並持續優化提示詞設計,以降低AI幻覺、資料外洩與誤判風險,確保AI始終在可控範圍內運作。

不過,對富邦人壽而言,上線並不代表結束,而是優化的開始。

團隊發現,理賠智慧助理初期使用率表現亮眼,但隨著時間推移逐漸下降,為了找出原因,團隊同仁與第一線理賠同仁召開多場討論會議,讓其了解,生成式 AI 並非一次建置完成就能長期發揮效益,必須持續蒐集使用回饋、改善建議,進而調整功能設計。

郭乃瑀表示:「根據同仁回饋,團隊目前正規劃新增實支實付手術給付比例分析等功能,目標是讓AI更貼近實際工作流程、滿足使用者需求。」

從單一專案到組織能力,理賠智慧助理帶來的真正改變

隨著理賠智慧助理逐步成為理賠同仁的日常工作夥伴,其帶來的影響也不再侷限於效率提升,而是開始擴散至組織文化與創新模式的改變。

郭乃瑀表示,過去AI專案多半由資訊部門主導,但這次經驗讓大家發現,真正了解痛點的人其實是第一線同仁,因為只有其最清楚哪些流程最耗時、哪些資訊最難取得,以及哪些環節最適合導入AI。「隨著理賠智慧助理成果逐漸顯現,愈來愈多部門開始主動詢問專案推動經驗,如資料整理、風險控管、流程設計與使用者導入等做法,加速 AI 創新在組織內部的擴散與落地。」

對富邦人壽而言,理賠智慧助理並不只是單一 AI 工具,而是一次工作方式與文化的改變:從第一線提出需求、跨部門共同打造,到持續優化與回饋機制,AI 不再只是科技部門的工具,而逐漸成為工作現場的一部分,也讓數位轉型成為一種持續發生的創新能力。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
代理式商務連動百兆商機
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓