DeepSeek解析2|輝達高階GPU成長因它放緩,「邊緣AI」將加速成長
DeepSeek解析2|輝達高階GPU成長因它放緩,「邊緣AI」將加速成長

中國AI公司DeepSeek(深度求索)發布低成本AI模型DeepSeek,驚豔全世界。DeepSeek模型為何成功?將如何影響產業走向?

愈來愈多人開始測試、使用DeepSeek V3、DeepSeek R1,不少人使用的心得為DeepSeek性能不錯,價格僅OpenAI同級產品的2%左右,令人激賞。

為什麼DeepSeek能在有限的運算資源下(美國禁止高階AI晶片輸出到中國),能夠快速發展出大語言模型?並且在成立短短1年半後,即能開發出與美國OpenAI尖端大語言模型「比肩」的模型?

分析DeepSeek成功的因素如下:

成功因素一:人才、資源預先布局

首先,是DeepSeek創辦人梁文鋒在2015年成立對沖基金「幻方量化」,該公司主要的業務是積極研發機器學習、深度學習等技術,發展人工智慧進行金融操作。因此梁文鋒早就對人工智慧有深刻的認識。

ChatGPT問世後,梁文鋒應該注意到人工智慧新時代來臨,推想他應該已經在幻方量化公司內開始研發大語言模型,並且採購輝達的GPU。

梁文鋒累積一定基礎後,於2023年7月17日設立DeepSeek,專注研發AI大語言模型。
DeepSeek以高薪招募「天才級」(成績名列前矛以及曾在國際期刊發表論文)的「新鮮人」(剛畢業或畢業僅1、2年,碩士、博士在學研究生等)加入研發團隊。

DeepSeek的菁英團隊加上原有的基礎,撰寫出高效、精簡的程式。

成功因素二:以較少的運算資源,達成不錯效能

目前所有「大語言模型」未脫離Google Transformer架構,真正的創新是發展出另一套架構。

DeepSeek採用混合專家模型(MoE)架構與強化學習(RL)技術。MoE只啟動與特定任務相關的參數,這可提升運算效率並降低成本。

RL則採用創新的群組相對策略優化(GRPO)技術,這可以提升數學能力,擺脫對標註數據的依賴,不需要大量人工標註數據,降低訓練成本。

GRPO可促進自主學習,模型可透過多輪迭代,逐步優化它的行為策略。

DeepSeek降低數據精度採用FP8(8位元浮點運算),這可以提高運算速度,以較少的運算資源達成不錯的效能。

1月28日,DeepSeek一篇預先發表的論文,將數據精度降低到FP4,而且效能與BF16(16位元腦浮點)相當,這可進一步讓DeepSeek以更少的運算資源,達成同樣的效能。

成功因素三:利用模型蒸餾快速學習

模型蒸餾技術也讓DeepSeek能夠快速完成訓練自己的模型。所謂的模型蒸餾,是以成熟的模型(如ChatGPT o1)當作「老師模型」,而將欲訓練的模型(如DeepSeek V3)當作「學生模型」。

訓練過程是以同樣的資料,同時各自輸入老師與學生模型,將老師模型輸出的資料,逆向輸入學生模型,讓學生模型能學習老師模型參數設定的方式。

老師模型耗用很多資料與時間的訓練的成果,讓學生模型「蒸餾」出精粹的結果,節省龐大的資源與時間。

「短小精悍」的DeepSeek,讓大語言模型將來對運算資源需求有可能會降低,取而代之是眾多的「中小模型」。

DeepSeek R1與OpenAI o1差在哪?

讓我們以DeepSeek R1與OpenAI o1來比較兩者的性能與運算成本。

DeepSeek R1在數學、科學與程式設計領域表現突出,但是在一般化的應用,則需要額外微調。所幸由於DeepSeek R1的開源特性,讓開發者可以針對特定需求進行優化。

相較之下,OpenAI o1訓練於更廣泛的數據集,因此具備強大適應性,無需額外調整即可處理多種任務,適合通用AI的應用。

在隱私與數據安全方面,DeepSeek R1的數據儲存於中國境內的伺服器,由於可能涉及廣泛的使用者數據收集與沒有明確的共享政策,這可能引發使用者對資安疑慮。

相較之下,OpenAI o1受歐盟GDPR及美國CCPA法規監管,提供明確的「數據刪除機制」及「使用者隱私權」選項,可確保更高的透明度與安全性。

目前收費方面,DeepSeek R1遠低於OpenAI o1。

DeepSeek R1每百萬輸入Token價格為0.14至0.55美元,而Open AI o1每百萬輸入Token為7至15美元。

DeepSeek R1每百萬輸出Token為2.19美元,Open AI o1每百萬輸出Token為60美元。

DeepSeek R1、DeepSeek V3除了是「價廉物美」的大語言模型外,更重要的是它的開源性,可讓使用者自由下載。

據悉目前只要在PC上加裝中高階的圖形顯示卡(如輝達的RTX 40、50系列),即可下載DeepSeek R1或DeepSeek V3,讓使用者可單機使用AI大語言模型。

展望未來,輝達的高階GPU成長可能放緩,不過邊緣AI的應用將快速發展。機器人、自駕車等AI實體應用業者,將可修改DeepSeek大語言模型發展自己的AI,不必依賴像OpenAI公司這類開發大語言模型的公司。

延伸閱讀:DeepSeek解析1|神秘AI公司掀起全球AI風暴,一篇看懂553天關鍵布局

往下滑看下一篇文章
影音體驗成行動網路新戰場!Opensignal 揭台灣大哥大奪「雙料冠軍」,連網穩定撐起高負載影音與 AI 協作
影音體驗成行動網路新戰場!Opensignal 揭台灣大哥大奪「雙料冠軍」,連網穩定撐起高負載影音與 AI 協作

現代人手機不離手,通勤時滑短影音、午休追串流影劇、下午開視訊會議,網路影音應用成為工作與生活的普遍情境。然而,一旦畫面卡頓、畫質不穩,或聲畫不同步,使用體驗立刻打折,甚至影響工作效率與專業判斷。

也因此,網路品質不再只是「快不快」的問題,更關乎能否在高使用量的日常情境下,維持穩定、連續的表現;對此,第三方評測也採用更貼近使用者情境的方式衡量網路體感。而 Opensignal 最新報告指出,台灣大哥大在影音體驗相關項目是業界唯一同時拿下「影音體驗」與「5G 影音體驗」雙項獎項的電信商,其中,關鍵的差異是什麼?

為何「影音體驗」是網路品質的關鍵指標?

愈來愈多消費者入手旗艦機,追求的不只是硬體規格,還有流暢的 AI 應用與多工協作。然而,無論是視訊即時翻譯或雲端會議,這些高階功能都有一個共同前提:網路必須穩定。一旦網路品質不佳導致畫質下降或音畫不同步,旗艦級的 AI 功能將形同虛設。

這也意味著,檢驗網路價值的標準已經改變。如今,不能只看單點測速的瞬間峰值,更重要的是高負載情境下的耐力表現。因此,比起單點測速,影音體驗會是更完整的測試標準,直接挑戰了網路在室內深處、移動途中或人潮聚集時的網路實力;而唯有在長時間串流下依然不卡頓、不降畫質,才稱得上是高品質的連線。

換言之,隱身在硬體背後的電信商,才是發揮旗艦機性能的關鍵;唯有透過最佳網路品質,才能讓手中的旗艦機既是規格領先、也是體驗領先。

唯一影音體驗雙料冠軍,Opensignal 權威認證的有感體驗

雖然相較於測速數據,影音體驗更貼近日常使用,但也更難量化。對此,國際權威認證 Opensignal 的「影音體驗分數」,依循 ITU 國際標準,透過真實用戶裝置在行動網路上進行影音串流的實測數據,觀察不同電信網路在實際使用情境下的表現。

簡單來說,評測聚焦三項核心指標:影片載入時間、播放期間的卡頓率,以及畫質(解析度)是否能穩定維持。使用者從開始播放到持續觀看的整體品質,分數以 0–100 呈現,分數愈高,代表在三項指標的表現愈佳。相較於單點測速,這類評測更能呈現長時間、高使用量下的網路品質。

人流情境不降速.jpg
圖/ 數位時代

而在今年最新公布的 Opensignal 評測中,台灣大哥大獲得「影音體驗」獎項唯一雙料冠軍。其中,「整體影音體驗」為全台獨得第一名,「5G 影音體驗」則與遠傳並列第一。

之所以能在影音體驗拔得頭籌,關鍵在於台灣大哥大目前是全台唯一整合 3.5GHz 頻段 60MHz 與 40MHz、形成 100MHz 總頻寬的電信業者,亦是現階段全台最大 5G 黃金頻寬配置。頻寬愈寬,代表單位時間內可傳輸的資料量愈大;在大量使用者同時進行影音串流、視訊互動的狀態下,更能維持穩定傳輸、減少壅塞發生機率。

台灣大獲權威認證,NRCA技術撐起穩定基礎

除了頻寬帶來的流量優勢,台灣大哥大也採用「NRCA 高低頻整合技術」,也就是透過高低頻協作,讓 3.5GHz 負責高速傳輸、700MHz 補強覆蓋與室內連線,改善室內深處與移動情境的訊號落差,提升連線連續性。

同時,為了讓住家、通勤動線、商圈與觀光熱點等高使用場域維持穩定表現,台灣大哥大已在全台超過213個住宅、觀光及商圈熱點完成 100MHz 布建,提升人流密集區的網路覆蓋率。

5G高速(小).jpg
圖/ dreamstime

值得注意的是,在今年的 Opensignal 評比中,台灣大哥大還拿下了「5G 語音體驗」與「網路可用率」兩項第 1 名,累計獲得 4 項獎項。這意味著不僅具備影音體驗優勢,在語音互動與連線率等關乎用戶日常應用的基礎指標,皆有亮眼成績。

尤其,隨著影音與即時互動成為新世代的工作常態,網路品質的重要性只會持續上升。無論是遠距協作所仰賴的視訊與畫面共享即時同步,內容創作對直播與即時上傳連續性的要求,或是 AI 視訊互動、即時翻譯與會議摘要等新應用,都高度依賴低延遲與穩定的資料傳輸。網路品質因此不再只是連線條件,更是支撐內容生產、協作效率與新應用落地的基礎能力,甚至直接牽動競爭力。

而台灣大哥大經 Opensignal 認證、於多項關鍵指標領先業界,不僅將成為 AI 時代的重要後盾,也讓使用者能更充分發揮高階手機的效能,把「快、穩、滑順」落實在每天的工作與生活中。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
進擊的機器人
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓