DeepSeek解析2|輝達高階GPU成長因它放緩,「邊緣AI」將加速成長
DeepSeek解析2|輝達高階GPU成長因它放緩,「邊緣AI」將加速成長

中國AI公司DeepSeek(深度求索)發布低成本AI模型DeepSeek,驚豔全世界。DeepSeek模型為何成功?將如何影響產業走向?

愈來愈多人開始測試、使用DeepSeek V3、DeepSeek R1,不少人使用的心得為DeepSeek性能不錯,價格僅OpenAI同級產品的2%左右,令人激賞。

為什麼DeepSeek能在有限的運算資源下(美國禁止高階AI晶片輸出到中國),能夠快速發展出大語言模型?並且在成立短短1年半後,即能開發出與美國OpenAI尖端大語言模型「比肩」的模型?

分析DeepSeek成功的因素如下:

成功因素一:人才、資源預先布局

首先,是DeepSeek創辦人梁文鋒在2015年成立對沖基金「幻方量化」,該公司主要的業務是積極研發機器學習、深度學習等技術,發展人工智慧進行金融操作。因此梁文鋒早就對人工智慧有深刻的認識。

ChatGPT問世後,梁文鋒應該注意到人工智慧新時代來臨,推想他應該已經在幻方量化公司內開始研發大語言模型,並且採購輝達的GPU。

梁文鋒累積一定基礎後,於2023年7月17日設立DeepSeek,專注研發AI大語言模型。
DeepSeek以高薪招募「天才級」(成績名列前矛以及曾在國際期刊發表論文)的「新鮮人」(剛畢業或畢業僅1、2年,碩士、博士在學研究生等)加入研發團隊。

DeepSeek的菁英團隊加上原有的基礎,撰寫出高效、精簡的程式。

成功因素二:以較少的運算資源,達成不錯效能

目前所有「大語言模型」未脫離Google Transformer架構,真正的創新是發展出另一套架構。

DeepSeek採用混合專家模型(MoE)架構與強化學習(RL)技術。MoE只啟動與特定任務相關的參數,這可提升運算效率並降低成本。

RL則採用創新的群組相對策略優化(GRPO)技術,這可以提升數學能力,擺脫對標註數據的依賴,不需要大量人工標註數據,降低訓練成本。

GRPO可促進自主學習,模型可透過多輪迭代,逐步優化它的行為策略。

DeepSeek降低數據精度採用FP8(8位元浮點運算),這可以提高運算速度,以較少的運算資源達成不錯的效能。

1月28日,DeepSeek一篇預先發表的論文,將數據精度降低到FP4,而且效能與BF16(16位元腦浮點)相當,這可進一步讓DeepSeek以更少的運算資源,達成同樣的效能。

成功因素三:利用模型蒸餾快速學習

模型蒸餾技術也讓DeepSeek能夠快速完成訓練自己的模型。所謂的模型蒸餾,是以成熟的模型(如ChatGPT o1)當作「老師模型」,而將欲訓練的模型(如DeepSeek V3)當作「學生模型」。

訓練過程是以同樣的資料,同時各自輸入老師與學生模型,將老師模型輸出的資料,逆向輸入學生模型,讓學生模型能學習老師模型參數設定的方式。

老師模型耗用很多資料與時間的訓練的成果,讓學生模型「蒸餾」出精粹的結果,節省龐大的資源與時間。

「短小精悍」的DeepSeek,讓大語言模型將來對運算資源需求有可能會降低,取而代之是眾多的「中小模型」。

DeepSeek R1與OpenAI o1差在哪?

讓我們以DeepSeek R1與OpenAI o1來比較兩者的性能與運算成本。

DeepSeek R1在數學、科學與程式設計領域表現突出,但是在一般化的應用,則需要額外微調。所幸由於DeepSeek R1的開源特性,讓開發者可以針對特定需求進行優化。

相較之下,OpenAI o1訓練於更廣泛的數據集,因此具備強大適應性,無需額外調整即可處理多種任務,適合通用AI的應用。

在隱私與數據安全方面,DeepSeek R1的數據儲存於中國境內的伺服器,由於可能涉及廣泛的使用者數據收集與沒有明確的共享政策,這可能引發使用者對資安疑慮。

相較之下,OpenAI o1受歐盟GDPR及美國CCPA法規監管,提供明確的「數據刪除機制」及「使用者隱私權」選項,可確保更高的透明度與安全性。

目前收費方面,DeepSeek R1遠低於OpenAI o1。

DeepSeek R1每百萬輸入Token價格為0.14至0.55美元,而Open AI o1每百萬輸入Token為7至15美元。

DeepSeek R1每百萬輸出Token為2.19美元,Open AI o1每百萬輸出Token為60美元。

DeepSeek R1、DeepSeek V3除了是「價廉物美」的大語言模型外,更重要的是它的開源性,可讓使用者自由下載。

據悉目前只要在PC上加裝中高階的圖形顯示卡(如輝達的RTX 40、50系列),即可下載DeepSeek R1或DeepSeek V3,讓使用者可單機使用AI大語言模型。

展望未來,輝達的高階GPU成長可能放緩,不過邊緣AI的應用將快速發展。機器人、自駕車等AI實體應用業者,將可修改DeepSeek大語言模型發展自己的AI,不必依賴像OpenAI公司這類開發大語言模型的公司。

延伸閱讀:DeepSeek解析1|神秘AI公司掀起全球AI風暴,一篇看懂553天關鍵布局

往下滑看下一篇文章
突破傳統信用卡模式!國泰世華如何重塑刷卡體驗,養出百萬CUBE切換忠實粉?
突破傳統信用卡模式!國泰世華如何重塑刷卡體驗,養出百萬CUBE切換忠實粉?

根據聯合徵信中心統計,國人平均每人持有約4張信用卡,雖反映出信用卡普及,卻也暴露市場飽和的現實。當回饋比例、聯名優惠成為銀行發卡標配,差異化日漸縮小,消費者對單一卡片的忠誠度也難逃下滑。

面對同質化競爭困境,國泰世華銀行四年前即推出CUBE信用卡,首創「數位自選」權益機制,讓使用者能依需求自由切換權益回饋,成功累積百萬卡友。然而,當使用者習慣隨手調整回饋後,國泰世華又該如何進一步突破,讓廣大「CUBE切換忠實粉」更黏?

數位平台成熟度,撐起「權益自選」創新機制

「以前一張信用卡就是固定型態的權益,或綁定單一聯名夥伴。而權益自選的設計,讓信用卡不再那麼制式、更加靈活!」

國泰世華銀行數位長陳冠學指出,CUBE 卡最大的突破,是將信用卡從「靜態工具」轉化為「動態平台」。搭配CUBE App卡友可依需求隨時切換:餐廳用餐或假日逛百貨公司選「樂饗購」、出國旅遊則切換至「趣旅行」享旅遊或交通優惠;一張卡橫跨多種生活場景,甚至能依個人偏好即時調整,客戶更能於商家請款後透過CUBE App查詢點數回饋明細,對精打細算的卡友格外具有吸引力。

然而,要實現如此彈性靈活上下架權益與優惠,背後的挑戰遠比表面複雜。陳冠學直言:「若沒有成熟的數位平台作為基礎,根本不可能實現。」傳統信用卡只需處理單卡簽帳與消費紀錄,但 CUBE 必須同時滿足龐大客群的多元需求,從數據分析到營運模式都得全面升級。唯有在技術架構上徹底重建,才能實現這種前所未有的產品邏輯。

因此,CUBE 信用卡並不只是單一產品的創新,也可以說是推動國泰世華數位平台進化的重要里程碑。

國泰世華銀行數位長陳冠學
國泰世華銀行數位長陳冠學指出,唯有成熟的數位平台,才能撐起CUBE信用卡「權益自選」的創新機制。
圖/ 數位時代

因為靈活,得以開啟平台化服務的想像

打開 CUBE App、彈性切換CUBE信用卡權益方案,甚至查看領取不同商家的回饋加碼優惠券,這種互動式體驗已成為百萬卡友的日常。但國泰世華並未止步於此,而是思考如何進一步延伸金融場景。

「許多權益的設計並不只是為了增加交易,而是基於人性化洞察,去滿足客戶更深層的需求。」陳冠學舉例,如CUBE信用卡「童樂匯」權益,針對親子族群推出涵蓋餐廳、嬰幼童品牌、五感體驗課程等六大通路的專屬權益,最高可享 10% 小樹點回饋,甚至指定私校學費也提供領券最高 3% 回饋。雖然少子化趨勢讓親子族群相對小眾,但陳冠學則有不同觀點:「服務客戶的下一代,也是長遠經營的投資。」

除了分眾經營,對於聯名卡的發行,陳冠學則認為:「過去,聯名卡是會員身份的象徵,但在數位時代,攜帶多張會員卡的需求已經弱化。我們透過不同合作模式,仍能達到同樣的客群經營效果。」

於是,國泰世華與多元場景通路如 Uber、Klook、大樹藥局、臺虎展開不同形式的深度合作。對合作通路而言具備「品牌強強聯手」的導客效應,對國泰世華來說,則更能觸及多元分眾市場,跳脫單一品牌聯名的侷限,信用卡也因此從支付工具延伸出更多服務優勢。

當信用卡升級為集結服務的平台,國泰世華不僅打造互利共生的生態圈,對外創造多贏合作,對客戶也深化品牌連結,逐步鞏固難以取代的黏著度。

新聞照.jpg
CUBE信用卡結合App數位自選權益,讓用戶依需求即時調整回饋,展現靈活又直覺的數位金融體驗。
圖/ 國泰世華

從一張卡到點數生態圈,國泰世華打造CUBE尊榮會員感

「跳脫信用卡本位主義,不再侷限於刷卡回饋,而是從整體金融與生活情境出發,將服務轉化為跨情境串聯的完整旅程。」陳冠學強調,CUBE 品牌的使命,就是做到跨情境、跨服務、跨子公司的一站式體驗。

而國泰優惠 CUBE Rewards App 的出現即是里程碑。從原先 MyRewards 升級為 CUBE Rewards App,不只功能升級,也是品牌再造,把 CUBE 信用卡與國泰集團「小樹點」完整串連,將會員經營、點數生態圈與 CUBE 品牌價值一站打通。

「我們讓 CUBE 不只是信用卡,更像是俱樂部般的尊榮體驗。」憑藉國泰龐大的小樹點基礎與優質卡友群,CUBE 對合作品牌展現強大吸引力,得以不斷拓展餐飲、旅遊到藝文等場景,更突破點數僅能折抵帳單的模式,讓卡友能用點數兌換熱門演唱會、運動賽事門票,甚至搶先預訂話題熱門餐廳等限量體驗。

「我們希望讓客戶覺得:哇,你又找到我的需求了!」陳冠學說。把細微偏好化為具體體驗,正是 CUBE 平台能不斷創造驚喜的關鍵。四年來,CUBE 以「1+N」權益架構結合雙 App,已累積超過 600 萬卡,為國內發卡量最大的單一信用卡;累計2025 年前 7 月,簽帳金額達 4,889 億元,年增 11%,寫下亮眼成績。

但對國泰世華而言,數字只是過程,真正的目標應如陳冠學所言:「信用卡不該再有框架,CUBE 要做的,就是以洞察與創造,帶給客戶超乎想像的個人化體驗。」

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂Vibe Coding
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓