拚造「平價GPU」挑戰輝達,關鍵卻是捨棄HBM?晶片大神曝背後2原因
拚造「平價GPU」挑戰輝達,關鍵卻是捨棄HBM?晶片大神曝背後2原因

被譽為「處理器架構傳奇人物」、現為美國AI晶片設計新創商Tenstorrent執行長的Jim Keller ,正在試著設計比輝達更具效率的晶片,藉此壓低AI應用的成本,目標是奪取輝達一部分市占率。

日經新聞15日報導,Keller表示,輝達產品目前還有許多市場尚未涵蓋到。隨著AI拓展至智慧型手機、電動車及雲端服務,許多業者正在尋找較便宜的解決方案,不少小企業不願支付2萬美元購買輝達的高階繪圖處理器(GPU)。

Tenstorrent今(2024)年底準備推出第二代多用途AI晶片。據公司說法,在某些領域,這款AI晶片的能源、處理效率優於輝達AI GPU。事實上,跟輝達DGX系列AI伺服器相比,Tenstorrent的Galaxy系統不但效率高三倍、價格也便宜33%。

減少耗電、降低價格關鍵:放棄HBM

這是如何辦到的呢?Keller說,其中一個原因,就是Tenstorrent並未使用高頻寬記憶體(HBM)。HBM是生成式AI晶片的重要元件,輝達產品能獲致成功、HBM扮演重要角色。然而,HBM同時也是導致AI晶片耗電嚴重、價格高昂的元凶之一。

一般來說,AI晶片組每處理一次任務,GPU就會把資料傳送至記憶體。這需要HBM的高速資料傳輸能力。然而,Tenstorrent晶片大幅降低了資料傳輸次數,其特點是數百個核心中、每個核心都有一顆小型CPU,能自行判定哪些資料得優先處理、哪些非必要的任務可以放棄,進而提升整體效率。

Keller認為,全新方式可讓Tenstorrent晶片在部分AI研發領域取代GPU及HBM。不只如此,該公司也會盡量提升產品成本效益,但Keller坦言想要干擾現今規模龐大的HBM產業、恐得花上數年時間。他預測,未來將有更多新興業者搶進輝達目前還無法服務到的AI市場,而不是出現單獨一家完全取代輝達的企業。

科技巨擘的挑戰:離負擔AI基礎設施還差5千億美元

根據Sequoia Capital分析師David Cahn日前估算,AI企業每年必須賺取約6,000億美元,才能負擔它們的AI基礎建設(例如資料中心)。

Cahn的計算方式相對簡單。首先,他將輝達的營收運轉率(run-rate,指按照運行速度推估未來表現)預估值乘以二,來估算AI資料中心的總成本(GPU佔據一半,其餘是能源、建築及後援發電機)。然後,Cahn再將這個數字乘以二,來涵蓋終端用戶(例如新創商、或向AWS等雲端商購買AI算力的業者)的50%毛利率。

然而,就算是樂觀情境下,科技巨擘也難以創造6,000億美元的AI營收。Cahn指出,假設Google、微軟、蘋果(Apple)及Meta各創造100億美元AI相關年營收,而甲骨文(Oracle)、字節跳動(ByteDance)、阿里巴巴(Alibaba)、騰訊(Tencent)、X及特斯拉(Tesla)各創造50億美元AI年營收,這跟AI企業每年需賺取的6,000億美元相比,還是有多達5,000億美元的差距。

值得注意的是,輝達新推的B100/B200處理器,已承諾效能可望高2.5倍、成本僅增加25%。輝達執行長黃仁勳(Jensen Huang) 2月曾表示,AI處理器的架構創新,比產量更重要。

黃仁勳2月12日在杜拜舉辦的世界政府峰會(World Governments Summit)對阿聯的AI部長Omar Al Olama表示,不能預設自己能買更多電腦,而是要假設電腦運算速度會加快,因此不必買下那麼多電腦。

延伸閱讀:全球5G用戶上看56億!愛立信解密2大關鍵字:FWA、SA是什麼?為何它們是5G下一步?

本文授權轉載自:MoneyDJ

往下滑看下一篇文章
數聚集團首創「聲量、流量、存量」行銷飛輪,打造企業專屬 AI 成長引擎
數聚集團首創「聲量、流量、存量」行銷飛輪,打造企業專屬 AI 成長引擎

在高度碎片化的年代,企業行銷,不該是短跑,而是一場需要團隊默契的接力賽。

從社群平台、通訊軟體、搜尋引擎,再到網紅、短影音等,消費者與品牌的接觸點愈來愈碎片化。為了追求更好的行銷成效,企業陸續導入口碑行銷、廣告投放、會員經營等不同策略,並搭配各式各樣的 MarTech 工具,希望精準掌握每一次與消費者互動的機會。

然而,這些行銷策略就如同接力賽的跑者,雖然每一棒都努力衝刺,卻常常無法將成果順利交給下一棒,口碑、廣告與會員經營往往分屬不同負責人、使用不同平台,不僅數據散落在不同系統、跨部門協作成本高昂,一旦負責人員異動,累積多年的實戰經驗也容易隨之流失,使企業難以將每一次投入轉化為長期成長動能。

擁有 20 年行銷實戰經驗的數聚集團創辦人張元溢(Mars),看見許多企業投入愈來愈多工具與預算,卻始終無法累積真正的成長資產。他直言:「工具越多,不表示結果越好。」真正的競爭力,在於建立一套能整合數據、沉澱經驗並持續優化的成長機制,讓每一次行銷投入都成為下一次決策的養分,形成能不斷學習、自我進化的成長閉環。

基於這樣的理念,他整合旗下 Reddoor 紅門互動、Justar 數聚國際與 INLY 影領三大品牌,成立「數聚集團」,並提出全台首創的「聲量、流量、存量」行銷飛輪,串聯品牌曝光、流量轉換與會員經營三大階段。並整合第一方、第二方、第三方數據與生成式 AI,協助企業打造能自主學習、持續優化的 AI 成長引擎,讓品牌成長不再仰賴一次次重新開始,而是形成能持續累積價值的商業飛輪。

#2數聚集團首創「聲量、流量、存量」行銷飛輪,打造企業專屬 AI 成長引擎
數聚集團創辦人 張元溢
圖/ 數位時代

從聲量、流量到存量,打造會持續成長的品牌飛輪

達摩媒體暨影領國際執行長林合政(Adam)指出,企業在不同成長階段都有明確的經營目標,例如建立品牌聲量、透過廣告帶動流量,或深化會員經營、提升顧客價值。然而,任何一項策略都不可能無限放大成效,當成長逐漸趨於飽和,就需要下一個階段接力,才能持續創造新的成長動能。

林合政表示,真正重要的,不是哪一個環節最成功,而是每一個環節都能為下一個階段創造價值。 當品牌聲量帶動流量、流量沉澱為會員資產,再透過會員口碑與數據反哺品牌影響力,便能形成持續運轉的品牌飛輪,而不是依賴一次次的廣告投入。

#3 數聚集團首創「聲量、流量、存量」行銷飛輪,打造企業專屬 AI 成長引擎
達摩媒體暨影領國際執行長 林合政
圖/ 數位時代

數聚集團品牌長蔡雅藍(Blue)進一步拆解品牌飛輪的運作架構。第一步,由 INLY AI 網紅媒合平台快速媒合適合的創作者,以內容建立品牌信任與市場討論度,為品牌累積第一波成長動能。

#4 數聚集團首創「聲量、流量、存量」行銷飛輪,打造企業專屬 AI 成長引擎
數聚集團品牌長 蔡雅藍
圖/ 數位時代

接著,由 Justar 數聚國際接力擴大市場觸及,透過數位廣告、線下媒體與多元渠道整合,精準接觸潛在受眾,將品牌關注轉化為實際流量與訂單。

當新客成功導入後,再由 Reddoor 紅門互動透過會員經營、數據分析與自動化行銷,提升顧客黏著度、回購率與終身價值,將一次性的流量沉澱為可持續經營的品牌資產。

最後,再透過 MGM(Member Get Member)會員推薦機制,讓忠誠會員主動分享使用體驗、推薦親友,進一步帶動品牌討論與新客加入,形成「聲量 → 流量 → 存量 → 聲量」持續循環的品牌飛輪。
張元溢表示,這套飛輪並非一開始就規劃好的商業模式,而是數聚集團二十多年來陪伴品牌成長、持續驗證與優化後逐步發展出的成果。

「我們最早做的是廣告,後來客戶開始需要口碑;當口碑做好了,又開始思考如何留下會員、提升回購。」他回憶,團隊每一次拓展服務,都不是為了增加產品線,而是在陪伴客戶成長的過程中,看見下一個真正需要解決的問題,也因此逐步收斂出如今的「聲量、流量、存量」品牌飛輪。

從 Data Lake 到 Vibe Marketing,AI 開始接手整個行銷流程

飛輪要能持續運轉,關鍵不只是串聯聲量、流量與存量,更在於每個階段產生的數據能否真正累積。為此,數聚集團打造 Data Lake(數據中台),整合會員、廣告等第一方數據,並串接第二方、第三方資料,將原本分散於不同系統的資訊,匯聚成企業專屬的數據底座。

「現在大家都在談第一方數據,但企業真正缺的,其實是把不同來源的數據整合起來。」張元溢表示,除了企業自身累積的會員資料,數聚集團也串接發票數據、線下渠道等外部資訊,協助品牌從更完整的消費旅程理解市場,而不是只看見自己的會員輪廓。

當數據基礎建立完成後,AI 才真正開始發揮價值。過去,AI 多半停留在生成文案、圖片等單點應用;如今,數聚集團希望讓 AI 直接參與整個行銷流程。品牌只需提供活動網址(URL)、預算與行銷目標,AI 即可根據品牌歷史數據與過往成效,自動完成創作者媒合、媒體投放與策略配置,並在執行過程中持續學習與優化。

蔡雅藍表示,這也是數聚集團提出 Vibe Marketing 的核心概念。「就像 Vibe Coding 讓開發者透過自然語言完成程式開發,Vibe Marketing 則希望讓企業只需描述商業目標,AI 就能完成大部分的行銷規劃與執行。」她認為,AI 的角色不只是生成內容,而是逐步接手重複且仰賴經驗的工作,讓行銷人員能將更多時間投入品牌策略、產品創新與顧客經營。

林合政補充,真正的競爭優勢,不是使用同一套 AI 模型,而是企業是否擁有屬於自己的數據與經驗資產。當品牌知識、行銷策略與營運經驗,都能透過 Data Lake 持續沉澱並回饋 AI,每一次決策都將成為下一次成長的基礎,形成企業專屬的 AI 成長引擎。

展望未來,張元溢表示,數聚集團將持續整合 AI、Data Lake 與生態系夥伴資源,將這套品牌成長模式從線上延伸至線下,並逐步拓展海外市場。他認為,當品牌能讓每一次聲量、每一筆流量、每一位會員都成為下一次成長的起點,AI 才真正從工具,進化為企業的成長引擎。

為了進一步分享這套方法論與最新產品布局,數聚集團將於 8 月 12 日舉辦「數聚・領航 2026 產品發表會」,首度完整公開以 AI 為核心的品牌成長飛輪,並攜手聯合線上、傑思・愛德威、SHOPLINE 等合作夥伴,從媒體、代理商到電商生態,共同探討 AI 時代品牌經營的新策略與成長機會。活動將於 8 月 12 日(三)14:00–16:30 舉行,品牌可透過報名頁(https://reurl.cc/KEAYOe)報名參與。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
台達電全解讀
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓