拚造「平價GPU」挑戰輝達,關鍵卻是捨棄HBM?晶片大神曝背後2原因
拚造「平價GPU」挑戰輝達,關鍵卻是捨棄HBM?晶片大神曝背後2原因

被譽為「處理器架構傳奇人物」、現為美國AI晶片設計新創商Tenstorrent執行長的Jim Keller ,正在試著設計比輝達更具效率的晶片,藉此壓低AI應用的成本,目標是奪取輝達一部分市占率。

日經新聞15日報導,Keller表示,輝達產品目前還有許多市場尚未涵蓋到。隨著AI拓展至智慧型手機、電動車及雲端服務,許多業者正在尋找較便宜的解決方案,不少小企業不願支付2萬美元購買輝達的高階繪圖處理器(GPU)。

Tenstorrent今(2024)年底準備推出第二代多用途AI晶片。據公司說法,在某些領域,這款AI晶片的能源、處理效率優於輝達AI GPU。事實上,跟輝達DGX系列AI伺服器相比,Tenstorrent的Galaxy系統不但效率高三倍、價格也便宜33%。

掌握最新AI、半導體、數位趨勢!訂閱《數位時代》日報及社群活動訊息

減少耗電、降低價格關鍵:放棄HBM

這是如何辦到的呢?Keller說,其中一個原因,就是Tenstorrent並未使用高頻寬記憶體(HBM)。HBM是生成式AI晶片的重要元件,輝達產品能獲致成功、HBM扮演重要角色。然而,HBM同時也是導致AI晶片耗電嚴重、價格高昂的元凶之一。

一般來說,AI晶片組每處理一次任務,GPU就會把資料傳送至記憶體。這需要HBM的高速資料傳輸能力。然而,Tenstorrent晶片大幅降低了資料傳輸次數,其特點是數百個核心中、每個核心都有一顆小型CPU,能自行判定哪些資料得優先處理、哪些非必要的任務可以放棄,進而提升整體效率。

Keller認為,全新方式可讓Tenstorrent晶片在部分AI研發領域取代GPU及HBM。不只如此,該公司也會盡量提升產品成本效益,但Keller坦言想要干擾現今規模龐大的HBM產業、恐得花上數年時間。他預測,未來將有更多新興業者搶進輝達目前還無法服務到的AI市場,而不是出現單獨一家完全取代輝達的企業。

科技巨擘的挑戰:離負擔AI基礎設施還差5千億美元

根據Sequoia Capital分析師David Cahn日前估算,AI企業每年必須賺取約6,000億美元,才能負擔它們的AI基礎建設(例如資料中心)。

Cahn的計算方式相對簡單。首先,他將輝達的營收運轉率(run-rate,指按照運行速度推估未來表現)預估值乘以二,來估算AI資料中心的總成本(GPU佔據一半,其餘是能源、建築及後援發電機)。然後,Cahn再將這個數字乘以二,來涵蓋終端用戶(例如新創商、或向AWS等雲端商購買AI算力的業者)的50%毛利率。

然而,就算是樂觀情境下,科技巨擘也難以創造6,000億美元的AI營收。Cahn指出,假設Google、微軟、蘋果(Apple)及Meta各創造100億美元AI相關年營收,而甲骨文(Oracle)、字節跳動(ByteDance)、阿里巴巴(Alibaba)、騰訊(Tencent)、X及特斯拉(Tesla)各創造50億美元AI年營收,這跟AI企業每年需賺取的6,000億美元相比,還是有多達5,000億美元的差距。

值得注意的是,輝達新推的B100/B200處理器,已承諾效能可望高2.5倍、成本僅增加25%。輝達執行長黃仁勳(Jensen Huang) 2月曾表示,AI處理器的架構創新,比產量更重要。

黃仁勳2月12日在杜拜舉辦的世界政府峰會(World Governments Summit)對阿聯的AI部長Omar Al Olama表示,不能預設自己能買更多電腦,而是要假設電腦運算速度會加快,因此不必買下那麼多電腦。

延伸閱讀:全球5G用戶上看56億!愛立信解密2大關鍵字:FWA、SA是什麼?為何它們是5G下一步?

本文授權轉載自:MoneyDJ

往下滑看下一篇文章
櫃買中心、安永攜手打造成長新引擎,推動創新企業從隱形冠軍成為明日之星
櫃買中心、安永攜手打造成長新引擎,推動創新企業從隱形冠軍成為明日之星

進入資本市場,是台灣創新企業與中小微企業走向壯大與永續經營的關鍵一步,因此,儘管挑戰重重,仍有許多企業為此而努力,而櫃買中心參考美國JOBS Act規定而建置的創櫃板,則是這些企業的強力助攻員,協助企業順利籌措資金及進入資本市場。

一如在2014年推出智慧家電相關產品的樺緯物聯,自2015年登錄創櫃板到2025年登錄興櫃時,市值便增加8倍、達19億元,展現驚人的成長力道。同樣令人矚目的還有DC直流電馬達吊扇製造商昶瑞機電,該公司只花了短短2年時間就從創櫃板走到上櫃,且市值達24億元,成長近2倍。

事實上,像樺緯物聯與昶瑞機電這樣接受創櫃板培育的企業並不少,櫃買中心董事長簡立忠引述內部數據指出,過去11年來,創櫃板已輔導超過500家創新企業,其中31家成功晉升公開發行或興櫃,更募集累計超過66億元資金,為台灣產業注入了源源不絕的成長動能。

為了進一步強化輔導能量,櫃買中心在2025年推動創櫃板升級為「創櫃板Plus」,除了與安永聯合會計師事務所深度合作,輔導創新企業建立良好的財務與內稽內控制度,更結合承銷商、專業股務機構、政府單位、研究機構、學校育成中心、企業加速器等各界資源,為創新企業量身打造企業成長藍圖,使其得以穩健邁向資本市場、站上更高的舞台。

055A3676.jpg
櫃買中心董事長 簡立忠
圖/ 數位時代

為什麼需要創櫃板Plus?

「創櫃板Plus提供了一套完整且系統化的輔導制度,避免企業在發展過程中迷失方向、也能少走一些冤枉路,」安永聯合會計師事務所所長傅文芳強調,透過創櫃板Plus與安永的合作,為新創提供正規、可信且循序漸進的專業輔導,可以讓創新企業在成長過程中同步完善各項制度,為未來踏上資本市場之旅奠定堅實基礎。

傅文芳指出,安永已連續9年蟬連創櫃板輔導卓越獎,從這些接受輔導的創新企業及中小微企業來看,其在進入資本市場時皆面臨相同的卡關點、也就是制度。

新創在成軍初期多以生存為主要目標,將重心放在找資金、研發產品與開拓市場上,容易忽略制度建置與合規要求,常常等到在規劃上市櫃時,才會發現自身制度與上市櫃的公司治理要求存在著不小差距,例如:財務透明度不足、內部控制未齊備等,甚至還會有合規風險,不僅需要耗費更高的人力、時間與費用成本來補強,更會影響後續興櫃或上市進程,甚至錯過市場成長的最佳時機。

因此,對於有志於進入資本市場的創新企業而言,在創業初期就建立健全的財會與內稽內控制度,同時完善公司治理架構和資訊透明度,不僅是必要條件,更是未來永續發展的關鍵基石。

055A3651.jpg
安永聯合會計師事務所所長 傅文芳
圖/ 數位時代

安永強力助攻,創新企業邁向資本市場首選的好夥伴

「創櫃板Plus正是協助創新企業連結資本市場的最佳平台,」簡立忠強調,與一般新創加速器偏重技術育成、營運輔導不同,創櫃板Plus更重視制度建立及公開資訊之揭露。

因此,創新企業在登錄創櫃板後,不只可以取得股票代號、提升公司的知名度之外,還能獲取成長所需的各項資源與協助,例如:導入會計與內控制度、參加ESG或智慧財產等各類經營管理專業課程,參加投資媒合會、接觸更多CVC或VC等多元投資人、共同參展等,透過這些支持,為企業鋪設一條更扎實、可行的成長之路,讓創新企業可以大幅提升市場知名度與能見度,進而增加被投資、與外界夥伴建立合作關係、開拓新客戶的機會,在公司成長的同時也持續邁向興櫃或上櫃之路。

而在創櫃板Plus輔導機制中,安永聯合會計師事務所扮演了重要角色,不僅協助新創完善財會與內稽內控制度、建立合規的作業流程,降低因制度缺失造成的風險。更能因應現今熱門的綠色永續浪潮,協助創新企業及早進行ESG規劃,滿足資本市場對綠色投資的要求,也讓產品能夠順利出口海外市場。

傅文芳表示,安永新創暨創新產業小組以全球「產業研究中心」為基礎,籌組產業服務團隊,無論新創屬於哪一類型產業,皆能快速找出與所屬產業相關的合規需求與常見風險,用最有效率的方式完成內控制度建置。不只如此,安永更整合北中南的服務能量,與台灣各地的學校育成中心、加速器、產業園區等合作夥伴建立創新生態系,協力挖掘與培育具潛力的創新企業,並提供創櫃板Plus相應資源,協助潛力新創克服營運挑戰、邁向成長高峰,包括前述提及的昶瑞機電,還有目前已在興櫃的數位服務供應商知識科技、深耕生技領域的通用幹細胞等,皆是在安永的輔導下,從登入創櫃板開始再到進入興櫃,逐步啟動公司高速成長的引擎。

就像簡立忠說的:「創櫃板Plus為創新企業厚植實力、營造充滿希望的板塊,將他們從隱形冠軍,打造成明日之星。」充份展現創櫃板Plus的核心使命,未來,櫃買中心將持續整合產官學各界力量,透過創櫃板Plus協助更多台灣創新企業與中小微企業,期望2025年達到新增輔導及登板企業至少80家的里程碑。與此同時,安永也將擴大人才布局,增加專業人員駐點於北中南各區域,主動發掘並輔導具潛力的創新企業,透過安永與櫃買中心的共同合作,不僅為台灣資本市場注入新活力,也為新創開拓更寬廣的成長與發展空間。

055A3824.jpg
安永聯合會計師事務所所長 傅文芳(左)、櫃買中心董事長 簡立忠(右)
圖/ 數位時代
追蹤我們
電商終局戰
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓