拚造「平價GPU」挑戰輝達，關鍵卻是捨棄HBM？晶片大神曝效率高輝達3倍！|數位時代 BusinessNext

拚造「平價GPU」挑戰輝達，關鍵卻是捨棄HBM？晶片大神曝背後2原因

「晶片大神」Jim Keller 正嘗試設計比輝達更高效的晶片，藉此壓低AI應用的成本，以奪取輝達的一部分市占率。

減少耗電、降低價格關鍵：放棄HBM

這是如何辦到的呢？Keller說，其中一個原因，就是Tenstorrent並未使用高頻寬記憶體(HBM)。HBM是生成式AI晶片的重要元件，輝達產品能獲致成功、HBM扮演重要角色。然而，HBM同時也是導致AI晶片耗電嚴重、價格高昂的元凶之一。

一般來說，AI晶片組每處理一次任務，GPU就會把資料傳送至記憶體。這需要HBM的高速資料傳輸能力。然而，Tenstorrent晶片大幅降低了資料傳輸次數，其特點是數百個核心中、每個核心都有一顆小型CPU，能自行判定哪些資料得優先處理、哪些非必要的任務可以放棄，進而提升整體效率。

Keller認為，全新方式可讓Tenstorrent晶片在部分AI研發領域取代GPU及HBM。不只如此，該公司也會盡量提升產品成本效益，但Keller坦言想要干擾現今規模龐大的HBM產業、恐得花上數年時間。他預測，未來將有更多新興業者搶進輝達目前還無法服務到的AI市場，而不是出現單獨一家完全取代輝達的企業。

科技巨擘的挑戰：離負擔AI基礎設施還差5千億美元

根據Sequoia Capital分析師David Cahn日前估算，AI企業每年必須賺取約6,000億美元，才能負擔它們的AI基礎建設(例如資料中心)。

Cahn的計算方式相對簡單。首先，他將輝達的營收運轉率(run-rate，指按照運行速度推估未來表現)預估值乘以二，來估算AI資料中心的總成本(GPU佔據一半，其餘是能源、建築及後援發電機)。然後，Cahn再將這個數字乘以二，來涵蓋終端用戶(例如新創商、或向AWS等雲端商購買AI算力的業者)的50%毛利率。

然而，就算是樂觀情境下，科技巨擘也難以創造6,000億美元的AI營收。Cahn指出，假設Google、微軟、蘋果(Apple)及Meta各創造100億美元AI相關年營收，而甲骨文(Oracle)、字節跳動(ByteDance)、阿里巴巴(Alibaba)、騰訊(Tencent)、X及特斯拉(Tesla)各創造50億美元AI年營收，這跟AI企業每年需賺取的6,000億美元相比，還是有多達5,000億美元的差距。

值得注意的是，輝達新推的B100/B200處理器，已承諾效能可望高2.5倍、成本僅增加25%。輝達執行長黃仁勳(Jensen Huang) 2月曾表示，AI處理器的架構創新，比產量更重要。

黃仁勳2月12日在杜拜舉辦的世界政府峰會(World Governments Summit)對阿聯的AI部長Omar Al Olama表示，不能預設自己能買更多電腦，而是要假設電腦運算速度會加快，因此不必買下那麼多電腦。

本文授權轉載自：MoneyDJ

從工作、娛樂到各種智慧服務，網路早已成為現代生活不可或缺的基礎設施。而人們對行動網路的期待也不再只是「連得上」，更希望無論身處室內外場域，都能享有穩定、流暢且一致的連線體驗。尤其 AI 時代來臨，從手機到無人搬運車、機器人與各種智慧設備，對高速、穩定網路的需求只會愈來愈高。

這也讓 5G 室內覆蓋逐漸成為一塊不可忽視的市場需求。中華電信 5G 加速器團隊阿米索拉（AMOESO）看準這股趨勢，推出5G室內分散式天線系統（5G DAS），並借助中華電信長期累積的電信專業、場域資源與第一線服務經驗，重新調整產品規格、市場定位與商業模式，讓創新技術更貼近使用者需求，進而加速擴大市場版圖。

技術做到一百分，市場卻不買單：阿米索拉發現兩大營運盲點

「我們一開始推出的產品，其實充滿技術人的迷思，只顧著把技術做到極致，卻忽略了市場是否真的需要，」阿米索拉執行長邱創群笑著說，回頭來看，團隊早期主要踩到了兩個盲點。

第一是找錯目標市場。阿米索拉原本鎖定已經建置 4G 室內覆蓋設備的舊建物，推出可沿用既有設備、由 4G 無痛升級至 5G 的產品。然而，產品實際推向市場後，團隊才發現，這群客戶並沒有強烈的網路升級動機；相較之下，尚未建置室內行動網路覆蓋的商辦大樓、住宅社區與新建築，反而展現出更明確的需求。

第二則是習慣從技術角度去定義產品，而非從市場需求反推規格。由於團隊成員多為研發背景，在制定產品規格時，主要延續過去的 4G 經驗，也習慣追求更高規格、更完整的功能；然而，技術做到一百分，不代表市場就會買單。團隊後來才意識到，比追求「頂規」更重要的是，讓產品符合客戶需求、且價格負擔得起，這才是技術走向市場的關鍵。

從產品規格到商業模式，中華電信助阿米索拉打開更大市場

這兩個盲點，導致阿米索拉的市場拓展速度一直不如預期，如何跳脫研發團隊視角，真正理解客戶需要什麼、願意為什麼買單，成為團隊下一步必須突破的關卡。

加入中華電信 5G 加速器後，這道關卡開始有了突破口。邱創群表示，透過5G 加速器牽線，阿米索拉得以直接對接中華電信，從第一線電信營運商與真實市場的視角，重新檢視產品規格、市場定位與價格服務包裝，跳脫過去單從研發角度思考產品的盲點。團隊也因此重新調整產品方向，將目光從金字塔頂端客戶，轉向更廣大的新建築、中小型企業與住宅市場。

「中華電信長期服務企業客戶、建商與一般使用者，最清楚終端市場真正需要什麼，」邱創群表示。憑藉長期累積的網路規劃經驗與第一線市場洞察，中華電信協助阿米索拉重新校準產品規格，在技術效能、實際需求與價格之間找到更適切的平衡點，讓產品更貼近客戶真正的使用情境。

更重要的是，中華電信帶來的第一線市場回饋，也讓阿米索拉看見另一個過去沒有注意到的問題：客戶不買單，不一定是沒有需求，而是導入門檻太高，無法一次負擔全部的建置費用。舉例來說，許多住宅社區都有改善地下室等公共空間行動網路覆蓋的需求，若要由管委會編列預算採購設備，不僅可能面臨預算不足的窘境，還有可能卡在冗長的決策與開會流程，最後往往無疾而終。

面對這些沒有被滿足的需求，阿米索拉進一步與中華電信討論出新的商業模式，以設備租賃取代一次性採購，將初期建置成本轉為定期支付的租金，希望降低社區與企業的導入門檻。為此，阿米索拉甚至新增租賃相關營業項目，從過去以設備買賣為主的模式，延伸至訂閱與租賃型服務，讓更多「有需求、卻跨不過採購門檻」的客戶有機會導入，也為室內 5G 覆蓋打開更廣大的市場。

從 POC 到 Scale-up，中華電信助阿米索拉跨過信任門檻

「對我們而言，中華電信不只是合作夥伴，也可能是未來最大的客戶與市場通路，」邱創群說，中華電信除了協助阿米索拉調整產品規格、創新商業模式，也進一步尋找合適的驗證場域，希望透過實際場域完成 POC、產品認證與入網驗證，未來才能快速複製既有模式，大幅縮短產品導入與市場拓展的時間，預計年底前可完成第一個合作案。

除了與中華電信合作，阿米索拉也積極接觸中華電信各地營運處，目前已與台北、新北、新竹等營運單位建立合作管道，並鎖定新建案、企業廠辦及社會住宅等多元案場展開部署規劃，將產品推廣到更多場域。

而這些合作之所以能快速展開，邱創群認為，關鍵在於 5G 加速器讓阿米索拉能夠快速跨過新創最難突破的「信任門檻」。過去，阿米索拉也想與中華電信合作，卻卡在不知道該向哪個單位、哪個人敲門；加入 5G 加速器後，不僅有了對接中華電信內部不同單位的入口，更能藉由中華電信的品牌影響力，加速建立內外部對阿米索拉的信任與認同。無論接觸潛在客戶、合作夥伴或投資人，都比過去單靠陌生開發更有效率。

這份信任，也進一步反映在募資成果上。「中華電信願意把我們納入加速器，本身就代表對這個市場方向與團隊能力的認同。」邱創群坦言，來自中華電信的肯定，也提升投資人對阿米索拉的信心，使公司順利完成新一輪 4,000 萬元的募資，實收資本額進一步突破 7,000 萬元。

阿米索拉的故事，是中華電信 5G 加速器與新創共創的縮影。透過技術能力、場域資源與市場經驗的分享，中華電信陪伴新創跨越從 POC 走向 Scale-up 的階段，讓創新不只停留在技術驗證，更能轉化為真正被市場需要的產品與服務，進而壯大台灣 5G 創新生態系，讓電信產業的能量成為推動創新成長的重要力量。