速度快千倍!Cerebras設計史上最大的晶片,它能做到哪些事?
速度快千倍!Cerebras設計史上最大的晶片,它能做到哪些事?

iPhone的晶片比一半硬幣小,雲端服務器中的晶片比一角紙幣小,但現在,一個比iPad還大的晶片製造出來了。

它也成了目前史上最大的電腦晶片。這個晶片名為Cerebras Wafer Scale Engine,由加利福尼亞一家名為Cerebras的新創公司製造,尺寸約為8英吋×8英吋。

Cerebras2.png
圖/ 愛范兒

我們先來看看它「驚人」的性能參數:

  • 12,000億個晶體管
  • 46,225平方毫米的晶片面積
  • 400,000個AI可編程內核
  • 18GB超快速片上存儲器(SRAM)
  • 9PB/s內存頻寬
  • 100Petabits/s結構頻寬
  • 稀疏性的原生優化(避免乘以零)
  • 軟體與標準AI框架(如TensorFlow和PyTorch)的兼容性

如果你對這些參數的程度不熟悉的話,要知道,上個月AMD發布的世界上功能最強大的Epyc晶片,也只擁有320億個晶體管和64個內核。

比起世界上領先的圖形處理單元,Cerebras Wafer Scale Engine的高速片上快取大了3,000倍,內存帶寬大了10,000倍,它比最大的Nvidia GPU晶片面積也大了56.7倍。

Cerebras3.png
圖/ 愛范兒

按理說,在半導體行業中,其實更大的不代表就是更好。但其創辦人兼執行長安德魯・費爾德曼(Andrew Feldman)表示,更大的晶片,就是為了滿足更與時俱進的人工智慧

這背後的邏輯很簡單:AI對我們的生活影響越來越大,數據庫也越來越大,但現在人工智慧行業進步的主要瓶頸,就是培訓模型需要極長時間。高性能AI的深度學習,需要透過大量的運算和頻繁的數據訪問進行訓練,才能不斷改進和升級,一個更強大的處理器,才能盡可能快地處理海量成長的新數據。

Cerebras4.png
費爾德曼和原始的SeaMicro盒子
圖/ 愛范兒

該晶片使用台積電的16奈米工藝製造的300毫米晶圓切割而成,這是單個晶圓級的解決方案,比起以往大多數晶片都是數十上百個集合起來,它能透過84個互連晶片組成的晶圓直接聯動工作。

這不僅克服了數10年前晶片尺寸的技術限制,而且這個晶片還具有400,000個AI優化的內核,具有靈活性、可編程性。

Cerebras5.png
典型的矽片包含大約100 個電腦晶片. 圖片來自:GETTY IMAGES
圖/ 愛范兒

再加上比GPU大3,000倍的片上快取,解決了以往需要跨多個設備和內存層並行運算的問題,現在只用一個設備就能儲存和處理整個神經網絡。等於就是在一個晶片上,構建了帶有RAM的一整個電腦集群。

最後,與具有數百個傳統加速器的機架式服務器相比,Cerebras具有頻寬高、延遲低的獨特通訊結構,比現有的解決方案性能速度快數千倍,可以用以往無法想像的高效率來工作。

更多的內核、更大的RAM、低延遲高帶寬結構,共同構成了加速AI工作的絕佳環境。

Cerebras6.png
圖/ 愛范兒

Cerebras表示,該晶片可以驅動複雜的人工智慧(AI)系統,帶來AI技術的巨大飛躍,應用在未來的無人駕駛汽車、監控軟體市場等各個領域。但是,晶片製造商通常不會製造這麼大的晶片,因為這種大膽的設計,必須克服重大的技術障礙,包括互連、製造、封裝、冷卻等等。

即便是用了再精細的製造技術,這麼一大塊晶片也不可能沒有任何缺陷。雖然該公司打算使用「冗餘處理核心」技術,拋棄製造過程中一定數量的「壞」晶片,但量產良品率過低,也定會是個難越的坎。

Cerebras7.png
Cerebras正在設計自己的測試和包裝系統
圖/ 愛范兒

另外,冷卻晶片也是個問題。小型電腦晶片使用的功率低,很容易冷卻,而Cerebras龐大的晶片不僅僅是散熱器和風扇就能冷卻,而是需更專業的基礎設施來協助。

此外,晶片由於太大而無法放入任何傳統封裝中,Cerebras必需配合定制包裝技術和工具來應對挑戰。

Ian Cutress博士說道:這也是為什麼它適合人工智慧領域,因為那也是現在大筆資金流向的地方。

Cerebras8.png
圖/ 愛范兒

總而言之,Cerebras晶片的規模和雄心是瘋狂的。但因為缺乏性能和功耗的細節,現在很難評估Cerebras晶片在未來的影響力。Cerebras表示,它目前正在幾家大型潛在客戶中開始測試系統,並將於10月份開始商用。但它不會單獨銷售或作為擴充卡銷售,Cerebras希望在2020年中期推出圍繞此類晶片構建的完整服務器。

預計未來幾個月,Cerebras晶片還會公佈更多技術的細節,這項技術,也必會隨著AI日新月異的進程而持續升溫。

責任編輯:江可萱

本文授權轉載自:愛范兒

往下滑看下一篇文章
中華電信攜手AI新創,前進大南方共築未來競爭力
中華電信攜手AI新創,前進大南方共築未來競爭力

隨著南台灣正逐漸崛起成為亞洲科技重鎮,如何協助在地新創開創更多市場機會,成為產業升級至關重要的課題。中華電信將攜手9家潛力新創,前進南台灣最大創新創業活動「2025 Meet亞灣新創大南方」,向外界展示與新創協作開發的AI應用成果,展現中華電信以實際行動引領數位創新、共創智慧未來的企業承諾。

由內而外促進跨界合作,打造南台灣AI創新創業雨林生態系

根據《2025全球新創生態系報告》,南台灣縣市的新創動能展現強勁成長力道,台南與高雄的新創城市排名皆大幅躍升,成長率甚至突破100%。著眼於南台灣新創的發展潛力,中華電信持續深化南台灣布局,以領先的AI技術與5G網路優勢,與在地政府、南部產業攜手共建南台灣AI創新創業生態圈。

事實上,中華電信早在2018年便成立全台第一個電信業5G加速器,成功培育74家新創團隊,同時內部亦積極啟動AI轉型,並逐步將AI轉化為對外的服務能力,成為協助企業導入AI應用的賦能者,同時與各界攜手開發創新應用,扮演AI協創者的角色。

在AI應用協創開發上,中華電信除了提供雲端、5G等資源,更整合集團內部資源、創投部門與外部投資基金的力量,全方位支持新創團隊打造創新解決方案,也為各行各業注入AI轉型動能,提供涵蓋AI雲平台、技術支援的解決方案,協助企業在數位轉型路上加速前行。

中華電信 x 大南方
圖/ Dreamstime

【亮點1:AI平台】雲端算力升級 驅動產業加速AI創新
隨著生成式人工智慧與高效能運算需求持續攀升,中華電信自主研發的 hicloud雲端服務進化升級,推出具高度彈性與擴展性的AI算力雲平台,提供雲端GPU租賃服務。企業可透過即時租用、以時計費模式,有效降低前期硬體投資負擔,並靈活調配算力資源,促進多元AI應用開發落地。

同時,中華電信攜手全球三大雲端領導業者 AWS、Microsoft 及 Google Cloud,引入多項生成式 AI 技術,並結合中華電信在地化雲端顧問服務,為政府與企業量身打造最適化的雲端 AI 整合解決方案,全方位協助客戶加速數位創新,推動智慧轉型。

【亮點2:AI技術】多模態AI創新應用,融合視覺×數據驅動精準決策
在AI技術端,本次參展的憶象和博誠電子,皆順應多模態AI趨勢,展現結合視覺、知識文件或感測數據的創新應用,為企業打造更智慧、更精準的決策與管理工具。

憶象推出全圖形化視覺 AI 平台 Memorence Suite 及多模態 VLM 知識助理系統 Memoragents,可快速判讀與企業知識融合,形成「看得懂又說得清」的 AI,協助企業優化決策流程、降低營運成本,進而提升高效產能與核心競爭力。

博誠電子的魔塊智能物聯係為匯聚邊緣AI應用與頂尖技術的創新平台,獨創的多模態AI技術,可高效地與Edge Ai模組及晶片無縫介接,大幅提升AI判斷的準確性及可靠度,進而節省企業人力成本、提升營運效率。

【亮點3:AI應用】多元AI解方齊發 助企業提效、永續與自動化升級
在企業AI應用端,中華電信攜手新創團隊展多元AI解決方案,從客戶服務、倉儲物流及永續減碳3個面向,協助企業邁向智慧營運與永續轉型的雙重目標。

在客戶服務端,愛吠的狗與InventAI皆聚焦電話客服場景。愛吠的狗展出「AI AMAZE 電話客服- TeleAgent」解決方案,可降低企業客服人力負擔。目前已展開生成式AI教學、產學研究等多項合作。InventAI的DeepVoice客服心聲分析平台則可剖析對話重點,提升客服效率與回應品質,中華電信客服中心在導入後,資料蒐集時間減少33%、無效對話過濾達93%。

能火動畫與騏御記則以AI應對人口少子化、高齡化帶來的缺工挑戰。能火動畫的3D AI虛擬人,具人臉辨識、人流分析、多語服務及行銷數據蒐集功能。而騏御記以USeeToGo的AR行動擴增實境服務為基礎,開發SLAM AI AR導覽與導購服務等應用,適用於醫療、零售等場域。

在倉儲物流端,泰科動力不僅是台灣第一家自產自銷AMR的公司,其自主研發的AMR SLAM自主移動機器人,更抱走第21屆國家品牌玉山獎最佳產品獎。

在永續減碳端,櫛構科技開發的CHAP-E活動/會議碳數據解析平台,透過GenAI演算法協助制定具體可行的減碳路徑以執行碳中和,協助企業落實節能減碳永續轉型。擁樂數據的COMMEET智能費用管理系統,可以在既有費用報銷流程中同步計算每筆交易的碳排放量,協助企業落實永續目標。

中華電信 x 大南方
圖/ Dreamstime

中華電信登論壇舞台、廣邀 AI 人才 賦能南台灣共創新未來

中華電信攜手新創積極推動AI應用,並在「2025 Meet Greater South亞灣新創大南方」活動,全面展示最新AI協創成果。除帶來涵蓋AI雲平台、AI技術與AI應用的多項技術亮點外,中華電信亦將登上「南方創新力:亞灣AI半導體經濟論壇」舞台,以「AI創新賦能大南方」為題,分享推動AI落地與生態協創的實戰經驗,及透過科技人才專區「加入中華電信打造精彩未來:引領智慧台灣,通信科技職涯新契機」主題演講,廣邀AI、6G、智慧交通與ESG等領域專業人才加入,加速南台灣智慧轉型與創業生態升級。

歡迎8月22日至23日,與中華電信一起前進2025 Meet Greater South亞灣新創大南方,一同見證南台灣創新力量的崛起,共創台灣AI新未來!

中華電信 x 大南方
圖/ 中華電信

第七屆中華電信5G加速器線上報名至9/22(一) 熱列徵選中:https://cht5g.com.tw/

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
蘋果能再次偉大?
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓