挑戰Nvidia！博通、微軟、Google推AI晶片有什麼亮點？能趕上嗎？|數位時代 BusinessNext

Nvidia(NVDA-US)憑藉其GPU的領先優勢，過去幾年炙手可熱，更乘著ChatGPT熱潮，公司的市值從今年年初至今更是大漲93.6%，不過，近日博通(AVGO-US)、微軟(MSFT-US)、Google(GOOGL-US) 都大動作出手，希望挑戰其獨霸地位。

博通發布新晶片Jericho3-AI，解決訓練AI「網路限制」

博通周二(18日)發布Jericho系列最新的產品Jericho3-AI。在他們看來，這是比輝達(Nvidia)Infiniband更適合AI的一個新選擇。

據博通所說，大公司(甚至 NVIDIA)都認為AI工作負載會受到網路延遲和頻寬的限制，而Jericho3-AI的存在則旨在減少AI訓練期間花在網路上的時間。其結構的主要特性是負載平衡以保持鏈路不擁塞、結構調度、零影響容錯移轉以及具有高乙太網基數(radix)。

博通強調，AI工作負載具有獨特的特徵，例如少量的大型、長期流，所有這些都在AI計算週期完成後同時開始。Jericho3-AI結構為這些工作負載提供最高性能，具有專為AI工作負載設計的獨特功能。

博通指出，「Jericho3-AI結構的一個獨特之處在於它提供了最高的性能，同時還實現了最低的擁有權總成本。這是通過長距離SerDes、分散式緩衝和高級遙測等屬性實現的，所有這些都使用行業標準乙太網提供。這些因素為最大的硬體和軟體提供商生態系統提供了網路架構和部署選項的高度靈活性。」

延伸閱讀：蘋果密謀2025年淘汰博通晶片！庫克想逐步擺脫晶片商依賴，可能嗎？

微軟自研晶片Athena找台積電助攻，最新進展到哪了？

據The Information報導，微軟正在開發自己的代號為「Athena」的人工智慧晶片，該晶片將為ChatGPT等人工智慧聊天機器人背後的技術提供支援。

根據這一報導，這些晶片將用於訓練大型語言模型和支援推理—這兩者都是生成AI所需要的，例如ChatGPT中使用的AI來處理大量資料、識別模式並創建新的輸出來模仿人類對話。

報導稱，微軟希望該晶片的性能優於目前從其他供應商處購買的晶片，從而為其昂貴的AI工作節省時間和金錢。

目前尚不清楚微軟是否會向其Azure雲客戶提供這些晶片，但據報導，這家軟體製造商計畫最早於明年在微軟和OpenAI內部更廣泛地提供其AI晶片。報導也稱指出，該晶片的初始版本計畫使用台積電的5奈納米工藝，不過作為該項目的一部分，可能會有多代晶片，因為微軟已經制定了包括多個後代晶片的路線圖。

近年來，微軟加大處理器工程師的招聘力度，今年年初，微軟更是宣布收購一家名為Fungible 的DPU晶片公司。

微軟Azure核心部門的CVP Girish Bablani在一篇博文中寫道：「Fungible的技術有助於實現具有可靠性和安全性的高性能、可擴展、分解、橫向擴展的資料中心基礎設施」。

延伸閱讀：微軟祕密研發AI晶片「雅典娜」！成本大降3分之1，但不是要取代Nvidia A100

Google推TPU第四代、超級電腦，比Nvidia A100更快

近日，Google對其TPU v4，及其基於這個晶片的打造的超級計算系統，公布更進一步資訊。

據他們在一篇文章中指出，得益於互連技術和領域特定加速器(DSA) 方面的關鍵創新，Google雲TPU v4 在擴展ML系統性能方面比TPU v3有了近10倍的飛躍；與當代ML DSA相比，提高能源效率約2-3倍。

在與Nvidia A100相比時，Google表示，TPU v4比前者快1.2-1.7倍，功耗低1.3-1.9倍。在與Graphcore的IPU BOW相比，Google表示，其晶片也擁有領先的優勢。

基於這個晶片，Google打造一個擁有4,096個張量處理單元(TPU)的TPU v4超級電腦。

Google表示，這些晶片由內部開發的行業領先的光電路開關(OCS)互連，OCS互連硬體允許Google的4K TPU節點超級電腦與1,000個CPU主機一起運行，這些主機偶爾(0.1-1.0%的時間) 不可用而不會引起問題。

據Google稱，OCS動態重新配置其互連拓撲，以提高規模、可用性、利用率、模組化、部署、安全性、功率和性能。與Infiniband相比，OCS和底層光學元件更便宜、功耗更低且速度更快，不到TPU v4系統成本的5%和系統功耗的5%以下。

延伸閱讀：AI大戰的新戰場！Google推超級電腦、AI晶片，為何Nvidia老神在在？

本文授權轉載自：鉅亨網

責任編輯：傅珮晴、蘇祐萱

快速展店背後的挑戰　如何降低跨據點管理與維運負擔

對連鎖零售企業而言，展店代表商機與成長，但當門市數量快速增加，營運與管理的複雜度也隨之提升。尤其對便利商店（C-store）、餐飲連鎖與其他高密度展店型態的企業而言，總部需要面對的不只是據點數量增加，更包括不同門市的設備管理、系統維護、日常維運與人力配置等多方面挑戰。

過去多據點門市的設備與資訊管理，往往以單一門市為單位，各據點可能擁有不同的攝影機、錄影設備配置與管理模式。當總部需要掌握事件狀況、確認門市營運情形，或進行跨區域管理時，往往需要投入大量人力逐一確認資訊，不僅增加管理負擔，也提高維運成本。

此外，零售產業本身具有高度變動性。門市可能因應市場策略進行展店、搬遷、改裝，甚至調整營運規模。傳統一次性設備投資模式，容易讓企業在面對據點變化時缺乏彈性，也增加設備重新配置與後續維護的負擔。

因此，現代零售企業所需要的不只是單純記錄事件的設備，而是一套能隨企業成長彈性調整、協助總部有效掌握多據點安全資訊，並支援未來智慧應用發展的智慧化管理架構。

從既有設備開始升級　降低全面汰換設備的轉型負擔

面對智慧化轉型需求，許多企業最大的挑戰並非是否需要升級，而是如何在不中斷現有營運的情況下完成轉型。

對已經投入大量資源建置安全系統的零售企業而言，全面汰換既有架構不僅成本高，也可能影響門市日常運作。因此，能夠兼容既有設備並逐步升級的彈性架構，成為企業導入智慧安全管理的重要關鍵。

透過混合雲架構，企業可以從既有設備開始，逐步整合不同據點的安全資訊與管理需求，同時導入雲端管理能力。相較於一次性重新建置，新一代平台架構能協助企業延續既有投資價值，並依照實際需求逐步導入更集中化、智慧化的管理能力。

此外，訂閱式雲端服務模式和混合雲安防架構，也為零售企業帶來更靈活的資產管理方式。相較於頻繁的硬體汰換、傳統一次性採購或繁瑣的跨品牌安防系統的管理，企業更有彈性的因應門市拓展、搬遷、調整或營運規模調整，精準配置資源，降低一次性投入壓力，也減少因據點變動造成設備閒置的情況。

對快速成長的連鎖零售企業而言，安全管理不再是一套固定且難以調整的架構，而是一個能隨企業規模與需求持續演進的平台。無論是新增門市、跨區域管理，或因應營運策略調整，都能以更彈性的方式完成管理升級。

AI 不只是安防工具　更開始協助零售提升營運效率

隨著 AI 技術快速發展，安全管理的角色也正在改變。過去企業導入影像系統主要用於事件記錄、事後查看與追蹤；如今，智慧雲端安防平台則能進一步從大量影像資訊中辨識人、車與行為，協助企業從「看見發生什麼」進一步「理解正在發生什麼」，甚至主動協助管理者發現與處理事件。對門市數量眾多、人力有限的連鎖零售業者而言，AI 正逐步成為降低管理負擔、提升營運效率的重要工具。

從基本事件偵測到自然語言規則　讓 AI 主動理解更多異常情境。 AI 智慧辨識已能針對跌倒、奔跑、徘徊、跨線等常見事件進行自動偵測，協助門市減少人工查看影像的需求。而進一步透過 Think Alert，管理者更可以直接以自然語言設定客製化的偵測條件，將 AI 應用延伸至傳統事件規則以外。以門市尖峰時段為例，店員往往需要同時處理結帳、補貨與顧客服務，總部也難以持續掌握每個據點的即時狀況。透過 Think Alert，管理者可以直接以自然語言設定「在門店入口抽菸的人」等情境；當符合設定條件的畫面出現時，系統即可主動發出警報，協助管理者即時掌握異常狀況。對於門市數量龐大的企業而言，這代表 AI 不只是協助辨識既定事件，更能依據不同營運需求，讓管理者以更直覺的方式設定希望 AI 主動關注的情境。

從大海撈針到快速完成調查　Think Search 搭配 Case Vault(案例庫) 掌握完整事件脈絡。 當事件發生後，如何從大量、多據點的影像中找到關鍵人物與事件脈絡，往往是最耗費人力的環節。透過 Think Search，管理者可以直接用自然語言描述想尋找的對象與情境，例如，當家長反映孩童可能在門市附近走失時，店員或總部人員不需要逐一查看不同攝影機的錄影畫面，只要在 Think Search 輸入「昨日上午，牽著小女孩的男性」等自然語言描述，系統即可協助從大量影像中篩選相關畫面，快速找到相關人物可能出現的時間與位置。若需要進一步追蹤，還能將不同搜尋階段找到的重要畫面與資訊整理至 Case Vault，建立事件時間線與人物移動路徑，協助管理者更完整掌握事件脈絡。

從安全管理延伸至顧客服務與門市營運　讓既有影像創造更多價值。 AI 的應用也不只限於安全事件。例如在咖啡店、餐飲等場景，若顧客將手機、包包等物品遺留在座位或櫃台附近，遺留物與遺失物偵測可以協助門市人員更快發現異常，主動確認並協助顧客處理失物問題；人流分析則能協助企業掌握不同時段的門市活動趨勢，作為空間配置與人力安排的參考；車牌辨識可應用於停車區域或門市周邊管理，而工安防護裝備辨識則能協助後場、倉儲等區域進行安全規範管理。透過這些應用，企業能在既有設備基礎上，進一步將影像資料延伸至安全、服務與營運等不同場景。

對連鎖零售業而言，AI 的價值已不只是「看得更清楚」，而是讓企業更快發現問題、更快找到資訊，並進一步理解事件脈絡與營運狀況。從基本事件偵測、自然語言設定規則，到 AI 搜尋與事件調查，再延伸至顧客服務與營運分析，雲端安防平台正讓影像從被動的紀錄工具，逐步成為支援多據點安全管理與營運決策的重要資訊來源。