瞄準物聯網商機,Google新AI晶片Edge TPU跟以往有何不同?
瞄準物聯網商機,Google新AI晶片Edge TPU跟以往有何不同?
2018.07.27 | Google

Google在Google Cloud NEXT 2018活動中宣布推出新AI晶片Edge TPU,這個晶片功能是什麼?和過往的第一代到第三代TPU晶片(又稱為Cloud TPU)哪裡不同呢?

主攻工業物聯網,10月販售開發版套件

根據Google官方部落格資料,Edge TPU是一種低功耗低成本的ASIC晶片,而且體積非常小,小於1美分銅板。ASIC專用晶片和GPU通用晶片比較之下,晶片功耗較低,延遲性也較低,運算效率較高,如Edge TPU在高分辨率影音上可以以每秒30幀的速度,在每幀上同時執行多個AI模型。

另外,Google也將推出Edge TPU開發版套件(module development kit)。其中含有恩智浦CPU、Edge TPU、Wi-Fi功能和加密晶片的開發版在今年10月就會對外販售。

掌握最新AI、半導體、數位趨勢!訂閱《數位時代》日報及社群活動訊息

Google也提到Edge TPU將主攻預測性維護、異常檢測、機器視覺、機器人、語音識別等工業物聯網應用場景,除了在工業製造領域,在醫療、零售、智能空間與交通等領域也是用。而LG已經計劃在產品線上使用Edge TPU。

而支援Edge TPU的框架和軟體服務則全都綁定在Google自家的架構之中,打造「封閉的生態系」意圖明顯。希望開發者或企業也會採用Edge TPU後,也會被綁定在Google Cloud服務中。因此在使用上必須搭配Google的 Cloud IoT Edge 軟體,並且針對 TensorFLow 機器學習模型優化。

EdgeTPU新晶片和Google過往推出的TPU晶片不同。Google過往推出的第一代到第三代TPU晶片用途在資料中心,也就是雲端運算的機器學習訓練和推論使用,因此被稱為Cloud TPU,而剛推出的新晶片則用在終端裝置,也就是邊緣運算的推論,也因此Gogole以Edge TPU稱之。

邊緣運算的推論又是什麼意思呢?

什麼是邊緣運算與推論?根據台灣產業分析公司拓墣的描述:邊緣運算可說是物聯網時代下的產物,「邊緣運算在傳統雲端與裝置端的連接中間,多了一層運算層──Edge 端,Edge 其實指的是靠近數據源的運算單位,包括閘道器、路由器,以及硬體底層相關的各種機器、裝置、設備與系統。」

「有了 Edge 端直接針對多裝置、龐大訊息先做擷取、過濾與處理,對裝置端做出回饋與反應,不用讓所有資料都上到雲端,以期在資料量逐漸龐大、重視資訊即時處理傳輸的現代,更能有效率處理資訊,減少事事上雲端所帶來的時間遞延與資料傳輸/儲存成本。」

而推論呢?NVIDIA的官網文章中指出,「深度神經網路進行『訓練』階段,就猶如校園裡的授課活動。就跟大多數人接受教育的理由一樣,神經網路接受教育的理由也是學習怎麼執行工作。更明確一點來說,經過訓練的神經網路會在數位環境裡發揮所學習到的內容,通過應用程式這種簡單的型態來辨識影像、人類語言、血液疾病,或建議人們下一雙可能會買的鞋子等等。這個速度更快、效率更高的神經網路會按照訓練過的內容,猜想新資料的走向。在人工智慧圈的詞彙裡,這稱為「inference」(推論)。」也因此神經網路模型未經過訓練便不會進行推論。

理解邊緣運算與推論之後,我們回過頭來看Edge TPU。以應用場景來看,Google Cloud首席合作夥伴暨代理商愛卡拉互動媒體共同創辦人暨營運長鄭鎧尹指出:

Edge TPU可以讓整個硬體產業,將雲端的強大運算能力「下載」到本地端的機器上面, 使本地端的機器具備一定的智能。

如一般居家設備或電子設備,能做一定程度的『預測功能』。舉例來說,家中的智慧「門」遇到來客時,並不需要透過網路把人臉丟回「雲端」辨識,而是「門」自己直接就可做完這個辨識。

終端設備無須將資料回傳雲端,就能直接做出預測可以帶來資料安全性更高、延遲速度較小與不受頻寬限制等許多好處,可以提供更好的使用者體驗。以上述的智慧門人臉辨識為例,就可以更快速地提供來客身份確認。

Edge TPU會取代 Cloud TPU?

那EdgeTPU優點這麼多會取代Cloud TPU嗎?也不會。在AI應用場景中,邊緣運算短期內不會取代雲端運算,因為許多高階應用機器學習模型,由於消耗的運算量大,還是需要透過「雲端」訓練機器學習模型,邊緣運算由於硬體成本與環境限制,還是有其運算侷限,也因此若延伸到兩種晶片的關係上,兩者是相輔相成,功能不重疊,是互補關係。

Google在官方部落格中強調:「Edge TPU是設計來讓Google的 Cloud TPU 產品更完整。」如此一來,可以更快地在雲端中訓練機器學習,然後在Edge飛速進行機器學習推演。這讓你的感測器不再只是數據收集器,而是可以做出更在地、即時、智慧的決策。

缺點

不過Edge TPU本質上是ASIC晶片,由於是專用訂製晶片,在AI演算法不斷推陳出新,還沒有到成熟穩定時期,Edge TPU很難克服不同演算法之間的差異性。

關鍵字: #Google
往下滑看下一篇文章
從地下室到演唱會都不卡!台灣大哥大如何解鎖全場景、有感升級的5G體驗?
從地下室到演唱會都不卡!台灣大哥大如何解鎖全場景、有感升級的5G體驗?

5G開台邁入第五年,戰場早已從「誰有5G」轉向「誰的5G好用」。夜市、演唱會、地鐵、商圈——這些人潮洶湧、訊號最容易卡頓的地方,才是檢驗網路品質的真實考場。要打造真正有感的5G體驗,靠的不是技術名詞,關鍵在於能否把網路資源變成看得見、用得到的流暢速度。

台灣大哥大擁有最大5G黃金頻寬,以及高覆蓋率的NRCA載波聚合領先技術,為網路傳輸佈局暢行無阻的地圖,打通每一個收訊死角,再加上OpenSignal權威認證背書,不僅是技術成績站得住腳,更讓用戶日常生活使用有感提升。

全台獨家最大頻寬100MHz,讓5G跑得快又穩

要解析5G效能優劣,關鍵在於「頻寬」配置。頻寬就像道路的寬度,直接決定數據傳輸的承載容量。頻寬越寬,越能支撐大量用戶同時連線,確保下載、串流、直播等應用維持順暢體驗,避免因流量壅塞導致服務中斷。簡言之,頻寬就是撐起網路用戶體感的關鍵。

台灣大哥大目前在全球主流5G黃金頻段3.5GHz上,獨家取得全台最大100MHz頻寬資源,達到頻譜配置的頂規水準。實測結果顯示,在理想條件下,此頻寬配置可擁有高達2Gbps下載速率。

1216001092_53M.jpg
圖/ shutterstock

同時,台灣大哥大也已在全台超過2,000處熱點完成5G黃金頻段基地台升級。因此即使遇到夜市商圈、大型演唱會、跨年活動等高密度人流聚集場景,當用戶數量暴增、頻寬需求激增時,完整的基礎建設布局仍能確保訊號不中斷、網速不卡頓。

打通收訊死角,體驗有感不只是口號

除了速度與流量,5G還有一項棘手難題——涵蓋死角與訊號穿透力。特別是在室內深處、地下室等場域,即使該處已有5G涵蓋,實際使用仍有可能無法完全避免的卡頓或不穩狀況。

原因在於5G高頻段雖速度快,但穿透力弱,容易因手機功率有限而發生不穩定的情況。對此,台灣大哥大結合700MHz低頻段的穩定性優勢,以互補式的高低頻協作架構,強化訊號深度與廣度。換言之,在戶外大場景跑得快,在室內密閉空間也能收得到。

NRCA自動切換最佳頻段,上網不怕訊號塞車

台灣大哥大的核心技術優勢,還有NRCA(New Radio Carrier Aggregation)載波聚合技術;NRCA讓行動裝置能同時使用多個頻段上網,如同多車道高速公路,讓資料流在不同頻段間靈活切換,兼顧高速率與深度覆蓋率。當某一頻段出現壅塞,系統能自動將資料流量轉至其他頻段傳輸,以提升整體承載效率與傳輸穩定性。

自2021年率先佈建高低頻NRCA,目前已有超過六成基地台支援這項技術,有效壓縮延遲、提升連線穩定度、強化訊號覆蓋與穿透。此外,合併台灣之星後,台灣大哥大更將全球主流5G黃金頻段3.5GHz的60MHz與40MHz頻寬合併,打造業界最大100MHz,為全台唯一同時整合5G高高頻與高低頻NRCA的電信業者,在5G網路體驗與穩定度領先同業,達到頻譜配置的頂規水準。

隨著短影音、直播、雲端工作等即時傳輸需求爆炸成長,用戶對「穩定滑順」的網路依賴不斷提高。台灣大哥大領先的NRCA載波聚合技術,正好回應用戶需求,無論是在捷運上滑臉書,還是在人聲鼎沸的夜市直播吃美食,都能享受多場景流暢切換的優質5G體驗。

2334636029_63M (1).jpg
圖/ shutterstock

優質有感體驗,經國際權威OpenSignal認證

根據國際第三方認證機構OpenSignal於2025年6月公布的行動網路體驗報告,台灣大哥大在「可用率」、「5G影音體驗」與「整體影音體驗」三項用戶有感的指標上獲得第一名。所謂可用率,意指用戶隨時隨地都能連上網路,關鍵時刻訊號不缺席,不論身處室內或移動場景,都能穩定連線不中斷;同時,良好的影音體驗指標,則代表用戶在觀看影片、雲端會議或滑短影音時,能享有畫質流暢、連線穩定、不易中斷的完整體驗。OpenSignal向來以實測數據為依據,其認證結果可視為對 5G 體驗品質的權威背書。

今年第一季,OpenSignal也針對合併電信後的網路表現進行評比。自2023年底台灣大哥大與台灣之星完成合併後,其在涵蓋體驗的評分顯著提升,並在品質一致性指標上維持82~84%的穩定水準。相較其他合併案例,台灣大哥大是體驗提升幅度最大、整體穩定性維持最佳的合併業者,顯見其網路品質、營運韌性與整合效率。

5G技術是否能成為使用者真正信賴的基礎,關鍵在於能否在生活場景中「被感受到」。台灣大哥大以完整的頻寬資源、彈性技術架構與佈建策略,從速度到穩定、從戶外到室內,打造順暢5G體驗,可期待在這場長期5G競賽中,成為用戶最仰賴的行動網路選擇。

有關更多相關資訊,請查詢網站:https://www.taiwanmobile.com/content/event/nrca/index.html

追蹤我們
電商終局戰
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓