混合AI是什麼?為何能大降成本,讓高通狂推、微軟Copilot也在用?
混合AI是什麼?為何能大降成本,讓高通狂推、微軟Copilot也在用?

2023年的COMPUTEX於5/30-6/2在南港展覽館展開!繼去年終於回歸實體後,今年規模更加盛大,聚焦高效運算、智慧應用、次世代通訊、超越現實、創新與新創、綠能永續等六大主題,提供全球創業先鋒產業知識碰撞與交流之平臺、創造更多技術革新的火花。

《數位時代》也將直擊,帶來第一手的現場觀察。

強打AI(人工智慧)議題,高通(Qualcomm)在30日Computex的演說上,火力全開推展未來將會是「混合AI」的觀點,應用型態將會是「個人終端的AI和雲端AI運算組合而成」,高通資深副總裁暨運算及遊戲部門總經理Kedar Kondap直言:「未來的AI運算是混合的。」

高通資深副總裁暨行動、運算與XR部門總經理Alex Katouzian認為,生成式AI帶來的巨大成功,加速了AI的發展,「高通的手機經驗是算力技術的基石,在節能減碳的趨勢下,高通將努力滿足生成式AI的需求。」

此外,高通也找來第 95 屆奧斯卡金像獎最佳女主角的楊紫瓊擔任開場影片主角,展示AI融入人們日常生活的畫面。

楊紫瓊
在今年的Computex上,高通找來第 95 屆奧斯卡金像獎最佳女主角的楊紫瓊擔任開場影片主角,展示AI帶來的未來。
圖/ 高通

混合AI是什麼?為何高通狂推?優點在哪?

高通口中的「混合AI」,指的是 將AI運算分散在不同的裝置內 。由於一個AI的模型十分龐大,若要達商用化,還必須考量到延遲、效率和實用性等問題。高通認為部分計算於手機、平板或電腦中、部分則在雲端運行,將會是AI自然融入於人類生活中的最佳解方。

高通
高通資深副總裁暨行動、運算與XR部門總經理 Alex Katouzian則認為,混合AI將是未來的發展趨勢。
圖/ 邱品蓉攝影

Kondap在演講中表示,這樣做的主要的目的就是 節省成本 。以ChatGPT而言,科技媒體《Venture Beat》指出,GPT-3擁有1,750億參數,光訓練成本就要花掉約1,200萬美元,價格昂貴。

換到日常生活,以查詢為例,若使用生成式AI進行網路搜索,與傳統的方法相比成本將增加10倍。換成其他的應用項目,成本可能還會更高。然而,透過混合式AI,可以將AI工作的負載依照情況,在雲端、電子產品兩端之間調配,達到最佳使用效益,節省成本消耗。

延伸閱讀:台灣要有「AI大學中心」了!背後是1年多艱苦談判,經濟部處長揭秘

高通新AI解決方案,效能是CPU、GPU的3到5倍!

為此,高通今天也推展AI解決方案Hexagon Processor Snapdragon運算平台,在效能上能勝過傳統CPU(中央處理器)、GPU(繪圖處理器)效能的3到5倍。AI已經呈現混合式的型態,在雲端資料中心,邊緣雲端,以及終端邊緣AI都要能運行

Katouzian指出,這款引擎能讓使用者在沒有網路的情況下,於裝置上使用生成式AI,也能在雲端資料中心、邊緣雲端以及終端AI裝置上運行。

高通
高通今日還找來台灣微軟總經理升任微軟全球裝置事業群副總裁的孫基康,展示建造於Snapdragon平台上的Window11生成式AI聊天助手「Copilot」的強大之處。
圖/ 邱品蓉攝影

高通也找來台灣微軟總經理升任微軟全球裝置事業群副總裁的孫基康站台,展示基於Snapdragon平台所合作開發的Window11,示範如何運用融入生成式AI聊天助手「Copilot」。值得一提的是,高通至今仍是微軟在Windows on Arm唯一的合作夥伴。

延伸閱讀:Rask AI實測!一鍵把中文翻譯成60種語言,有多好用?

責任編輯:林美欣

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
進擊的機器人
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓