問一次ChatGPT,比網路搜尋多花10倍資源!生成式AI能耗大,高通揭2大突破關鍵
問一次ChatGPT,比網路搜尋多花10倍資源!生成式AI能耗大,高通揭2大突破關鍵

作為微軟首波「Copilot+ PC」的處理器供應商、先前並豪言喊出「PC正在重生!」,過往以「通訊晶片龍頭」為人所知的IC設計大廠高通(Qualcomm),在近年的AI浪潮下倍受矚目。

高通副總裁暨台灣、東南亞與紐澳區總裁劉思泰於《2024 AI TAIWAN未來商務展》,以「智慧運算X邊緣無限:驅動AI時代的創新」為題,分享高通對於AI趨勢的觀察見解。

劉思泰在演說一開始提到,高通作為IC設計公司,在無線通訊是領先的專家,不過事實上高通自從10多年前,就開始針對AI大幅度的研究。

AI近來被視為帶動經濟發展的火車頭,劉思泰表示,據估計,整體AI產業(包括軟體、硬體的研發及服務等)每年將帶來2.6兆至4.4兆美元的經濟成長,約等於英國2021年的GDP,是非常龐大的市場。然而,在一片樂觀之外,大量的算力及能源耗費等問題,也浮上檯面。

生成式AI資源耗費大,「混合式AI」、「更小的LLM」成突破口

自網路普及的數十年以來,人們從習以為常的「Google一下」獲取解答,在近幾年生成式AI技術成熟後,越來越多人變成各種大小事都「去問ChatGPT」,並運用在工作上提升生產力。不過,在生成式AI所帶來的便利背後,代價是比過去高上許多倍的能源消耗。

「每次生成式AI的詢問(inquiry)、推論(inference),所需的資源是一般上網搜尋的10倍!」劉思泰舉例,不論是和ChatGPT問答、美化照片、輔助程式設計等各項生成式AI功能加起來,再乘上全世界的人口,所需要的運算資源以及電力耗費是十分可觀。

FC 高通 cost per inference.jpg
每用一次生成式AI的詢問、推論,所需的資源是上網搜尋的10倍,所需要的運算資源及電力耗費十分可觀
圖/ 孫嘉君攝影

業界也越發認知到,不可能將所有的AI訓練及推論,都放在雲端執行,而是需要 雲端運算及終端裝置運算結合的「混合式AI」(Hybrid AI) 。劉思泰解釋,即是把一部分的AI功能,主要是推論,分散到筆電、智慧型手機、智慧車等各種裝置上,需要大量資料的模型訓練則在雲端處理。

他並提及,在終端裝置的設計上,要考量各種不同的技術,包括高內存的記憶體、低耗電的網路,以及續航力及散熱,都需達到消費者能接受的程度。

另一方面,生成式AI核心的「大型語言模型」(Large Language Model,LLM),也開始有了典範轉移,並非參數越多越好,更少參數的「小型」大語言模型(LLM),能力變得更強,也更適合部署在裝置上。

FC 高通 大語言模型.jpeg
智慧型手機、筆電、汽車等不同裝置,適合不同參數數量的大型語言模型。
圖/ 2024 AI TAIWAN未來商務展

劉思泰指出,例如80億個參數的Llama3模型,能力已和擁有1750億個參數的GPT-3.5Turbo在伯仲之間。規模更小的大語言模型,在裝置端更容易運行,也成為生成式AI能在裝置端落地的重要突破方向。

延伸閱讀:他的智慧販賣機打進台積電!搶食70億販賣機商機,滙聚智能、亞尼克揭創利方程式

責任編輯:林美欣

往下滑看下一篇文章
LINE Biz-Solutions Awards 2025揭獎,以數據驅動AI行銷創作樹立產業新典範
LINE Biz-Solutions Awards 2025揭獎,以數據驅動AI行銷創作樹立產業新典範

因應消費者時間與行為日趨碎片化,單點廣告曝光或活動互動難以驅動長期影響力,必須從跨產品、跨通路甚至是跨服務的整合式生態圈服務著手,才能在日趨分散的消費者旅程中保持存在感、提升互動率,而這也是越來越多品牌會以 LINE 官方帳號為基礎,透過 LINE Biz-Solutions 為工具,透過整合數據洞察、創意內容、顧客關係管理與線上線下通路,打造一致且持續的品牌互動,讓品牌能在不同場景中累積信任感,與客戶建立更具深度與黏性的長期關係,形塑與持續累積品牌資產。

LINE Biz-Solutions Awards邁入第三屆,數據驅動的創新行銷活動蔚為風潮

LINE 做為全台滲透率最高的即時通訊與社群平台,不僅提供消費者多元服務,更透過 LINE Biz-Solutions 協助品牌、代理與行銷技術服務供應商所需工具與服務,以生態圈的概念優化顧客關係。為表彰具顧客價值與商業成果的創新案例,LINE 自 2023 年起與數位時代共同舉辦 LINE Biz-Solutions Awards ,為品牌得主與技術夥伴開啟專屬資源與合作機會,打造行銷實力之外的成長動能,以及對接更大的生態圈與未來商機。

「台灣的 LINE 官方帳號已超過 300 萬個,每年都有許多企業透過 LINE 進行數位行銷與顧客互動,期望能透過LINE Biz-Solutions Awards給予肯定,讓大家可以持續在 LINE 上面有更多多元的創作,激發不一樣的火花;同時,提供得獎者更多資源與回饋,形成良性循環。」LINE 台灣企業解決方案事業群總經理王俞蓉如是說道。

Line Biz-Solutions
LINE 台灣企業解決方案事業群總經理王俞蓉
圖/ 數位時代

LINE Biz-Solutions Awards於今(2025)年邁入第三屆,不僅評審陣容持續擴大,參賽作品亦較2024年增長44%,進一步細六大獎項的參獎作品可發現:中小企業與政府單位的參賽作品件數創新高,其次,最佳資料整合運用獎的參賽作品數量跟成長率皆居冠,顯示台灣品牌與行銷團隊將數據整合視為創新行銷變革與顧客互動的基礎,為AI驅動的自動化個人精準行銷做最佳準備。

這樣的趨勢也呼應麥肯錫在《Unlocking the next frontier of personalized marketing》報告中的觀點–深度數據整合與分析,是發揮AI驅動個人化行銷成效與提升投資報酬率的關鍵指標。決賽評審主席–台灣奧美集團顧客體驗董事總經理郭育滋表示:「今年入圍決選的 30 件作品中,許多團隊都透過兼具深度與廣度的數據整合機制,創造出超乎預期的成果:更好優化顧客體驗與營運表現。」

Line Biz-Solutions
台灣奧美集團顧客體驗董事總經理郭育滋
圖/ 數位時代

以LINE加速創新變革,16組獲獎產品演繹數位行銷新典範

LINE Biz-Solutions Awards 2025的參賽作品風格多元、創意豐富,評審在一次次被驚艷的同時,也面臨艱難抉擇,許多獎項的入圍作品分數相差無幾,使得今年的角逐比往年更加激烈。
其中,抱走最佳資料整合應用獎金獎的是「恆隆行《零售65》One hengstyle ‧ 創新整合,引領美好生活」,藉由統一的 LINE 官方帳號,成功整合旗下多個品牌、涵蓋 70 個服務帳號的售前、售後與內容數據,有效突破跨部門數據藩籬,為消費者提供更一致且卓越的服務。獲得最佳資料整合應用獎銀獎殊榮的是「信義房屋 LINE 找屋平台」,透過 LINE UID 與內部數據資料的整合,打造低摩擦及具個人化的有感使用體驗。

榮獲最佳OMO行銷獎金獎的是「DECATHLON 想動就動,結伴玩到底」,以 LINE 的多元功能讓消費者可以在冬天進行實體運動,進而改善淡季業績挑戰;取得最佳OMO行銷獎銀獎的作品是「WBCQ LINE數位應援神隊友」,透過 LINE 的多元工具與服務,讓所有場外球迷也可以集結串聯與時時應援。

「黑松時光地圖」則拿下最佳創意內容運用獎金獎,透過插畫呈現百年品牌的經典意象,並以 LINE 創造跨世代消費者的共感;至於銀獎則是由「The North Face北面山地節」獲得,該專案透過LINE鼓勵消費者闖關與集滿徽章,成功鼓勵更多消費者走向山林並保存難忘回憶。

最佳創新科技運用獎金獎作品是「永慶AI特助 - AI 智慧互動,有問必答」,透過將AI技術融入 LINE 官方帳號的方式,不僅滿足消費者找屋旅程中的所有需求,更讓消費者用自然語「發問」就能獲得房屋資訊。獲得最佳創新科技運用獎銀獎的是「Cancell 醫病遠距照護零距離」,透過 LINE Biz-Solutions 串聯 C 端病患跟 B 端醫護人員,讓遠距醫療照護沒有距離。

一舉奪得最佳在地行銷獎金獎的是「山上寄來的果物巡禮邀請函」,以LINE串聯果農與消費者,以精準行銷強化傳統果農的銷售效率。獲得最佳在地行銷獎銀獎殊榮的作品是「【彰化旅行+】布丁地圖」,透過 LINE 的互動、遊戲屬性、吸引消費者先到線上探索、再到線下商店打卡集章完成真實體驗,成功推廣彰化。

最佳 ESG 貢獻獎金獎則由「揚生旺來 LINE〈21天自癒幸福指南〉」獲得,該專案透過 LINE 平台降低高齡族群的進入門檻,讓其願意使用陪伴內容服務,持續驗證數位工具確實可提升高齡人口身心靈健康。最佳 ESG 貢獻獎銀獎作品則是由「山海圳國家綠道-AI山林嚮導」獲得,經典展示以AI 與數位工具深入探索當地、有利實現數位永續旅遊體驗。

4000px_20251125_LINE_0379.jpg
圖/ LINE Biz-Solutions

至於最佳應用突破獎金獎、最佳產業應用賞金獎則是由 LINE 提名推薦獲獎者。其中,最佳應用突破獎金獎是由中國信託商業銀行榮獲,中國信託 LINE 官方帳號是金融產業目標好友數最多且留存率最高的銀行帳號,不僅以聯名貼圖活動提升好友數、以中信卡50周年整合行銷活動擴大與深化品牌印象,更透過 LINE Biz-Solutions 為新的品牌理念推出『挺你所想 擊出1+1』一系列完整線上串線下的互動體驗。

最佳產業應用賞金獎的得獎者有國泰世華銀行、和德昌股份有限公司(麥當勞)與台灣萊雅。其中,國泰世華銀行不僅積極擴展 LINE 官方帳號的好友數、透過 LINE 成效型廣告(LINE LAP)全方位宣傳 CUBE App 與防詐識別機制、藉由直播與內容策展持續深化內容互動、推出綁定服務提供880萬 LINE 官方帳號好友個人化金融服務通知,更透過 LINE 官方帳號發送線下演唱會的限定票根,成功觸及更多消費者、深得歌迷喜愛。

麥當勞則是持續深化跟 LINE 官方帳號好友的互動,例如搭配端午立蛋、香芋派鐵粉知識王、搖搖薯條薯守到底等節慶話題推廣商品,以及透過影音、直播、早安圖等多元內容提升 LINE 官方帳號的豐富度與使用體驗;此外,亦透過Desktop半月方案與Desktop社群廣告與運動直播等多元廣告合作模式提升觸及率、樹立產業標竿。

台灣萊雅則是以LINE為核心,串接觸及、互動、導購等環節,發揮品牌生態圈最大效益。例如,透過LINE 成效型廣告(LAP)平台將情人節、母親節、618等節慶檔期等資訊精準推送給關鍵客群,藉此擴大觸及率、提升曝光與互動成效。以及藉由LINE LIVE 直播,讓代言人與粉絲進行即時互動、舉辦專家講座提升民眾衛教觀念,成功拉升品牌LINE官方帳號的點擊率與好友活躍度。

AI驅動持續創新,引領數位行銷新風潮

回顧本屆得獎作品,可以清楚看到,品牌主與代理商不僅從多個面向探詢LINE Biz-Solutions的無限應用可能,也積極透過更深且廣的數據整合優化顧客消費旅程,以及優化AI驅動個人精準行銷效益。決賽評審團成員之一的數位時代事業部總經理兼總編輯王志仁表示:「本屆作品的AI技術應用比例增加,相信將在之後成為數位行銷新常態,期待可以有更多AI Agent應用,創造更多元的創意、資料整合與科技應用。」

Line Biz-Solutions
數位時代事業部總經理兼總編輯王志仁
圖/ 數位時代

展望未來,LINE 除加速優化 LINE Biz-Solutions 的各項服務,也會透過「LINE Biz-Solutions Awards」持續表揚具代表性的行銷創意,期待 2026 年度活動再次激發產業創新能量,帶動示範效應,協助企業強化行銷戰力,為台灣數位行銷注入更多動能。

「LINE Biz-Solutions Awards 2025」得獎名單

2025 LINE Biz-Solutions Awards
https://line-biz-solutions-awards.landpress.line.me/winner2025/

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
進擊的機器人
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓