【觀點】AI PC是什麼?AI手機你會買嗎?GPT引爆人工智慧需求,2年後會怎麼改變你?
【觀點】AI PC是什麼?AI手機你會買嗎?GPT引爆人工智慧需求,2年後會怎麼改變你?

AI紅遍大街小巷,ChatGPT是最大功臣!先來回顧暴紅源起

2022年11月底,美國OpenAI公司推出ChatGPT「聊天機器人」,瞬間暴紅,推出後短短2個月,活躍用戶數就超過1億人。

「人工智慧AI」早已被廣泛應用在工廠自動化、影像處理、辨識、資料整理、客戶喜好自動分析、智慧監控等等用途,不過普羅大眾並不熟悉,也對專業領域的應用沒有很高興趣,因此大家對AI沒有特別的認識。

直到ChatGPT問世後,大家發現AI竟有如此平易近人的應用,使用者可以直接以文字輸入,詢問各種問題,而ChatGPT可以用流暢的文案,回答使用者提出的問題。

LLM.jpg
ChatGPT是功能強大的「大型語言模型」(LLM),具有生成式功能的AI。
圖/ Shutterstock

ChatGPT是功能強大的「大型語言模型」(LLM),具有生成式功能的AI。

ChatGPT透過預先訓練(深度學習)巨量的文本資料,加上微調,然後產生一套規模宏大的模型參數,以類神經網路的方式,構成平易近人,功能強大的人工智慧「聊天機器人」。

ChatGPT可以寫一首詩、可以填寫電子表格、可以編寫SQL(結構式查詢語言)程式,並執行SQL查詢;可以編寫Python語言程式、可以編寫Verilog語言(IC設計慣用的程式語言)程式。

一般人士可以透過自然的語言,要求ChatGPT產生專業的需求(例如上述撰寫程式語言),使普通人也可以具備專業工程師的能力。ChatGPT可以根據使用者輸入的要求,撰寫廣告文案、演講稿、劇本、歌詞、整理資料製作表格等等。

晶片巨頭輝達(Nvidia)執行長黃仁勳十分興奮稱,ChatGPT宛如人工智慧界的iPhone。

iPhone推出後,顛覆手機產業的面貌,讓智慧型手機提升到前所未有的應用層面,擴大人類的視野。iPhone可說是智慧型手機起飛的重要里程碑。

黃仁勳將ChatGPT譽為AI的iPhone,象徵自ChatGPT之後,AI將邁開大步前進,開啟AI的新時代。

AI開啟科技大廠、新創的LLM競賽

ChatGPT推出後,全球各大公司紛紛推出各自的「大型語言模型」,從Google、Meta到百度、阿里巴巴等巨頭,到許多不為大眾熟悉的公司,紛紛推出各自的LLM,連中東國家也開發出阿拉伯語的LLM。

LLM的硬體基礎為AI伺服器,而輝達的GPU早就是AI領域最主要元件,輝達的GPU加上CUDA軟體系統,可說是建構AI的必備元件。今年輝達的A100、H100 GPU嚴重缺貨,顯示出全球各大公司及機構,積極建立各自的人工智慧LLM。

延伸閱讀:17年前的關鍵決策,造就市值逼近兆元的Nvidia!黃仁勳做對什麼?

今年11月6日,OpenAI舉行公司的首場開發者大會,發布最新的GPT-4 Turbo,重點大致有五項:

重點一: 此模型使用截至2023年資料加以訓練,之前是使用截至2021年9月之前的資料,這讓GPT-4 Turbo能夠以更新的資料庫,來生成答案。

重點二 :GPT-4 Turbo大幅提高可輸入的文本數量,最多可輸入300多頁文字。新版GPT-4 Turbo收費降低,比之前版本約便宜3倍。

重點三: OpenAI對客戶提供版權保護,如果客戶使用ChatGPT生成的內容,導致面臨與侵犯著作權相關的法律訴訟,OpenAI將介入,並為客戶辯護,且支付訴訟所產生的費用。

OpenAI開發者大會、sam altman.jpg
OpenAI在開發者大會上,發布最新的GPT-4 Turbo。
圖/ OpenAI

重點四: OpenAI將開設「GPT Store」,這與Apple Store或Google Play類似,個人及公司可以開發客製化的應用,並將開發出的GPT放在「GPT Store」販售。

重點五: 更令人興奮的是,開發客製化的應用可以不必有程式寫作專業,以自然語言輸入,就可以創造出自己的專屬GPT。

由此看來,ChatGPT開始跟隨當年蘋果發展iPhone的腳步,仿效Apple Store招納各路英雄好漢,開發出各式各樣的應用,壯大整個生態系統。

GPT Store將會是OpenAI推廣ChatGPT的一個新里程碑。

今年9月19日,英特爾發表Meteor Lake Core Ultra處理器,這款處理器整合作為AI加速器的NPU,是面向「AI筆電」的專屬處理器。

11月7日,英特爾在台灣舉辦英特爾創新日,執行長基辛格(Pat Gelsinger)大力宣稱PC的AI時代已來臨,會中展示宏碁、華碩及微星搭載Core Ultra處理器的AI筆電。

AI PC是什麼?

目前的生成式AI是架構在「雲端」的應用。舉例而言,OpenAI將ChatGPT架在眾多的AI伺服器上,並且放在微軟的Azure雲端服務上。對使用者而言,必須透過雲端使用ChatGPT,這會產生時間延遲。

理想的方式是能直接在「邊緣端」(如筆電、智慧型手機等)執行AI應用,不必透過雲端。這不僅可減少延遲時間,同時可以保有隱私。缺點是邊緣裝置無法容納龐大的AI系統,因此AI處理能力有局限之處,不過可以透過與雲端服務連線,取得複雜任務的結果。

newsroom-innovation-2023-day1-keynote-7.rendition.
英特爾執行長Pat Gelsinger(左)和宏碁首席營運長高樹國共同展示AI PC,英特爾Ultra處理器。
圖/ 英特爾提供

目前AI筆電約可執行70億個參數的大語言模型 ,效果還不錯。GPT-3.5約有2000億個參數,AI筆電可容納的參數數目與之比較是「小巫見大巫」。盡管AI筆電目前的能力可能有局限,不過應該可滿足大部分人的日常需求。

基辛格對AI筆電充滿熱情與樂觀,他認為2024年、2025年兩年間,AI筆電的出貨量將可達1億台。

AI手機也要來了?

10月25日,高通發表新一代智慧型手機處理器「驍龍Gen 3」處理器,內建高效能AI功能,可執行AI模型。

無獨有偶,聯發科在11月5日發布「天璣9300」智慧型手機處理器,同樣內建強大AI功能。

目前天璣9300可運作70億個參數的大語言模型,同時進一步嘗試使用130億個參數的大語言模型,之後可望挑戰330億個參數大語言模型。

聯發科技發表天璣9300旗艦晶片
聯發科天璣9300旗艦晶片,將手機帶入AI時代。
圖/ 邱品蓉攝影

確定的是2024年智慧型手機進入AI世代。

筆電的市場規模約每年2億台左右,智慧型手機的市場規模約每年12億支左右。

筆電、智慧型手機一齊進入AI世代,對半導體的需求,將帶來強大的成長,2024年半導體市場的前景不容小覷。

延伸閱讀:美國新晶片令即刻開鍘!輝達很痛,華為可能趁勢崛起?

《數位時代》長期徵稿,針對時事科技議題,需要您的獨特觀點,歡迎各類專業人士來稿一起交流。投稿請寄edit@bnext.com.tw,文長至少800字,請附上個人100字內簡介,文章若採用將經編輯潤飾,如需改標會與您討論。

(觀點文章呈現多元意見,不代表《數位時代》的立場)

責任編輯:林美欣

往下滑看下一篇文章
從台灣走進北美千家速食門市!Berry AI 如何攜手博弘雲端,讓 AI 規模化落地?
從台灣走進北美千家速食門市!Berry AI 如何攜手博弘雲端,讓 AI 規模化落地?

一家來自台灣的 AI 新創,如何讓美國上千家速食餐廳,都用它的 AI「看」得來速車道?

這家公司就是專注於 AI 影像辨識技術的 Berry AI (華捷智能),透過攝影機蒐集匿名數據並轉化為多項營運指標,協助速食品牌找出流程瓶頸、提升現場營運效率與整體顧客滿意度。以美國連鎖炸雞品牌 Zaxby’s 為例,在全面導入 Berry AI 解決方案後,服務速度提升 13%-20%,業績表現最好與最差的門市,每週營收差距從 2.4 萬美元縮小至約 9,000 美元。另一家連鎖速食品牌 Culver’s 在導入後,得來速車道的服務時間也立刻改善,進而提升整體吞吐量。

然而,支撐 Berry AI 解決方案的,不只有前端看得見的攝影機與影像辨識技術,還有後端穩定且具彈性的雲端平台。Berry AI 結合 Amazon Web Services (AWS) 全球雲端資源及博弘雲端顧問服務,打造兼顧即時性、穩定性與成本效益的雲地混合架構,成為推動 Berry AI 持續擴大北美市場版圖的重要關鍵。

從台灣 PoC 走向北美千店規模,Berry AI 面臨架構升級新挑戰

Berry AI 執行長林逸中表示,團隊成立初期投入近2年半的時間,探索最適合影像辨識技術的應用場景,最終將目光鎖定高度標準化的速食餐飲業(Quick Service Restaurant;QSR),推出得來速計時器、餐廳計數器等解決方案,運用 AI 影像分析技術,辨識顧客進入得來速車道或餐廳後的狀態,例如:排隊、點餐、候餐等。

同時,Berry AI 也進一步將現場蒐集到的數據轉化為可量化的營運指標,例如:不同門市、日期或時段的顧客等候時間,協助管理者從數據中找出流程瓶頸與可以優化的環節,進而提升服務效率及顧客滿意度。

在確立發展方向並於台灣完成 PoC (概念驗證)後,Berry AI 決定前進全球最大、也是 QSR 最核心的北美市場。然而,隨著合作客戶與部署門市持續增加,資料量快速攀升,加上服務範圍橫跨不同區域,既有以地端為主的架構開始面臨規模化挑戰。

林逸中補充指出,尤其 QSR 業者在選擇 AI 解決方案時,格外重視技術效能與穩定性,包括 AI 辨識精準度、能否因應突發狀況、系統能否穩定運作,以及網路發生問題時能否維持服務等。在這樣的要求下,若將所有運算與資料都留在地端,不僅難以因應日益增加的部署門市與資料量體,設備建置與維運成本也會隨之增加。

BerryAI 攜手博弘雲端 打造高可用性 AWS 雲地混合架構,突破北美規模化部署挑戰

如何確保系統的即時性、穩定性與成本效益,成為 Berry AI 進軍北美後必須解決的新課題。為此,Berry AI 選擇與博弘雲端合作,取得穩定且高可用的 AWS 運算與資料庫服務架構,將即時運算留在地端,同時在雲端環境整合資料庫處理大量資料與後續分析工作,形成兼顧地端即時運算與雲端彈性擴充的雲地混合架構。

Berry AI研發同仁汪楚剛說明,包括車輛偵測、追蹤與狀態辨識等需要即時反應的工作,會先在地端完成;再將辨識結果傳送至 AWS 雲端,計算各項營運指標,提供後續分析與決策使用。透過這套架構,Berry AI 至今已處理超過 2 億筆車輛狀態資料。

此外,AWS 也是 Berry AI 持續優化 AI 模型的重要基礎。Berry AI 將整套資料蒐集流程建構於 AWS 上,透過完整且多樣化的資料,持續訓練與優化模型,進一步提升地端影像辨識的準確度。

博弘雲端
Berry AI 鎖定高度標準化的速食餐飲業(Quick Service Restaurant;QSR),推出得來速計時器、餐廳計數器等解決方案,運用 AI 影像分析技術,辨識顧客進入得來速車道或餐廳後的狀態,例如:排隊、點餐、候餐等,協助管理者從數據中找出流程瓶頸與可以優化的環節,進而提升服務效率及顧客滿意度。
圖/ Berry AI網站圖

成為企業技術團隊的延伸,博弘雲端助 BerryAI 把 AWS 用得更好、更省

隨著北美業務持續成長,Berry AI 也迎來新的課題:如何把雲端資源用得更有效率、更省成本,這也成為 Berry AI 與博弘雲端合作的重要契機。

對此,可能有很多人好奇,像 Berry AI 這類技術能力成熟、具備自行建置架構能力的企業,為什麼還需要與博弘雲端合作?「關鍵在於,博弘雲端長期深耕 AWS,對相關服務與技術架構更加熟悉,可以成為企業內部技術團隊的延伸。」博弘雲端技術長宋青雲說。

當 Berry AI 遇到特定 AWS 服務或技術問題時,可以直接尋求博弘雲端協助;若需要進一步與 AWS 原廠確認,博弘雲端也能協助溝通與處理,減少 Berry AI 自行研究與排除問題所需投入的時間,讓內部研發團隊可以將更多心力和資源集中在核心產品開發。

更重要的是,博弘雲端不只提供技術支援,還能從 Berry AI 實際用量與成長需求出發,客製化設計最適合的節費方案,這對 Berry AI 降低營運成本有很大的幫助。宋青雲說明,博弘雲端根據 Berry AI 既有的 AWS 用量,推估未來 1-3 年內的使用需求,並以此為基礎規劃合適的長期雲端資源用量;同時考量 Berry AI 所屬飛捷集團旗下還有 3 家子公司同樣使用 AWS,進一步整合集團需求進行評估,放大整體採購規模,爭取更大的節費空間。

宋青雲強調,雲端採取隨需即付的計價模式,雖然具備彈性優勢,但若缺乏持續管理,仍可能出現資源配置不符商務規劃,或費用超出預期等情況。而博弘雲端不只能從使用現況出發、建議適合的節費方案,也會從效能、資安與成本等面向進行架構健檢,提出相應的優化建議;同時還會提供相關管理介面,讓企業隨時查看帳戶使用狀況、預估未來用量,在業務規模持續成長的同時,也能兼顧雲端架構的效能、安全與成本效益。

而架構健檢與成本優化,只是博弘雲端服務的一環。從企業準備上雲開始,博弘雲端便能協助將應用程式與資料從地端搬遷至雲端,或直接在雲端完成部署;進一步還能協助建置數據平台、數據中台,進行資料分析及導入 AI 應用,讓企業資料發揮更大價值。當服務正式上線後,博弘雲端也能接續提供維運服務。換言之,從前期 PoC、雲端建置到後續維運,博弘雲端都能依據企業需求,提供相應的服務與支援。

對 Berry AI 來說,藉由與博弘雲端合作,深化 AWS 雲端資源使用,不只是突破規模化挑戰,更重要的是能把有限的資源集中在核心業務,持續優化解決方案、開發更多貼近餐飲營運需求的應用,進一步爭取更多品牌合作,擴大北美市場版圖。目前,Berry AI 正全力拓展北美市場,也持續尋找對 AI 技術與餐飲產業應用充滿好奇心、重視團隊協作的人才加入。徵才方向涵蓋機器學習與電腦視覺、Platform & System(DevOps、Infrastructure),以及 Full Stack 軟體開發。從門市邊緣裝置上運行的 AI 模型、串連雲端與數千家門市的系統平台,到協助餐飲品牌提升營運效率的分析產品,每個環節都還有發揮的空間。 期待匯聚更多優秀夥伴,一起用 AI 解決真實的營運問題,讓來自台灣的技術走進更多全球 QSR 門市。

職缺詳情:https://www.cake.me/companies/berryai/jobs

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓