GPT太燒錢!微軟暗地準備「B計畫」、打造更實惠AI模型,想抽身OpenAI了
GPT太燒錢!微軟暗地準備「B計畫」、打造更實惠AI模型,想抽身OpenAI了

GPT技術龐大的運算成本,可能連微軟也吃不消了。儘管微軟與OpenAI間的合作看似越發緊密,現在卻傳出暗地裡正在悄悄準備著「B計畫」,想開發更實惠的AI模型,以節省GPT技術昂貴的營運成本。

根據《The Information》報導,有消息人士透露,率領微軟1,500名科學家的研究主管Peter Lee,正在動員部分人力開發低成本的聊天機器人,並試圖將這項技術整合到既有的微軟產品當中。

雖然這些微軟自研的聊天機器人技術、參數規模都比不上OpenAI的產品,但營運成本更低、速度更快。目前微軟正在積極擴大AI技術的使用範疇,從放上瀏覽器供人免費使用的Bing Chat,到結合旗下生產力工具的Copilot,用戶數量可能超過10億人,倘若均使用OpenAI等級的技術,恐怕要營利會更為困難。

GPT技術營運成本太高,就像「叫博士去接電話」

營運ChatGPT的成本之高,一直以來都是OpenAI將技術商業化的最大難題之一。半導體研究機構SemiAnalysis首席分析師迪倫.帕特爾(Dylan Patel)曾表示,ChatGPT的營運成本預計每天高達70萬美元,倘若是性能更高的GPT-4運行成本會再高上許多。

帕特爾指出,ChatGPT等大型語言模型的訓練成本固然高昂,但營運成本才是最沉重的負擔,可說正常部署的情況下,營運成本都會遠遠超過訓練成本。

延伸閱讀:ChatGPT之父來台灣:現在是最幸運的時代!AI未來能多厲害?他一次解答

值得一提的是,微軟早已經默默減少對GPT技術的依賴。例如Bing Chat具有平衡、創意及精確三種模式,平衡模式使用的就是自家的普羅米修斯模型(Prometheus model),並由圖靈語言模型(Turing language model)支援,主要負責相對簡單的問題,創意及精準模式才由GPT-4處理。

Bing
微軟在Bing Chat中就部份使用自家模型好降低運行成本。
圖/ Bing

微軟以超越競爭對手的速度將AI服務商業化,或許也是與OpenAI技術的昂貴成本有關。Bing Chat已經推出商用版,並且考慮導入廣告;Copilot更已經以每月30美元的價格正式上線,這個價格相比Microsoft 365最貴的方案,都是超過50%的增幅。

企業軟體公司Databricks高層納文.拉奧(Naveen Rao)指出,微軟開始追求更經濟的AI模型是「必然會發生的」,「微軟是一間很精明的公司,他們很追求效率,推出產品使用如GPT-4般的龐大模型,就好像叫三個博士當接線生,這在經濟上行不通。」

今年7月微軟與Meta在大型語言模型Llama 2上進行合作,現在看來或許也是降低對OpenAI技術依賴的一次嘗試。

用GPT-4生產資料訓練,微軟靠高品質材料打造高CP AI模型

事實上,《The Information》提到,微軟團隊也沒有幻想能用少少資源打造如GPT-4一般強大的AI技術,這個團隊沒有同等的運算資源、也沒有大量人力提供大型語言模型回饋以協助工程師改善,而且微軟多數時間都花在調整OpenAI的產品上,撇除OpenAI的情況下,亞馬遜、Google等競爭對手都在大型語言模型研發上投入更多。

微軟對更經濟實惠AI技術的追求,或許可從動用的資源中看出,為了開發更經濟實惠的AI技術,Peter Lee決定動用2,000顆輝達(Nvidia)的GPU打造新模型──這個數字遠遠低於輝達供應給OpenAI逾2萬顆的數量。

儘管在AI方面的資源不多,與OpenAI的合作替微軟帶來了「取巧」的機會。今年6月微軟開發了AI模型Orca,藉由將GPT-4生成的數百萬個答案輸入到開源模型中,教導它模仿GPT-4,進而實現超越其餘開源模型的成果,並且在部分層面足以媲美免費版的ChatGPT。

GPT-4
透過與OpenAI的合作,GPT-4成為微軟訓練AI模型材料的優質來源。
圖/ shutterstock

微軟近期推出的Phi-1,這個有著13億參數的模型同樣是利用GPT-4產生的「教科書級」資料訓練,因此能夠在測試中擊敗使用100多倍資料的其他大型模型,只有GPT-4在同樣的測試中表現更優異。這些例子顯示,GPT-4產生的高品質訓練材料,讓微軟能夠用更小的力氣打造高性能的AI模型。

隨著自研模型初獲成果,微軟也在考慮如何在Bing Chat更大幅度導入Orca、Phi等模型,進一步降低GPT模型的使用。

在微軟一步步降低對OpenAI依賴的同時,兩家公司的關係也隨著商業化腳步變得微妙。OpenAI發表ChatGPT Enterprise時,就被外界詢問是否會與企業Bing Chat競爭;而微軟基於Azure的Private ChatGPT服務,曾經的宣傳標語就是比ChatGPT更安全。

延伸閱讀:ChatGPT可以上網了!還能說話、看圖片、翻譯podcast,重磅更新一次看

資料來源:The InformationThe DecoderBusiness Insider

責任編輯:林美欣

關鍵字: #微軟 #AI #ChatGPT
本網站內容未經允許,不得轉載。
往下滑看下一篇文章
AI賦能 設計起飛,Pinkoi 執行長顏君庭以 Samsung Galaxy S24旗艦系列拓展國際設計生態圈
AI賦能 設計起飛,Pinkoi 執行長顏君庭以 Samsung Galaxy S24旗艦系列拓展國際設計生態圈

翻開 Pinkoi 名片背後,一句簡潔的「Design the way you are」映入眼簾,這正是 Pinkoi 共同創辦人暨執行長顏君庭創立公司的初衷:希望每個人都能用好的設計,實踐獨特的自我風格與生活樣貌。近年來, Pinkoi 不僅成功將設計生態圈拓展至國際,也串接 AI 引擎服務,成功以科技力搶攻消費者心佔率,讓跨境銷售零距離。

擁抱科技力,Pinkoi 自建 AI 模型 極致個人化體驗

2011年發跡於台灣的 Pinkoi,產品聚焦於生活風格及設計相關,如今已是擁有超過625萬名會員的國際電商平台,設計館來自全球77個地區、消費者遍及全球150個國家。為搶攻全球文化創意產業商機,去年底, Pinkoi 搭上 AI 科技浪潮, 正式推出「生活風格智慧模型」,以大規模個人化為主要場景,打造個人化商城,讓設計師得以更有效率的行銷商品。

「自建 AI 模型,就是為了打造獨特的個人化體驗。」出身美國矽谷科技業的顏君庭,談起自家創建的 AI 服務,眼神閃爍著光芒。他指出,「 Pinkoi 站上以設計品為主力,而設計品常常是各國民眾的興趣、風格、價值主張、地域性文化的延伸,所以相較於一般電商,我們更需要深入經營在地市場,了解設計師與消費者的需求。」

透過自建 AI 模型,不僅讓 Pinkoi 業績大幅成長,消費者在平台的瀏覽時間也提升近三成、創造1.5倍的商品點擊率,有效提升品牌黏著度。顏君庭笑稱,日本市場對於 Pinkoi 甚至有「沼る」的美譽,盛讚平台商品獨特、令人忍不住著迷而長久駐足。

DSC00365.jpg
Pinkoi 共同創辦人暨執行長顏君庭對新科技趨之若鶩,讚嘆 Samsung Galaxy S24 Ultra 是「貼身得力助理」!
圖/ Samsung

智慧即時翻譯、筆記智慧助理 跨國商務人士最得力的行動幫手

對新科技趨之若鶩的顏君庭,近期則對三星電子最新推出的智慧型手機深深著迷,它就是首款結合全方位 Galaxy AI 應用的 Samsung Galaxy S24 旗艦系列 。

身為跨境電商平台的領導者,顏君庭經常需要走訪世界各地,最近剛結束日本差旅的他,直言 Samsung Galaxy S24 Ultra簡直是他的「貼身得力助理」。

「智慧即時翻譯的功能,真的是領先所有同業的最大亮點!」顏君庭表示,不會日文的他,過去在日本如果要打電話訂餐廳、旅館,都需要請朋友或同事幫忙,或是透過其他翻譯軟體來回轉譯,過程十分曲折。

「這次去日本有 Samsung Galaxy S24 Ultra,我可以直接按手機通話,開啟翻譯功能,我講英文,對話就會直接翻譯成日文,對方回應日文,也會轉回成英文,等於我們可以直接溝通,這點完全解決過去一直無法被解決的痛點,」顏君庭興奮地說道。

DSC00341拷貝.jpg
「智慧即時翻譯」的功能,即使在沒有 Wi-Fi 的飛航模式下也能使用。
圖/ Samsung

『智慧即時翻譯』與『智慧自動摘要』功能,對時常參與跨國團隊會議的顏君庭,更是省時省力。他指出,雖然團隊主要溝通語言為英文,但有些交流討論常會運用到日文、韓文等多國語言,「如果請一個即時口譯,對公司的營運成本來說非常高,請同事翻譯,頂多也只能簡譯。有了 Samsung Galaxy S24 旗艦系列,我們可以把對話錄下來,透過 AI 即時翻譯成指定語言的文字,好像大家即時的聊天、參與討論。」

DSC00125+147.jpg
與員工會議時,透過語音轉文字生成會議紀錄,還能分辨多人對話,並利用智慧自動摘要功能,一鍵做好摘要。
圖/ Samsung

「這對帶領跨國團隊很有幫助,有時用自己的母語討論,更能直接的表達想法,有效增進團隊的情感凝聚力,」顏君庭說。

筆記智慧助理也是日理萬機的顏君庭很喜歡的功能,他表示,每天要閱讀的文件相當多,現在只要輕輕觸碰手機螢幕幾下,就能快速獲得資料的精簡版本,筆記智慧助理還會自動排版、校正拼音,甚至在內文上方生成條列式的摘要,亦可將手寫字轉為文字,自動排版、生成重點摘要,將重要訊息直接佈達給團隊執行,「幫我省下很多時間。」

搜尋圈,一圈即搜:助力Pinkoi團隊精簡工作流程

Samsung Galaxy S24 旗艦系列 對於審核 Pinkoi 平台產品,更是如虎添翼。顏君庭表示, Pinkoi 對於產品審核非常嚴格,從設計本身到圖片拍攝,都要求出自設計師原創。因此,每當設計師上架產品,團隊須將圖片投遞到不同的平台,透過「以圖搜圖」的方式,確認有無相似物件。

「現在不用這麼麻煩了,我直接用 S Pen 觸控筆 圈起 Samsung Galaxy S24 Ultra 上的圖片,就可以立即搜尋,」他笑著說:「剛開始拿到S Pen 還有點納悶,因為使用經驗停留在過去,但實際使用才發現,意外的好用!」

顏君庭表示, Pinkoi 站上商品多達110萬項,內部會議討論時,有時沒辦法很精確的說出品牌或風格,透過 Samsung Galaxy S24 旗艦系列「搜尋圈」一圈即搜的功能,就可以很快速找到商品的細節,或類似的品項,讓團隊得以更快速聚焦討論。

DSC00227.jpg
「搜尋圈」的功能,快速找到商品的細節及類似的品項,讓團隊在會議中聚焦討論更有效率。
圖/ Samsung

極致攝影 超強續航力 捕捉靈感不斷電

創業這10餘年來,顏君庭還是保有實地探訪台灣、各地市集的習慣,他也喜歡以手機拍攝,紀錄新發現的品牌或設計概念。「 Samsung Galaxy S24 Ultra 拍照的內建相機非常厲害,白天晚上都不需要用到濾鏡,」顏君庭也分享智慧相片編輯 的妙用,他指出,差旅移動中隨手拍照,常常會拍到不想要的物品或背景,這時只要用 Samsung Galaxy S24 旗艦系列內建的生成式相片編輯功能,輕鬆選取物件,即可移動或擦除, AI 還會自動填充背景,「完全不用擔心照片拍得不好。」

D.jpg
內建「智慧相片編輯」,輕鬆圈選,即可移動或擦除物品, AI 運算自動填充背景。(右圖為完成畫面)
圖/ Samsung

此外,顏君庭也分享長途差旅的重要需求,他表示,由於海外出差行程滿檔,經常是清晨六點到深夜的行程,旅途中還需要拍照紀錄、開線上會議、收發即時通訊等,常因爲忘記帶手機充電線,需要跟店家開口要求幫忙充電,「 Samsung Galaxy S24 的高續航力也解決這個痛點,一整天高度使用竟然都還有電,讓我很放心。」

Samsung Galaxy S24 的簡潔設計,也讓他印象深刻。「我很喜歡 S24 超窄邊框的設計,讓整個手機畫面更清晰,不會被邊框干擾。」而深紫色的新色也十分特別,顏君庭分享到,「礦物在華人文化中有特別的寓意,例如這次拿到的深紫色非單調的色塊,而是帶有類似紫水晶的礦物感,也有點帶來事業與生活上的好運,整體設計很時尚,很符合商務人士的需求。」

建立「亞洲設計生態圈」串聯跨界連結設計

顏君庭會依據不同的使用需求變換裝置,例如隨身攜帶的手機,方便解決訊息、拍照、筆記或翻譯等即時需求,有較完整的工作時間時,則可用畫面較大的 Samsung Tab S9 平板接續處理。利用「快速分享」功能,跨裝置傳遞檔案,相互串聯。

「『智慧生態圈』(Samsung Galaxy Ecosystem)串連的模式,我認為很符合商務上的使用習慣,手機用來快速紀錄靈感、平板 進一步編輯;跨裝置的傳送省去了等待,又可以發揮每個裝置的優勢,讓我充分利用時間,」顏君庭說。

DSC00251.jpg
Samsung Galaxy Ecosystem 智慧生態圈,跨裝置串聯,可將Tab中的筆記直接複製於手機上,讓商務生活更加便捷。
圖/ Samsung

面對日益競爭的市場,顏君庭以三星電子的智慧生態圈裝置策略巧妙比喻, Pinkoi 將持續致力建造「亞洲設計生態圈」,未來兩年亦將更專注在跨境市場銷售,聚焦協助台灣設計師共同推展至日本市場。

如同 Samsung Galaxy S24 旗艦系列運用 AI 科技力作為解方,解決消費者的痛點,顏君庭也將帶領 Pinkoi ,強化 AI 運用,將更美好的生活與使用體驗,傳遞給更多消費者。

了解更多 https://pse.is/5wumz6

本網站內容未經允許,不得轉載。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
台日半導體新局 全解讀
© 2024 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓