GPT太燒錢!微軟暗地準備「B計畫」、打造更實惠AI模型,想抽身OpenAI了
GPT太燒錢!微軟暗地準備「B計畫」、打造更實惠AI模型,想抽身OpenAI了

GPT技術龐大的運算成本,可能連微軟也吃不消了。儘管微軟與OpenAI間的合作看似越發緊密,現在卻傳出暗地裡正在悄悄準備著「B計畫」,想開發更實惠的AI模型,以節省GPT技術昂貴的營運成本。

根據《The Information》報導,有消息人士透露,率領微軟1,500名科學家的研究主管Peter Lee,正在動員部分人力開發低成本的聊天機器人,並試圖將這項技術整合到既有的微軟產品當中。

雖然這些微軟自研的聊天機器人技術、參數規模都比不上OpenAI的產品,但營運成本更低、速度更快。目前微軟正在積極擴大AI技術的使用範疇,從放上瀏覽器供人免費使用的Bing Chat,到結合旗下生產力工具的Copilot,用戶數量可能超過10億人,倘若均使用OpenAI等級的技術,恐怕要營利會更為困難。

GPT技術營運成本太高,就像「叫博士去接電話」

營運ChatGPT的成本之高,一直以來都是OpenAI將技術商業化的最大難題之一。半導體研究機構SemiAnalysis首席分析師迪倫.帕特爾(Dylan Patel)曾表示,ChatGPT的營運成本預計每天高達70萬美元,倘若是性能更高的GPT-4運行成本會再高上許多。

帕特爾指出,ChatGPT等大型語言模型的訓練成本固然高昂,但營運成本才是最沉重的負擔,可說正常部署的情況下,營運成本都會遠遠超過訓練成本。

延伸閱讀:ChatGPT之父來台灣:現在是最幸運的時代!AI未來能多厲害?他一次解答

值得一提的是,微軟早已經默默減少對GPT技術的依賴。例如Bing Chat具有平衡、創意及精確三種模式,平衡模式使用的就是自家的普羅米修斯模型(Prometheus model),並由圖靈語言模型(Turing language model)支援,主要負責相對簡單的問題,創意及精準模式才由GPT-4處理。

Bing
微軟在Bing Chat中就部份使用自家模型好降低運行成本。
圖/ Bing

微軟以超越競爭對手的速度將AI服務商業化,或許也是與OpenAI技術的昂貴成本有關。Bing Chat已經推出商用版,並且考慮導入廣告;Copilot更已經以每月30美元的價格正式上線,這個價格相比Microsoft 365最貴的方案,都是超過50%的增幅。

企業軟體公司Databricks高層納文.拉奧(Naveen Rao)指出,微軟開始追求更經濟的AI模型是「必然會發生的」,「微軟是一間很精明的公司,他們很追求效率,推出產品使用如GPT-4般的龐大模型,就好像叫三個博士當接線生,這在經濟上行不通。」

今年7月微軟與Meta在大型語言模型Llama 2上進行合作,現在看來或許也是降低對OpenAI技術依賴的一次嘗試。

用GPT-4生產資料訓練,微軟靠高品質材料打造高CP AI模型

事實上,《The Information》提到,微軟團隊也沒有幻想能用少少資源打造如GPT-4一般強大的AI技術,這個團隊沒有同等的運算資源、也沒有大量人力提供大型語言模型回饋以協助工程師改善,而且微軟多數時間都花在調整OpenAI的產品上,撇除OpenAI的情況下,亞馬遜、Google等競爭對手都在大型語言模型研發上投入更多。

微軟對更經濟實惠AI技術的追求,或許可從動用的資源中看出,為了開發更經濟實惠的AI技術,Peter Lee決定動用2,000顆輝達(Nvidia)的GPU打造新模型──這個數字遠遠低於輝達供應給OpenAI逾2萬顆的數量。

儘管在AI方面的資源不多,與OpenAI的合作替微軟帶來了「取巧」的機會。今年6月微軟開發了AI模型Orca,藉由將GPT-4生成的數百萬個答案輸入到開源模型中,教導它模仿GPT-4,進而實現超越其餘開源模型的成果,並且在部分層面足以媲美免費版的ChatGPT。

GPT-4
透過與OpenAI的合作,GPT-4成為微軟訓練AI模型材料的優質來源。
圖/ shutterstock

微軟近期推出的Phi-1,這個有著13億參數的模型同樣是利用GPT-4產生的「教科書級」資料訓練,因此能夠在測試中擊敗使用100多倍資料的其他大型模型,只有GPT-4在同樣的測試中表現更優異。這些例子顯示,GPT-4產生的高品質訓練材料,讓微軟能夠用更小的力氣打造高性能的AI模型。

隨著自研模型初獲成果,微軟也在考慮如何在Bing Chat更大幅度導入Orca、Phi等模型,進一步降低GPT模型的使用。

在微軟一步步降低對OpenAI依賴的同時,兩家公司的關係也隨著商業化腳步變得微妙。OpenAI發表ChatGPT Enterprise時,就被外界詢問是否會與企業Bing Chat競爭;而微軟基於Azure的Private ChatGPT服務,曾經的宣傳標語就是比ChatGPT更安全。

延伸閱讀:ChatGPT可以上網了!還能說話、看圖片、翻譯podcast,重磅更新一次看

資料來源:The Information、The Decoder、Business Insider

責任編輯:林美欣

關鍵字: #微軟 #AI #ChatGPT
往下滑看下一篇文章
免費下載「會議紀錄整理師」!逐字稿丟給AI,自動抓決議跟待辦,支援ChatGPT與Claude
免費下載「會議紀錄整理師」!逐字稿丟給AI,自動抓決議跟待辦,支援ChatGPT與Claude

在某個大雨滂沱的晚上,超級感謝有 7 位一天一 AI 的讀者來體驗我做的「會議紀錄整理師」AI 工作流。現在,我要把它免費開放給你用了!

今天來跟你分享,一天一AI PRO 設計出的 AI 工作流,到底可以幹嘛,並且讓你試用看看。

首發就是「會議紀錄整理師」,這是我自己最常用的工作流之一。有了它,會議上我都可以集中精神發表意見,之後 AI 再幫我統整即可!

除了省時省力、釐清待辦,我還多做了一點巧思:區分出討論項目與決議。那些會議上討論過的,但根本沒結論的事情,我請 AI 幫忙抓出來。

這個工作流可以到一天一AI PRO 的官網下載,裝進你的 ChatGPT 和 Claude。具體怎麼做?往下看圖卡吧。

還想看哪些內容?歡迎點此連結跟我分享~

AI會議紀錄怎麼做?「會議紀錄整理師」自動整理逐字稿

會議紀錄整理師是什麼?

每次會議我會取得同意後錄音,一結束就把逐字稿丟給 AI,呼叫「會議紀錄整理師」技能來做紀錄。逐字稿的錯字多、內容散亂、缺乏說話者資訊,通通沒關係,這個技能可以通過一串設計好的流程,區分是哪種會議(進度追蹤、規劃討論、解題決策)來決定紀錄的重點,最後產出會議紀錄通知信+留存版的完整紀錄文件。

AI整理會議紀錄最大亮點:自動區分討論、決議與待辦

最有感的亮點:區分出討論項目與決議

看完「會議紀錄整理師」整理的紀錄,第一印象一定是「很清楚、有結構」。但細看會發現,它除了幫你列清楚待辦事項,也會提醒你會議缺失的資訊,例如沒指定負責人、沒確定截止日期、哪些是拍板的決定、哪些決議沒討論完、哪些人的意見有衝突。

同件事反覆討論怎麼整理?AI只抓最後拍板結論

結論回掃:同件事來回討論,AI 只認最後的拍板

開會常常一個議題反覆討論,前面說「先用 A 方案」,後面又改口「還是 B 好」。一般 AI 整理會把兩個都列出來,會搞不清楚到底選了哪個。「會議紀錄整理師」有「結論回掃」機制:以最後一次明確確認為準,早期被推翻的版本會被歸類到「否決了什麼」,不會讓過時的決策混淆你。

與會者有誰?例行會議可以沿用團隊設定

與會者有誰?例行會議可以沿用設定

第一次使用,直接貼逐字稿就能跑。AI 遇到不認識的人名或職稱,會在結尾列出來問你:「這位是誰、負責什麼?要不要記下來?」你回覆後,它就建立你的團隊記憶檔。下次再開相同主題的會議會自動沿用,提高會議紀錄裡名字、職稱、待辦事項隸屬的正確性。

ChatGPT、Claude怎麼安裝「會議紀錄整理師」?

下載後怎麼用?

註冊登入一天一AI PRO 官方網站,找到「會議紀錄整理師」的立即下載按鈕,下載 zip 檔。Claude 網頁版的用戶,從Setting→Skills→右上方Add選擇→Upload skill→上傳 zip 檔。ChatGPT 網頁版的用戶要是付費版:開一個新對話→選擇「工作」標籤→在對話框上傳 zip 檔→輸入「幫我安裝到個人雲端技能」。完成設定後,重整頁面、開新對話,在對話框輸入「/」或是「@」輸入「會議紀錄整理師」就能把技能呼叫出來,再把會議逐字稿貼給它就行了。

AI會議紀錄還能怎麼用?散會前確認、累積成專案進度報告

散會前就做紀錄、同專案紀錄能做成進度報告

我在每個會議結束前,都會速跑紀錄,現場確認與會者的理解都一致。同一個專案的會議紀錄累積起來,還可以變成專案進度簡報給主管看:這個月做了哪些決策、還有哪些待辦沒完成、風險有沒有被處理掉。

訂閱《一天一AI》日報,每天跟你分享超實用的AI小技巧!

延伸閱讀:
一天一AI PRO上線!6組專家工作流,讓ChatGPT、Claude不再每次從頭教

AI又唱反調?每月10分鐘做記憶健檢,4招讓ChatGPT、Claude認得現在的你

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓