GPT-3.5 Turbo支援微調,你的AI將更客製化!OpenAI:某些任務比GPT-4強
GPT-3.5 Turbo支援微調,你的AI將更客製化!OpenAI:某些任務比GPT-4強

OpenAI宣布,用戶現在可以將自定義的數據資料加入GPT-3.5 Turbo,而這也是OpenAI系列中功能最強大且最具經濟的模型。官方聲稱,在某些特定任務的表現上,經過微調後的GPT-3.5 Turbo,甚至可以擁有超越GPT-4的能力。

OpenAI宣佈開放GPT-3.5 Turbo的微調功能

自定義數據資料,能夠為GPT-3.5 Turbo帶來什麼改變?

OpenAI的官方部落格指出,自GPT-3.5 Turbo發布以來,開發者和企業一直要求能夠自定義該模型,為用戶創造獨特和差異化的體驗。此次加入微調功能的更新,讓開發者能夠自定義更適合其狀況的模型,並大規模運作。

延伸閱讀:ChatGPT大更新,能輸入20頁文件、GPT-4、GPT-3.5都進化!六項更新一次看

《TechCrunch》指出,透過微調功能,GPT-3.5 Turbo的使用者可以使模型在遵循指令上有更好的效果,例如總是以特定的語言回答問題,或是提升模型的能力,以便回答更加標準化,這對於需要特定格式的應用程式來說至關重要。此外,也可以調整模型輸出的「感覺」,使其更符合企業的形象需求。《The Verge》亦指出,經過這樣「訓練」後的模型,將使聊天機器人成為每間公司獨一無二的工具,從而以特定語言或更簡潔的措辭提供可靠的回覆。

聊天機器人在未來將成為每間公司獨一無二的工具。
圖/ Zac Wolff on Unsplash

微調還能讓用戶縮短每次「詠唱」時的文字提示(Prompt),以加快API呼叫時間並降低成本。OpenAI宣稱,「早期測試人員透過將指令微調到模型本身,將提示詞的長度減少90%。」而微調在與其他技術結合時效果最為強大,例如提示工程、資訊檢索和函數調用等等。

延伸閱讀:GPT-4跟GPT-3.5差在哪?免費和付費方式怎麼用?詳解ChatGPT原理

GPT-3.5 Turbo微調所費不貲,用戶都會買單嗎?

OpenAI官方將微調功能的價格分為訓練成本與使用成本:

官方公告定價

價格 Tokens
訓練階段 $0.008 1K Tokens
使用輸入 $0.012 1K Tokens
使用輸出 $0.016 1K Tokens

舉例來說,假設進行了一個GPT-3.5 Turbo的微調任務,使用了一個包含100,000個tokens的訓練檔案,進行了3輪的訓練,預計的成本將會是2.4美元。而這樣的價格也引起用戶的討論,Y Combinator旗下新聞聚合網站《Hacker News》的用戶便在評論中指出,從經過微調的GPT-3.5 Turbo生成內容的成本,是從基本模型生成的成本的8倍,所以真的要確保能夠符合「將提示詞減少9成」的情況才有辦法獲利。

微調的GPT-3.5 Turbo生成內容的成本是基本模型的8倍,所以要確保能夠符合「將提示詞減少9成」的情況才有辦法獲利。
圖/ Canva

但同時有觀點指出,相較於GPT-3.5 Turbo,GPT-4的成本要高出20至30倍。依目前的能力來看,雖然GPT-3.5 Turbo還是無法取代GPT-4,但外媒《Decrypt》認為對於這樣的功能來說,溢價是值得的。

GPT-4也會持續更新

《Decrypt》指出,隨著生成人工智慧(AI)霸主地位的爭奪戰愈演愈烈,「客製化」可能是OpenAI的下一個護城河。官方也提到今年秋天也將針對GPT-4加入微調功能,屆時還將支援函式呼叫(Function Calling)和GPT-3.5 Turbo-16k(能處理更大量文字的模型,約為GPT-3.5 Turbo的4倍)的微調。

延伸閱讀:細看GPT-4,還有14個驚人細節!這項特徵為何令人背後一涼?

資料來源:OpenAITechCrunchDecryptThe Verge

責任編輯:陳建鈞、林美欣

往下滑看下一篇文章
以AI驅動智慧轉型  中華電信打造產業升級新引擎
以AI驅動智慧轉型 中華電信打造產業升級新引擎

人工智慧技術正在加速企業的進化。中華電信早在2016年就制定了AI策略,不僅用來優化自身營運,還透過「內服外推」的策略,將實戰經驗轉化為產品與服務,例如智慧客服、法遵審閱和跨國語譯等,幫助企業在AI 2.0時代掌握人機協作的優勢,發揮AI的最大綜效。

從辨別式到生成式AI技術 驅動人機協作新紀元

2016年,AlphaGo的出現象徵著辨別式AI技術的成熟。人工智慧不僅能「看懂」、「讀懂」,甚至能「聽懂」人類的語言與行為,讓語音辨識、影像分析、文字理解等應用進入金融、製造、醫療與安防等產業。例如,金融業利用辨別式AI優化信用評估、詐欺偵測與風險管理;醫療業提升診斷疾病的能力;製造業用於品質檢測與預測性維修;安防業則透過人臉辨識與行為分析提升安全性。

隨著生成式AI與大型語言模型(LLM)的迅速發展,AI 2.0時代隨之而來。現在,不僅文本、圖像、影片、聲音、程式、數據與物件可以自動生成,還催生了代理式AI的出現。中華電信研究院院長蘇添財表示:「從辨別式AI、生成式AI到代理AI,人工智慧不僅具備成熟的數據分析、影像識別、語音合成能力,還具備語意理解能力,更重要的是,正朝著認知智慧邁進,能理解、思考、學習以及創新,開啟了人機協作的無限可能。」

然而,相較於個人使用者對生成式AI的積極採用,企業在導入AI方面仍較為謹慎。多數企業會從相對明確、風險可控的場景開始,例如客服自動化、智慧助理、文件摘要、行銷內容生成、知識庫查詢等,逐步評估資料安全、法遵框架與投資報酬率。

中華電信
中華電信研究院院長蘇添財
圖/ 數位時代

蘇添財指出:「AI導入不僅是IT專案,更是組織文化與營運流程的變革工程。」他提醒企業,若要真正發揮AI的效益,除了精準找出業務痛點、決定AI應用範疇,還需積極參與導入過程,並確保AI應用服務上線後,員工願意且滿意使用,才能發揮商業價值。

蘇添財進一步引用BCG《AI Radar Survey》指出,高達86%的企業相信人類與AI的協作將是未來的主流。協作模式多樣,有些企業讓AI成為決策輔助者,人類仍握有關鍵監督權;也有企業建構AI代理人(AI Agent)主動處理流程,只在例外情況轉交人工審核。「這些模式的共通點是,AI不再只是支援系統,而是決策與執行流程的共同參與者。」

「內服外推」策略 推動AI應用落地

身處AI變革的關鍵時刻,中華電信一方面在內部導入AI以優化營運效率、推動流程自動化,另一方面將實戰經驗轉化為產品與服務,協助客戶加速數位轉型。目標是透過「內服外推」的雙軌策略,加速AI落地,讓AI創造具體可見且有感的商業價值。

中華電信早在2016年就開始規劃與建構AI賦能的智慧客服、智慧聲控、智慧分析、智慧安防、語音助理與新興應用,並陸續推出20多個AI應用服務,例如IVR語音導航、MOD聲控助理、電信大數據分析、智慧交通、科技執法、AI總機等,並獲得市場的廣泛好評。

以智慧客服為例,中華電信透過語音辨識、語音合成、語意理解、多輪對話、知識管理、語音核證、對話分析等核心技術,開發出文字機器人、語音機器人、外撥機器人、值機應答助理、客戶心聲分析、訂位助理、掛號助理與智慧總機等服務,協助公部門、餐飲、旅遊、電商、製造、金融、醫療、物流等超過30家客戶優化客服效率與體驗。

蘇添財表示:「2016到2022年間,我們的重點不僅是打造AI應用服務,更是透過持續的實務應用與實戰經驗,全面提升『人才』、『平台』、『技術』與『資料』等方面的能力,例如員工對語音合成、影像辨識、自然語言處理(NLP)與數據分析的掌握度,為未來做好準備。」

隨著生成式AI的出現,中華電信也從AI 1.0(辨別式AI)階段邁向AI 2.0(生成式AI)階段,不僅鎖定智慧客服、智慧法律、新興應用、元宇宙、防詐資安、Copilot等六個領域,推出生成式AI賦能的產品服務,例如台灣第一個代筆遺囑生成服務、跨國即時語譯與仿聲服務等。此外,中華電信也將AI技術導入電信網路,研發智慧維運助理、自治網路、網路數位分身等服務,提升網路品質並降低維運成本。在客服領域,透過自然語言處理結合客服知識庫,能在5秒內提供一線客服人員所需的精準答案與參考資料,協助即時解決客訴問題,減少10%的客戶等待時間。同時,推出AI企業年報審閱服務,審閱人員只需匯入公司年報與相關法條,即可完成AI年報審閱工作,節省超過80%的人工作業時間,法規審閱精準度超過95%。

展望未來,中華電信將持續以「內服外推」的雙軌策略優化AI產品與服務,成為企業AI轉型的最佳夥伴。蘇添財表示,將因應AI技術的發展,深化在體現智慧(Embodied Intelligence)、多模態AI(Multimodal AI)、領域化模型(Domain-Specific Models)、可解釋AI(Explainable AI)、空間智慧(Spatial Intelligence)、人型機器人(Humanoid Robotics)、AI擴增開發(AI-Augmented Development)等領域的能力,目標是提供在地客製、可控可信的智慧應用,滿足各領域與產業的需求,攜手夥伴與客戶共同將想像轉化為價值,共建智慧新未來。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
蘋果能再次偉大?
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓