GPT-3.5 Turbo支援微調，你的AI將更客製化！OpenAI：某些任務比GPT-4強|數位時代 BusinessNext

自定義數據資料，能夠為GPT-3.5 Turbo帶來什麼改變？

OpenAI的官方部落格指出，自GPT-3.5 Turbo發布以來，開發者和企業一直要求能夠自定義該模型，為用戶創造獨特和差異化的體驗。此次加入微調功能的更新，讓開發者能夠自定義更適合其狀況的模型，並大規模運作。

《TechCrunch》指出，透過微調功能，GPT-3.5 Turbo的使用者可以使模型在遵循指令上有更好的效果，例如總是以特定的語言回答問題，或是提升模型的能力，以便回答更加標準化，這對於需要特定格式的應用程式來說至關重要。此外，也可以調整模型輸出的「感覺」，使其更符合企業的形象需求。《The Verge》亦指出，經過這樣「訓練」後的模型，將使聊天機器人成為每間公司獨一無二的工具，從而以特定語言或更簡潔的措辭提供可靠的回覆。

微調還能讓用戶縮短每次「詠唱」時的文字提示（Prompt），以加快API呼叫時間並降低成本。OpenAI宣稱，「早期測試人員透過將指令微調到模型本身，將提示詞的長度減少90％。」而微調在與其他技術結合時效果最為強大，例如提示工程、資訊檢索和函數調用等等。

GPT-3.5 Turbo微調所費不貲，用戶都會買單嗎？

OpenAI官方將微調功能的價格分為訓練成本與使用成本：

官方公告定價

	價格	Tokens
訓練階段	$0.008	1K Tokens
使用輸入	$0.012	1K Tokens
使用輸出	$0.016	1K Tokens

價格

Tokens

訓練階段

$0.008

1K Tokens

使用輸入

$0.012

1K Tokens

使用輸出

$0.016

1K Tokens

舉例來說，假設進行了一個GPT-3.5 Turbo的微調任務，使用了一個包含100,000個tokens的訓練檔案，進行了3輪的訓練，預計的成本將會是2.4美元。而這樣的價格也引起用戶的討論，Y Combinator旗下新聞聚合網站《Hacker News》的用戶便在評論中指出，從經過微調的GPT-3.5 Turbo生成內容的成本，是從基本模型生成的成本的8倍，所以真的要確保能夠符合「將提示詞減少9成」的情況才有辦法獲利。

但同時有觀點指出，相較於GPT-3.5 Turbo，GPT-4的成本要高出20至30倍。依目前的能力來看，雖然GPT-3.5 Turbo還是無法取代GPT-4，但外媒《Decrypt》認為對於這樣的功能來說，溢價是值得的。

GPT-4也會持續更新

《Decrypt》指出，隨著生成人工智慧（AI）霸主地位的爭奪戰愈演愈烈，「客製化」可能是OpenAI的下一個護城河。官方也提到今年秋天也將針對GPT-4加入微調功能，屆時還將支援函式呼叫（Function Calling）和GPT-3.5 Turbo-16k（能處理更大量文字的模型，約為GPT-3.5 Turbo的4倍）的微調。

責任編輯：陳建鈞、林美欣

AI 正在改寫世界運作模式。根據研究機構 The Research Insights 預測，全球 AI 市場將從2025年的3,909億美元攀升到2030年的1兆8,117億美元，年複合成長率高達19.2%。這股成長動能與 AI 技術正滲透各個產業有關，從製造到金融、從零售到物流，不僅流程被重塑、商模也隨之翻轉。

在這場 AI 驅動的創新浪潮中，新創是推動產業變革的關鍵力量之一。 AWS 不僅以全球領先的雲端與 AI 技術平台提供堅實後盾，更以豐沛資源化身新創最佳夥伴、協助台灣團隊將創意落地、放大商業影響力。例如，在 AWS 的技術與資源支持下，語音 AI 新創海研科技（SeaTech）得以加速模型迭代與演算法優化，為台灣與新加坡量身打造在地語言模型並推動應用落地；同時，也讓思邁智能（MaiAgent, Inc.）專注強化企業級生成式 AI 平台 –MaiAgent– 功能，協助企業將生成式 AI 融入日常營運，實現更智慧的決策與效率升級。

三大關鍵步驟，思邁智能助企業放大生成式 AI 應用價值

AI Agent 具備感知、決策、行動與優化四大特徵，被視為企業面對人力缺口與營運挑戰的最佳助手，然而，在實作過程中，多數企業都因為三大瓶頸–資料分散、模型不符實務、導入周期過長–導致AI難以落地或成效不如預期。

觀察到上述現況，深耕 AI 領域研究、協助上百家企業導入 AI 應用的思邁智能提出解方：AI 導入方法論與平台產品服務。

思邁智能執行長張介騰表示，導入 AI 應該從「AI-Ready 文化」開始，因此，第一步是讓每位員工都能自然地用 AI 提升工作效率，例如透過自研的 MaiGPT 縮短資料搜尋與知識蒐整時間；第二步是建立企業專屬的 AI 知識庫（AI KM），例如以 MaiAgent 打造企業的「智慧大腦」，加速各類分析報表生成製作，讓員工可以加速決策與專注核心業務；第三步是從組織流程出發，找出重複性高的任務並建構對應的 AI Agent，如語音客服、文字助理等，讓 AI 真正走進業務核心。

「面對日新月異的 AI 技術演進，想要搶占先機，策略合作是必然。」張介騰以 MaiAgent 產品為例說明，透過 Amazon Bedrock 平台，團隊成員不用自建基礎模型、可以直接從平台快速選擇所需的基礎模型與工具於其上進行產品功能開發、大幅縮短產品開發週期，同時，可以在第一時間接收到模型更新等資訊，更好回應市場要求。「在 AWS 平台上開發產品，不僅能縮短開發週期、快速迭代新功能，也可以保障系統與資料安全，同時，因應業務需求彈性擴展，例如，協助新加坡與泰國企業導入服務等。」

隨著產品服務的成熟，思邁智能除持續尋找軟體夥伴擴展 MaiAgent 生態體系，亦已將 MaiAgent 上架 AWS Marketplace，更好擴展國際市場版圖，同時，成立AI落地顧問團隊，協助生態體系夥伴跟企業客戶更好發揮 AI 綜效。

不僅在 AWS 上開發產品，海研科技攜手 AWS 針對企業痛點推最佳解方

對許多新創來說，雲端只是基礎設施的一種，但對海研科技來說，AWS 是他們加速創新與推動業務的關鍵伙伴。這家專注語音 AI 的新創團隊自創業第一天就跟 AWS 展開合作，不僅透過 Amazon Bedrock 打造專屬台灣的語言模型，更循序推出 SeaMeet、SeaChat、SeaX、SeaVoice 等產品，讓語音 AI 不再只是技術展示，而是能直接回應企業現場痛點的實用解方。

「語音辨識（ASR）不是新技術，但要做到『在地化』才有競爭優勢。」海研科技首席業務發展經理何庭劭表示，全球已有多家科技大廠投入開發英語、中文、印度語、俄語、西班牙語等13種主流語言模型，但台灣、新加坡與東南亞國家的語言環境與溝通方式較多元，如台灣的日常對話常混雜10%到15%的英語或台語雙關詞等，通用型的語言模型不敷使用，必須重新訓練、微調語言模型，才能滿足本地語境應用。

這份對在地市場的專注，讓海研科技在聽到 AWS 分享企業痛點後可以快速推出相應產品服務，例如，因應製造業跨國團隊的會議溝通挑戰，打造「SeaMeet 雙語即時翻譯」功能，讓語音 AI 能在中、英夾雜的會議中流暢轉譯、即時生成紀錄，解決企業跨境協作的語言門檻。

海研科技之所以能無後顧之憂地推出創新解方，與 AWS 提供穩定、可靠且彈性支援服務有關。何庭劭以 SeaMeet 為例解釋：「產品特性使然，SeaMeet 的尖峰與離峰時段的使用量差異極大，但在 AWS 平台支援– Amazon EKS 會依照實際需求動態調整伺服器資源（Amazon EC2 instance）–下，海研科技的團隊成員不用花費間監控與資源配置，可以專注在產品開發與持續創新。」

事實上，這也是海研科技可以因應龐大的長照需求，順利在今年推出取得 HIPAA 認證的 SeaX 服務，並協助新加坡社區關懷機構 Lions Befrienders 以10餘人社工團隊完成每天上千通長者關懷電話的原因。

海研科技首席業務發展經理何庭劭表示，有個大型集團客戶有非常多的會議要跟進，過去光是紀錄重點，就會需要許多人力，但透過即時的會議紀錄整理，讓後續追蹤更有效率。

圖／數位時代

何庭劭表示：「透過 SeaX，Lions Befrienders 每秒可完成30通電話，每通皆有錄音、逐字稿與 AI 分析，判斷是否需社工即時介入，讓語音 AI 成為重塑長照現場效率與安全的關鍵伙伴。」

從台灣到新加坡，從會議翻譯到智慧長照，海研科技的語音 AI 正形成一個「技術與市場雙向成長」的飛輪，接下來，海研科技將透過 AWS Marketplace 進軍歐美市場，讓更多企業能以雲端訂閱方式直接採用其服務。

何庭劭強調：「 AWS 不僅提供一條龍平台服務，更是我們的共創夥伴，讓我們可以看得更遠、動得更快。」而這也是海研科技與 AWS 的互動關係會從技術夥伴轉向共創夥伴的原因，讓語音 AI 可以真正走進企業日常。

思邁智能與海研科技不是單一或特殊案例，在 AWS 豐沛的技術能量與資源支持下，愈來愈多新創正從單純的技術創新者，成長為推動產業變革的關鍵力量，讓 AI 真正落地多元場域，開創生態共榮的新局。

新創解方立即看

思邁智能＿解方立即看

海研科技＿解方立即看