GPT-3.5 Turbo支援微調,你的AI將更客製化!OpenAI:某些任務比GPT-4強
GPT-3.5 Turbo支援微調,你的AI將更客製化!OpenAI:某些任務比GPT-4強

OpenAI宣布,用戶現在可以將自定義的數據資料加入GPT-3.5 Turbo,而這也是OpenAI系列中功能最強大且最具經濟的模型。官方聲稱,在某些特定任務的表現上,經過微調後的GPT-3.5 Turbo,甚至可以擁有超越GPT-4的能力。

OpenAI宣佈開放GPT-3.5 Turbo的微調功能

自定義數據資料,能夠為GPT-3.5 Turbo帶來什麼改變?

OpenAI的官方部落格指出,自GPT-3.5 Turbo發布以來,開發者和企業一直要求能夠自定義該模型,為用戶創造獨特和差異化的體驗。此次加入微調功能的更新,讓開發者能夠自定義更適合其狀況的模型,並大規模運作。

延伸閱讀:ChatGPT大更新,能輸入20頁文件、GPT-4、GPT-3.5都進化!六項更新一次看

《TechCrunch》指出,透過微調功能,GPT-3.5 Turbo的使用者可以使模型在遵循指令上有更好的效果,例如總是以特定的語言回答問題,或是提升模型的能力,以便回答更加標準化,這對於需要特定格式的應用程式來說至關重要。此外,也可以調整模型輸出的「感覺」,使其更符合企業的形象需求。《The Verge》亦指出,經過這樣「訓練」後的模型,將使聊天機器人成為每間公司獨一無二的工具,從而以特定語言或更簡潔的措辭提供可靠的回覆。

聊天機器人在未來將成為每間公司獨一無二的工具。
圖/ Zac Wolff on Unsplash

微調還能讓用戶縮短每次「詠唱」時的文字提示(Prompt),以加快API呼叫時間並降低成本。OpenAI宣稱,「早期測試人員透過將指令微調到模型本身,將提示詞的長度減少90%。」而微調在與其他技術結合時效果最為強大,例如提示工程、資訊檢索和函數調用等等。

延伸閱讀:GPT-4跟GPT-3.5差在哪?免費和付費方式怎麼用?詳解ChatGPT原理

GPT-3.5 Turbo微調所費不貲,用戶都會買單嗎?

OpenAI官方將微調功能的價格分為訓練成本與使用成本:

官方公告定價

價格 Tokens
訓練階段 $0.008 1K Tokens
使用輸入 $0.012 1K Tokens
使用輸出 $0.016 1K Tokens

舉例來說,假設進行了一個GPT-3.5 Turbo的微調任務,使用了一個包含100,000個tokens的訓練檔案,進行了3輪的訓練,預計的成本將會是2.4美元。而這樣的價格也引起用戶的討論,Y Combinator旗下新聞聚合網站《Hacker News》的用戶便在評論中指出,從經過微調的GPT-3.5 Turbo生成內容的成本,是從基本模型生成的成本的8倍,所以真的要確保能夠符合「將提示詞減少9成」的情況才有辦法獲利。

微調的GPT-3.5 Turbo生成內容的成本是基本模型的8倍,所以要確保能夠符合「將提示詞減少9成」的情況才有辦法獲利。
圖/ Canva

但同時有觀點指出,相較於GPT-3.5 Turbo,GPT-4的成本要高出20至30倍。依目前的能力來看,雖然GPT-3.5 Turbo還是無法取代GPT-4,但外媒《Decrypt》認為對於這樣的功能來說,溢價是值得的。

GPT-4也會持續更新

《Decrypt》指出,隨著生成人工智慧(AI)霸主地位的爭奪戰愈演愈烈,「客製化」可能是OpenAI的下一個護城河。官方也提到今年秋天也將針對GPT-4加入微調功能,屆時還將支援函式呼叫(Function Calling)和GPT-3.5 Turbo-16k(能處理更大量文字的模型,約為GPT-3.5 Turbo的4倍)的微調。

延伸閱讀:細看GPT-4,還有14個驚人細節!這項特徵為何令人背後一涼?

資料來源:OpenAITechCrunchDecryptThe Verge

責任編輯:陳建鈞、林美欣

往下滑看下一篇文章
思科:打造智慧轉型韌性基礎的關鍵 人才培育與科技
思科:打造智慧轉型韌性基礎的關鍵 人才培育與科技

人工智慧(AI)正以前所未有的姿態重塑全球政府與企業的數位轉型藍圖,帶來一場深刻的變革。這股浪潮不僅預示著效率與生產力的巨大躍升,同時也為組織帶來嚴峻挑戰。如何駕馭 AI、確保資訊安全、並同時兼顧永續發展,成為當今各國政府與企業亟需面對的核心課題。在這樣一個充滿挑戰與無限機會的時代,全球網路與資安科技大廠思科(Cisco),憑藉其完整的產業生態系和豐富的跨國合作經驗,正積極扮演關鍵的賦能者角色,所推動的台灣數位加速計畫(Taiwan Digital Acceleration, TDA)也已邁入3.0階段。思科認為,值此時刻組織需要為數位轉型建立具韌性的基礎,而關鍵不只是科技,更重要的是人才培育。

AI雖解決人力短缺問題 但人員更需學習駕馭AI

負責思科國家數位加速計畫(CDA),與多國政府密切合作的思科全球資深副總裁暨全球創新長Guy Diedrich,談到當今各國政府與企業正在面臨融合著AI、資安與永續發展的數位轉型趨勢,而在此過程中關鍵的是,組織必須透過科技與培育人才來為此波轉型打造具韌性的基礎。

思科
思科全球資深副總裁暨全球創新長Guy Diedrich
圖/ 思科

Diedrich進一步表示,未來的職位已不再是用職務說明書來衡量,而是以工作流程為核心,人力會在不同階段介接不同科技,可能是AI、機器人、人形機器人甚至量子電腦,因此人力與科技的整合也特別重要。思科台灣總經理林岳田也舉例,過去在地端、雲端網路設備有各自的管理平台,未來除了將化繁為簡整合為單一平台外,許多資料搜集比對的例行工作由AI取代,但關鍵的決策判斷仍會交由人力負責,因此培育員工學習AI也更加不可或缺。

過去從TDA 1.0計畫推動至今,透過思科網路學院(Cisco Networking Academy),思科與合作夥伴已經在台灣培育超過17萬名技術人才。提供從網路工程師認證(CCNA)、網路高級工程師(CCNP)到網路專家(CCIE)等,針對不同職務與層級完整的專業培訓,而去年剛推出針對AI架構的網路設計專家(CCDE-AI Infrastructure)認證,在市場上更是炙手可熱。Diedrich強調,未來學習將成為工作中的一部份,持續在職訓練才能確保人員跟上技術的快速發展。

林岳田也指出,思科致力於人才培育不遺餘力,並從多方面投注資源。包括目前已在台灣的北、南、東部區域成立思科網路學院教師培訓中心,作為推動各區域人才培訓的種子基地。同時,思科與合作夥伴晉泰科技在2025年於高雄成立「亞灣AIOT生態系發展基地暨研發中心」,目標是培育5,000名AIOT人才並協助 1,500 人取得國際認證,以解決目前產業智慧轉型卻求才若渴的窘境。而在政府公部門方面,思科近期與國家資通安全研究院 (簡稱「資安院」) 合作「NPO資安共學計畫」,由思科網路學院 (Cisco Networking Academy) 提供課程與平台資源,資安院負責在地招募與社群經營,共同構築永續的公益資安生態系。

思科
思科台灣總經理林岳田
圖/ 思科

完整生態系整合多元科技 一同推動AI創新

數位轉型另一項重要關鍵就是科技,尤其當今企業都在思考如何利用AI推動創新。思科與18家合作夥伴,從TDA 1.0到3.0計畫,共同實踐30個創新專案。其中TDA 1.0著重智慧城市、企業 5G專網、資訊安全和數位醫療照護等核心領域,奠定數位轉型基礎;TDA 2.0計畫除了延續並深化前述智慧城市與智慧交通,也因應新冠疫情下的醫療照護需求,為長者提供遠距學習、遠距醫療等樂齡生活應用,同時拓展金融韌性等創新場景。而在離岸風電計畫中,更利用5G結合VR眼鏡解決方案,協助當時因為疫情封控而無法來台支援的國外風機維護工程師,進行遠距教育訓練。

而TDA 3.0計畫中聚焦永續發展、資安韌性和AI驅動的智慧轉型,其中指標性專案之一,便是以高雄港為場域的智慧港口解決方案。提供從貨輪進港到貨櫃卸貨、起重機遠端操作監控等全自動化營運,可提升人員工作效率並確保安全。同時此方案中也兼顧永續發展需求,透過感測器可將各種機具設備的碳排資料回傳,完整監控能源使用情形。

人員短缺不只是運輸業也是許多產業共同面臨的難題,思科與合作夥伴針對醫院推出行動醫療推車,就是利用AIOT、無線/有線網路整合結合Webex視訊系統等,能協助遠端醫師迅速掌握病情,在第一時間提供專業判斷,或協助護理師迅速正確完成數據輸入工作。思科全球副總裁黃志明也強調,科技的運用更重要的是化繁為簡,透過整合算力、網路、資安與儲存功能的AI PODs一體機伺服器,讓許多TDA 3.0專案能專注於應用開發,加速落地部署。

黃志明進一步表示,思科能協助企業導入部署各項AI創新方案,得力於生態系中有擅長應用開發、技術架構、顧問諮詢等不同領域的合作夥伴,彼此在開放、包容的平台上運作,因此能協助企業加速智慧轉型並提升企業價值。

思科
思科全球副總裁黃志明
圖/ 思科

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
蘋果能再次偉大?
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓