OpenAI推出輕量版GPT-4o mini！可完美替代GPT-3.5？看懂為何它是小新創「CP值首選」|數位時代 BusinessNext

OpenAI於7月18日推出「GPT-4o mini」，瞄準「小而巧」的人工智慧 (AI) 模型競爭。據了解，這款最新模型「功能最強、成本較低」，OpenAI 計畫之後整合圖片、影片、音訊功能到這個最新模型中。

OpenAI 表示，GPT-4o mini 從7月18日起向 ChatGPT 的免費用戶、ChatGPT Plus 和團隊訂閱用戶開放，並將在下周向 ChatGPT 企業用戶開放。 GPT-4o mini 將取代 ChatGPT 中的舊模型 GPT-3.5 Turbo。

據了解，GPT-4o mini 的成本為每百萬輸入 Token 為 0.15 美元、每百萬輸出 Token 為 0.6 美元，比 GPT-3.5 Turbo 便宜超過 60%。

不只如此，新模型目前在聊天偏好上表現優於 GPT-4 模型，並在大規模多任務語言理解（MMLU，Massive Multitask Language Understanding）測驗中獲得了 82% 的得分。

MMLU是一種用於評估語言模型能力的文本智慧和推理基準，更高的MMLU得分表明它可以在各種領域中更好的理解和使用語言，增強其在現實世界中的應用。

根據 OpenAI 的數據，GPT-4o mini 模型的得分為 82%，比另外兩款低成本競品更高，Google(GOOGL-US) 的 Gemini Flash 得分為 77.9%，Anthropic 的 Claude Haiku 得分為 73.8%。

而在更大模型中，GPT-3.5 在這項測試中的得分為 70%，GPT-4o 得分為 88.7%，而 Google 聲稱其 Gemini Ultra 取得了有史以來最高的 90% 得分。

專家分析指出，較小的語言模型需要較少的運算能力來運行，使其成為資源有限的公司部署生成式 AI 的更實惠的選擇。

此外，這個新的輕量化模型還將在 API 中支援文字和視覺功能，OpenAI 表示該模型很快就會處理所有多模態輸入和輸出，例如視訊和音訊。

而且擁有這些功能後，這可能會像更強大的虛擬助理一樣，能夠理解你的旅行行程並提出建議，不過目前該模型只能主要用於簡單任務。

根據外媒報導，OpenAI 雖然在生成式 AI 市場仍占據領頭羊地位，但面臨的競爭壓力已經越來越大，OpenAI 還需要找到賺錢的方式，因其在處理器和基礎設施上花費了大量資金來建立和訓練其模型。

然而，不少公司無法負擔大型、更昂貴的模型，因此輕量化且廉價的模型可能更受歡迎。

OpenAI 的 API 產品負責人 Olivier Godement 受訪時解釋為何未能更早推出「小而巧」的 AI 模型，他說這純粹是「優先順序」的問題，因為 OpenAI 專注於創建更大、更好的模型，如 GPT-4，這需要大量的人力和運算資源。

隨著時間的推移，OpenAI 注意到開發人員越來越渴望使用較小的模型，因此決定現在是投入資源開發 GPT-4o Mini 的時機。

延伸閱讀：白話科技｜AI Agent是什麼？它為何是邁向AI界聖杯的關鍵一步？

本文授權轉載自：鉅亨網

過去兩年，人工智慧技術以史無前例的速度翻轉企業營運與競爭態勢，從客服、知識管理到軟體開發，越來越多企業將大型語言模型（LLM）導入企業營運流程，隨著應用程度的深化與廣化，越來越多發現，真正的挑戰早已不只是「選擇哪個模型」，而是如何管理算力、控制成本、確保資料安全，以及讓不同世代GPU、模型與AI應用可以持續共存與調度。

代理式AI崛起後，AI應用從回答問題進展為執行任務、操作系統以及串接流程，連帶拉升對AI基礎設施的需求與架構複雜度，而這意味著，想要發揮AI綜效，光只有模型與技術尚不夠，必須將整體IT環境逐步升級為AI基礎建設（AI Infra）。

深耕AI管理領域多年的數位無限（INFINITIX），近年積極布局軟體定應AI基礎建設（Software Defined AI Infrastructure）市場，除持續深化與GPU、伺服器與AI硬體生態系的合作關係，如於2021年取得NVIDIA Solution Advisor全球夥伴資格，2025年亦獲AMD GPU生態建設夥伴獎，也因應市場需求推出AI-Stack與ixCSP兩大產品線，協助企業、雲端服務供應商（CSP）與新世代AI雲端業者，更有效率地管理跨世代AI算力資源。

數位無限執行長陳文裕表示：「我們的目標是協助客戶打造軟體定義AI基礎架構，讓其可以視需求向下整合不同世代GPU、儲存與網路設備，同時，向上鏈結模型、Token跟AI應用，加速企業的AI創新轉型腳步。」

從AI模型到AI經濟，企業競爭焦點轉向算力與Token調度能力

過去市場談AI，焦點多半放在模型參數、推論效能與模型能力，但在大型語言模型推論需求暴增的現下，AI Infra早已從單純GPU採購演變成涵蓋機櫃、網路、儲存、散熱與電力的整體工程；企業真正需要的，不是更多GPU、而是如何更有效率地調度與利用算力。

尤其在NVIDIA提出Token Factory概念後，全球AI產業正逐步從模型競賽轉向「AI經濟」，亦即，影響企業AI決策的再也不是使用哪個模型、部署多少GPU，而是消耗多少Token、產生多少AI服務，以及算力是否能被有效共享與調度。

換言之，在AI新世界，算力調度能力的重要水漲船高。對此，陳文裕十分認同的說：「企業想要提升AI競爭力，不僅要掌握模型與應用，還必須進一步思考如何有效切割GPU資源、讓不同部門甚至集團子公司共享算力、延長舊世代GPU的使用壽命，甚至是如何將閒置算力轉變成可交易的資源等。」

事實上，這也是大量AI資料中心（AIDC）跟新世代AI雲端服務（Neo Cloud）業者出現的原因，包括CoreWeave、Nebius、Lambda Labs、GMI Cloud等業者皆試圖以更具彈性的方式，提供企業所需的GPU服務與AI算力平台。

看準這波趨勢，數位無限除透過AI-Stack提供GPU切片、模型部署、模型管理與MLOps等服務，協助客戶提升GPU使用率，更進一步推出ixCSP平台，讓雲端服務供應商與新世代AI雲端業者，能從過去單純販售GPU資源轉型為提供GPU as a Service、Token as a Service與Model as a Service等創新AI服務。

以Software Defined AI Infrastructure助企業以「通用化、鬆耦合」迎戰瞬變AI世代

因應AI新世代帶來的挑戰：模型快速升級、算力需求攀升、GPU世代交替迅速，企業在追逐AI落地的同時，勢必得面臨基礎建設更新速度過快、硬體投資壓力升高，以及資源利用效率難以最佳化等挑戰。

為協助企業在AI快速演進與基礎建設投資之間取得平衡，數位無限的作法是，透過AI-Stack將底層硬體抽象化，以Token或模型服務形式提供，讓企業客戶、AIDC與Neo Cloud業者可以延長不同世代與不同品牌的AI硬體設備的生命週期、創造更高的使用價值、甚至是展開更多元的營收模式。

例如，高雄醫學大學附設中和紀念醫院便透過數位無限的AI-Stack解決GPU資源調度效率不彰問題，加速39項AI模型進入臨床應用階段，成功建立起「從模型開發到臨床落地」的完整生態系統。而日本精密製造大廠–Union Tool Co.–則是透過AI-Stack簡化GPU資源共享、加速AI模型的開發與測試腳步，為提升生產效率做最佳準備。

「如果大型企業或AIDC業者擁有閒置資源，也可以透過ixCSP平台，把算力共享或調度給集團內部團隊、子公司，甚至上下游合作夥伴使用，進一步提升整體資源利用率。」數位無限執行長陳文裕如是說道。

隨著AI從工具演變成企業核心基礎建設，企業真正需要的，也不再只是單一模型，而是一套能持續適應AI快速演進的AI Infra，而這與數位無限近年來的重要轉型方向一致：從AI管理軟體提供者轉型為軟體定義AI基礎建設供應商，更好協助客戶打造具備「通用化」與「鬆耦合」特性的AI基礎建設。

除以AI-Stack與ixCSP協助客戶提升算力使用效率與價值，數位無限亦計畫與硬體合作夥伴推出Agentic AI一體機方案，協助企業快速建立可驗證、可部署、可切割、可共享的AI運算環境，降低企業從PoC走向實際導入的門檻，加速AI落地。

總的來說，隨著AI競爭從模型能力延伸到算力治理，企業比拚的不僅是導入速度，而是能否建立一套足夠彈性、可持續演進的AI Infra，而這與數位無限的發展目標一致，將持續不斷優化產品服務，化身企業搶進AI新世代的關鍵合作夥伴。