0.4 秒就開口回你!Thinking Machines推出「互動模型」,瞄準全球最快即時多模態AI
0.4 秒就開口回你!Thinking Machines推出「互動模型」,瞄準全球最快即時多模態AI

重點一:前 OpenAI 技術長 Mira Murati 創辦的 Thinking Machines Lab 5 月 11 日推出研究預覽版「互動模型」,主打多模態、近即時的人機協作,跳脫過去 AI 的「一問一答」框架。

重點二:首款模型 TML-Interaction-Small 為 2,760 億參數 MoE 架構(單次啟用 120 億),FD-bench 互動延遲達 0.4 秒,優於 Gemini 3.1 Flash Live 的 0.57 秒、GPT-realtime 2.0 的 1.18 秒。

重點三:架構採「雙模型」設計,互動模型負責即時對話與感知,背景模型處理推理、工具呼叫等較重的任務,再把結果無縫串回對話,研究預覽僅對少數合作夥伴開放,年底前公開發布。

前 OpenAI 技術長 Mira Murati 創辦的 AI 研究新創 Thinking Machines Lab,5 月 11 日推出首款「互動模型(interaction models)」研究預覽版,主打讓 AI 能像人類一樣即時聽、看、說,跳脫今天主流模型「使用者輸入完才開始處理」的回合制架構。

Thinking Machines 官方部落格指出,這代表一種全新的多模態 AI 系統設計,目標是讓 AI 在語音、影像、文字三個模態上同時運作,沒有切換成本。

公司背景:頂級 OpenAI 出走潮與史上最大種子輪

Thinking Machines Lab 由 Murati 於 2025 年 2 月離開 OpenAI 後創立。共同創辦團隊包括同樣出身 OpenAI 的 John Schulman、Barrett Zoph、Lilian Weng、Andrew Tulloch 與 Luke Metz,幾乎集結了 OpenAI 訓練、後訓練與安全研究的核心人物。

該公司隨後創下科技史上規模最大的種子輪之一:2025 年 7 月,由 Andreessen Horowitz 領投,募得 20 億美元,估值達 120 億美元,輝達 (NVIDIA)、超微 (AMD)、思科 (Cisco)、Jane Street 均參與投資。

據《彭博社》報導,Thinking Machines 目前正在洽談新一輪融資,估值可能來到 500 億美元。Murati 在創立時就明確表示,公司主軸是「打造能與人類自然互動的 AI 系統」,這次推出的互動模型可視為這項定位的第一個產品化成果。

200 毫秒微回合:互動模型的核心設計

互動模型的關鍵設計是「時間對齊的微回合(time-aligned micro-turns)」。Thinking Machines 解釋,傳統模型把使用者輸入與模型輸出視為交替的 token 序列,必須等一邊講完才換另一邊;互動模型則把輸入與輸出都當成連續資料流,每 200 毫秒處理一次小段內容。

換句話說,模型可以邊聽邊講、邊看邊回應,不再有「人為的回合界線」。

這套架構解鎖了幾種過去做不到的互動模式:模型可以在使用者講話時主動插話(例如「你發音念錯了」),也可以邊講邊聽、即時翻譯,甚至能主動回應視覺變化(例如「幫我數伏地挺身次數」)。

Thinking Machines 表示,這些行為過去要靠額外的「語音活動偵測」等模組才能做到,但這類模組通常比模型本身還笨,反而限制了互動品質。

雙模型分工:即時對話 vs 深度推理

實際架構由兩個模型協作。第一個是 TML-Interaction-Small,2,760 億參數的 MoE(混合專家)模型,單次啟用 120 億參數,負責即時對話、感知、立即回應;第二個是非同步背景模型(Background Model),處理需要深度推理的任務,例如複雜計算、網路搜尋、工具呼叫。

互動模型遇到比較重的任務時,會把整段對話脈絡打包交給背景模型,背景模型完成後再把結果回傳,由互動模型在適當時機自然織入對話。

Turn-based 與時間對齊微回合:兩種人機互動模式比較
上圖是傳統「一問一答」的輪流對話,AI 只有在你講完才開始回應;下圖則把影音與語音切成一段一段的「微回合」,AI 可以一邊聽一邊看、一邊說,連沉默、打斷、重疊說話都算進情境裡。
圖/ Thinking Machines

效能方面,TML-Interaction-Small 在 FD-bench v1(衡量回合切換延遲的測試)上達到 0.4 秒,明顯快於 Google 的 Gemini-3.1-flash-live(0.57 秒)與 OpenAI 的 GPT-realtime-2.0 minimal 模式(1.18 秒)。

在衡量互動品質的 FD-bench v1.5 上拿到 77.8 分,遠高於 GPT-realtime-2.0 minimal 的 46.8 分與 Gemini-3.1-flash-live minimal 的 54.3 分。

企業端應用:從製造現場到客服

《SiliconANGLE》分析指出,雖然反應更快的聊天機器人對一般使用者最直觀,但這類模型在企業端的潛在影響可能更大。

例如在製造現場,互動模型可以全天監看影像,安全違規發生的當下就提醒人類主管,不必等管理者剛好走過;在客服場景,延遲降低能讓電話對談更貼近真實人類互動。

值得注意的是,Thinking Machines 的模型有內建的時間感知能力,使用者可以說「如果這個化學反應比上一次慢,提醒我」,不必在提示中提供具體時間戳,模型就能自己掌握時間軸。

Thinking Machines 表示,目前 TML-Interaction-Small 與背景模型只開放給少數合作夥伴試用,年底前會更廣泛公開發布。

Thinking Machines 在部落格也坦承幾個侷限:連續音訊與影像會快速累積對話脈絡,超長對話的記憶體管理仍是研究重點;即時串流仰賴穩定網路連線,網路品質下降會明顯影響體驗。

延伸閱讀:AI隨機作答「真正元兇」找到了!OpenAI前技術長團隊揪出「缺乏批次不變性」,這是什麼?

資料來源:Thinking Machines LabSiliconANGLETechCrunchBloomberg

本文初稿為AI編撰,整理.編輯/ 李先泰

往下滑看下一篇文章
不只投廣告!在 AI 時代,無限創意行銷如何從企業營運出發,放大行銷成效?
不只投廣告!在 AI 時代,無限創意行銷如何從企業營運出發,放大行銷成效?

一家連續十年營收 700 萬元的健身業者,如何在一年內將業績推升至 3,500 萬元,成長整整 5 倍?答案可能和多數人想的不一樣。

這家健身品牌不是一開始就加碼投放廣告,而是先從調整組織架構與薪酬制度著手,透過明確分工改善團隊運作,進而建立「全員銷售」文化,這並不是要求每位員工都成為業務員,而是讓團隊理解與認同品牌理念,確保從服務、回覆、教學到售後過程中的每一個顧客接觸點,都能傳遞一致的訊息與體驗,從而建立顧客對品牌的信任感,甚至願意主動購買與持續回購。而規劃這套成長策略的幕後推手,正是無限創意行銷。

AI 讓行銷變簡單,為何行銷公司反而更難做出成效?

雖然公司名稱裡有「行銷」兩個字,但無限創意行銷並非只從行銷工具出發,而是以顧問式行銷的角色,先理解企業經營問題,再決定應採取哪些行銷與營運解方。「我們不會一開始就告訴企業該採用哪些行銷策略,而是根據企業真的需求來提供適合解方」,無限創意行銷創辦人翁小五一語道出公司的獨特定位。

通常,企業在面對營收成長瓶頸時,第一個念頭就是做行銷,然而,翁小五從過往的工作與創業經驗中發現,限制企業營收成長的原因有很多,不一定與行銷有關,背後可能還有其他問題,若沒有釐清真正的問題所在,就急著投入廣告或其他行銷資源,很可能只是治標不治本。

基於這樣的觀察,無限創意行銷決定採取反向思考邏輯:先回到企業經營本身,找出造成「成長趨緩」的真正原因,再據此制定策略、優化營運流程,最後透過行銷放大企業優勢。當每一筆行銷投入都建立在更健康的企業體質與更精準的策略判斷之上,行銷才不只是「有做」,而是真正能為企業帶來成長。

這套「先找問題、再選工具」的服務模式,在生成式 AI 工具普及後,也成為拉開行銷成效差距的關鍵。

過去,行銷公司的價值建立在製作能力、投放技術與媒體資源;但當 AI 逐步降低文案、素材與分析的執行成本,單純提供「做內容、下廣告、做報表」的服務,差異化將快速縮小。此時真正考驗的,反而是行銷人的理解力和判斷力:能否看懂消費者真正需要什麼?能否找出限制企業營收成長的關鍵環節?而這正是無限創意行銷長期深耕企業經營現場、不斷透過數據與市場驗證所累積的核心能力。

無限創意行銷-2.JPG
無限創意行銷創辦人 翁小五
圖/ 數位時代

AI 拆解營收黑洞,讓數據為企業成長導航

在無限創意行銷的顧問式服務流程中,數據是相當重要的依據。翁小五進一步說明,無限創意行銷的數據應用可以分為三個層次:從檢視行銷活動成效、拆解顧客旅程中的問題節點,再進一步延伸至年度營運規劃,讓企業不只知道「過去發生了什麼」,更能判斷「下一步該怎麼走」。

首先,是檢視行銷活動成效,其中最重要的原則在於,根據行銷目標去解讀數據。舉例來說,如果目標是增加首購顧客,除了檢視素材吸引力與點擊率,還要持續追蹤到站、詢問、成交、新客占比與首購成本;如果目標是擴大營收規模,則應進一步檢視回購率、客單價與顧客終身價值。

數據應用的第二層價值,是拆解從「廣告投入」到「營收產出」之間的過程,理解每一個節點的數據分別反映什麼問題,再針對問題逐一修正。

至於第三個層次,則是讓數據成為企業經營與資源配置的依據。無限創意行銷會從年度營收目標出發,結合產業特性、淡旺季變化與過往行銷成果,拆解每一季、每個月的業績任務,再將過去有效的策略放大、成效不佳的做法修正,據此安排下一年度的行銷資源與營運節奏。

不急著加碼廣告,從企業體質出發找出 5 倍成長解方

對無限創意行銷來說,數據是找出問題、配置資源與規劃成長路徑的關鍵,文章開頭提到的健身業者,正是此套方法論的最佳印證。當初,翁小五深入診斷後發現,這家企業真正的問題在於組織結構過度扁平,老闆長期忙於處理日常事務,難以專注在營運規劃;此外,組織缺乏真正負責營運管理的中階主管、教練流動過高導致學員缺乏安全感等,皆是影響回購率的因素。

因此,無限創意行銷先從組織架構著手,設立專責店長一職,並重新設計薪酬制度,藉此讓教練、店長與老闆皆可專注在自身工作上。之後,再透過前期廣告數據與顧客洞察,找出消費者選擇品牌的真正原因,並運用行銷活動與口碑經營持續放大。同時,翁小五也在過程中導入「全員銷售」概念,確保顧客在各個接觸點都享有一致的體驗,品牌才能逐步累積顧客信任。

最終,這家企業的營收一年就成長至 3,500 萬元,達到原先的 5 倍。這個案例也說明了無限創意行銷的方法論:行銷不是企業成長的起點,而是放大企業優勢的槓桿;企業體質愈健全,這支槓桿所能放大的成長效益也愈大。

從「會做」到「會判斷」,AI 時代,無限創意行銷正在重新定義行銷公司的價值

隨著 AI 能力越來越強大,下一代行銷公司的價值,不只是比誰更懂得運用 AI,而是行銷人的市場理解力與專業判斷力,知道 AI 產出的內容哪些值得留下、哪些應該捨棄,或是該如何持續修正,才能打造出能夠被消費者感受到的品牌體驗。

因此,無限創意行銷未來將積極建立團隊與 AI 協作的方法論,將過往的專案判斷、提問框架與數據檢核邏輯,轉化為 AI 協作流程。團隊在面對新專案時,不是直接要求 AI 給答案,而是先定義目標、限制條件與判斷標準,再去檢查 AI 產出是否符合商業情境。

對翁小五而言,AI 時代真正稀缺的,不是工具,而是定義問題、理解消費者與判斷品質的能力。未來無限創意行銷的競爭力,也不在於使用多少 AI,而是持續將人的品味、市場理解與產業 Know-how,透過 AI 放大,協助企業打造更精準的品牌體驗與更高品質的決策。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
台達電全解讀
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓