AI智商10年內超過人類、不見得友善!OpenAI建立新團隊,用「超智慧」AI來控制?
AI智商10年內超過人類、不見得友善!OpenAI建立新團隊,用「超智慧」AI來控制?

美國當地時間週三,人工智能新創公司OpenAI宣布正建立一個新的團隊,以開發引導和控制「超智慧(superintelligent)人工智慧」系統的方法。這個團隊由OpenAI首席科學家、聯合創始人伊利亞·蘇斯克維爾(Ilya Sutskever)領導。

在部落格文章中,蘇斯克維爾和OpenAI協調團隊的負責人簡·萊克(Jan Leike)預測,「智商」超過人類的人工智慧將在十年內出現。他們警告稱,這種AI不一定對人類抱有仁慈之心,因此有必要研究控制和限制它的方法。

蘇斯克維爾和萊克寫道:「目前,我們還沒有任何解決方案可以用來操縱或控制潛在的超智慧人工智慧,並防止它失控。我們目前調整人工智慧的技術——比如從人類反饋中強化學習——都是依賴人類監督的能力。但人類將無法可靠地監督比我們聰明得多的人工智慧系統。」

為了在「超智慧對齊」(Superintelligence Alignment)領域取得進展,OpenAI正在創建新的超級對齊團隊,由蘇斯克維爾和萊克共同領導,該團隊將有權使用OpenAI高達20%的算力資源。這個團隊將與OpenAI之前的對齊部門科學家和工程師以及公司其他機構的研究人員一起,致力於在未來四年解決控制超智慧人工智慧的核心技術挑戰。

那麼,如何確保比人類聰明得多的人工智慧系統遵循人類的意圖?這就需要蘇斯克維爾和萊克所描述的「人類級別的自動對齊研究員」幫助。目標是使用人類反饋來訓練人工智慧系統,訓練AI協助評估其他人工智慧系統,並最終構建可以進行對齊研究的AI。這裡的“對齊研究”指的是,確保人工智慧系統達到預期的結果,或者不會偏離研究軌道。

OpenAI的假設是,人工智慧可以比人類更快、更好地進行對齊研究。

「隨著我們在這方面取得進展,我們的人工智慧可以接管越來越多的對齊工作,並最終構思、實施、研究和開發比我們現在更好的對齊技術」,萊克和他的同事約翰·舒爾曼(John Schulman)、杰弗裡·吳(Jeffrey Wu)在之前的一篇部落格文章中這樣假設,「它們將與人類共同努力,以確保它們自己的繼任者與人類始終保持一致。人類研究員把更多精力集中在審查人工智慧系統完成的對齊研究上,而不是自己進行這類研究。」

當然,沒有任何方法是萬無一失的,萊克、舒爾曼以及杰弗裡·吳在他們的文章中承認,OpenAI的方法存在許多侷限性。他們提到,使用人工智慧進行評估有可能擴大人工智慧中的不一致、偏見或漏洞。結果可能是,對齊問題中最困難的部分可能根本與工程無關。

但蘇斯克維爾和萊克認為值得一試。他們寫道:「從根本上說,超智慧對齊是一個機器學習問題,我們認為優秀的機器學習專家(即使他們還沒有開始研究對齊)對解決這個問題也至關重要。我們計劃廣泛分享這一努力的成果,並將促進非OpenAI模型的一致性和安全性視為我們工作的重要組成部分。」

本文授權轉載自:網易科技

責任編輯:錢玉紘

關鍵字: #人工智慧
往下滑看下一篇文章
漸強實驗室推「AI-First Communication Cloud」戰略,三大 AI 平台完整佈局、終結數據孤島
漸強實驗室推「AI-First Communication Cloud」戰略,三大 AI 平台完整佈局、終結數據孤島

一個殘酷的現實是:MIT 研究報告顯示,全球高達 95% 的生成式 AI 專案無法創造實際商業價值。問題出在哪裡?不是技術不足,是多數企業僅將 AI 視為「工具」,而非「戰略」,結果往往購買了許多應用卻難以串聯,數據彼此割裂,遂形成新的「數位路障」。

台灣市場也有相同矛盾。《2025 台灣 AI+MarTech 白皮書》指出,近五年軟體工具數量暴增 264%,但企業卻普遍面臨「工具越多、整合越難」的困境。對此,漸強實驗室於 9 月 16 日正式發布「AI-First Communication Cloud」戰略藍圖,提出一站式平台,將行銷、銷售與客服的資料流整合,縮短企業從洞察到行動的距離,實踐「重塑商業溝通」的使命。

為什麼必須 AI-First?

2025 漸強年度產品發表會除了展示產品之外,更同步舉辦了「漸強實驗室 x 企業領袖共創圓桌:以AI 重構企業成長引擎」。活動由《數位時代》創新長 James Huang 主持,邀請 Google Cloud 大中華區企業雲端技術副總經理 KJ WU、國泰健康管理顧問資深協理郭怡賢,分享全球 AI 趨勢與導入挑戰。現場超過 50 位 C-level 高層齊聚,包括屈臣氏、kkday、雅詩蘭黛、全國電子等領導品牌,共同聚焦 AI 對企業未來的影響,展現漸強在 AI 轉型議題上的產業影響力。

在這場活動中,漸強實驗室共同創辦人暨執行長薛覲曾在產品發佈會表示,AI 已成為國家、產業與企業的分水嶺,如:美國人均 GDP 已達 9 萬美元,但增速放緩至 1~3%,因此政府選擇 All-in AI,以重燃生產力引擎;另一方面,中國、印度、巴西等新興經濟體則將 AI 視為「彎道超車」的契機——AI 競爭,儼然成為國家實力再洗牌的契機。

回到企業層面,AI 不只加速工作流,也創造結構性的效率差異。薛覲表示,兩家同樣維持 20% YOY的公司,若其中一家具備 AI 能力,效率差距將被迅速放大。

漸強實驗室
圖/ 漸強實驗室

不過,更根本的挑戰是當 AI 接手重複任務後,員工時間如何被重新定義?如果 AI 僅僅讓回覆更即時、報表更漂亮,價值仍然淺薄;真正的關鍵是讓相同人力創造雙倍產出,或用一半資源達成既定目標。

因此,漸強實驗室提出「AI First、AI Driven、AI Built」的核心觀。對國家,AI 是戰略武器;對產業,是效率槓桿;對企業,則是生存門票。此刻若還選擇觀望 AI,代價恐怕是被淘汰,唯有主動擁抱 AI,才有機會獲得指數級成長。

漸強實驗室三大平台串聯,AI戰略再下一城

為了讓 AI 發揮戰略價值,漸強採取內外並進的策略。一方面重塑內部流程,包括目前約 90% 的程式碼透過 AI 協作完成,開發速度提升近五成;或透過導入 Google AgentSpace 將內部訓練效率提升 40%、業務提案時間縮短 80%。

同時,漸強也將AI經驗沉澱為產品,端出三大平台形成完整的 AI 生態。包括:

MAAC(企業專屬的行銷成長架構師),不再只是發送工具,而能在對的時間將對的內容送給對的人。如保健品牌 Vitabox 使用分眾功能,訊息點擊率提升六倍、廣告投資報酬率成長 3.7 倍;電商 Coupang 則將文案產出時間縮短 70%,團隊效率明顯提升。

CAAC(讓客服與銷售成為 Super Agents),則透過多角色 AI Agent 即時回覆,自動解決八成常見問題,以餐飲品牌為例,導入後對話處理量提升 233%,首次回覆時間縮短至原先的三分之一,成功優化客服團隊效率與工作量能。

DAAC(24 小時挖掘洞察、可自動行動的 AI 數據顧問),作為漸強實驗室的全新產品,定位為全自動 AI 數據分析平台,能將分散於行銷、客服、會員標籤的資訊整合,把以往3~5天的跨部門數據彙整加速到 3 分鐘內完成,並一鍵開啟執行建議,幫助企業立即把握機會、採取行動、解決問題。

漸強實驗室發布「AI-First Communication Cloud」戰略藍圖。為終結工具、數據
圖/ 漸強實驗室

漸強整合三大平台構成「AI All-in-one Solution」,形成一個不停轉動的生態系。從 MAAC 完整剖析全通路數據、一鍵觸發自動化行銷,到 CAAC 即時 360° 洞察顧客需求、一鍵啟動專屬對話,再到 DAAC 即時數據分析轉化為行動,一步步幫助企業決策不再依靠經驗直覺,而是由數據與 AI 驅動的最佳智慧。

AI 落地的最後一哩路

從產品戰略可見,漸強將 AI 的運作理解為一個不斷循環的系統:AI Agents 執行任務-結果沉澱為決策依據-經由大模型判斷方向-再驅動新一輪行動。唯有所有環節緊密相扣,AI 才能真正驅動價值;一旦斷裂,就會退化成孤立的單點工具。

因此在產品工具之後,漸強也提出 AI 顧問服務,將多年實戰經驗濃縮打磨,帶領品牌一步步界定痛點、快速試錯、人機分工、持續優化,協助品牌建立能長期演化的系統,讓技術在導入之後,還能持續成長。

薛覲比喻,漸強作為創新歷程就像是「蓋教堂」,目標使命始終如一,唯隨著時代演進,一次次聚焦解決某個挑戰,逐步將藍圖逐步堆疊實踐。走到 AI 時代的分水嶺,漸強不只給出解方,也盼能拋出更大的思考格局,帶動企業讓 AI 成為決策的核心,讓產品與顧問形成互補生態,陪伴企業從工具導入走向結構轉型;當多數企業仍在試水階段,那些率先建構 AI 驅動的組織,將更快抵達未來。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂Vibe Coding
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓