AI模型「野蠻擴張」時代結束了?奧特曼:想進步不能再靠擴大規模,下步怎麼走?
AI模型「野蠻擴張」時代結束了?奧特曼:想進步不能再靠擴大規模,下步怎麼走?

4月18日消息,OpenAI的聊天機器人ChatGPT可謂是功能強大,引起了人們對人工智慧的極大興趣和投資。但該公司的CEO山姆·奧特曼(Sam Altman)認為,現有研究策略已經失效,未來的AI進步需要新的思路。

近年來,OpenAI通過將現有的機器學習演算法擴展到以前無法想像的規模,在處理語言方面取得了一系列令人印象深刻的進步。其最近開發的項目是GPT-4,據稱已經使用數兆字的文本和數千個強大的計算機晶片進行訓練,耗資超過1億美元。

但是,奧特曼表示,未來AI的進步不再依賴於將模型變得更大。在麻省理工學院的一次活動上,他說:「我認為,我們正處在一個時代的盡頭。在(即將過去的)這個時代,模型變得越來越大。現在,我們會在其他方面讓它們變得更好。」

奧特曼的表態意味著,開發和部署新AI演算法的競賽出現了出人意料的轉折。自去年11月推出ChatGPT以來,微軟就開始利用這一底層技術在其必應搜索引擎中添加了聊天機器人,Google也推出了名為Bard的競爭對手。許多人都迫不及待地嘗試使用這種新型聊天機器人來幫助完成工作或個人任務。

與此同時,許多資金充足的新創公司,包括Anthropic、AI21、Cohere和Character.AI等,正在投入大量資源用於構建更大的演算法,以努力趕上OpenAI的腳步。 ChatGPT的初始版本是基於GPT-3構建的,但用戶現在也可以接觸到功能更強大的GPT-4版本。

奧特曼的陳述也暗示,採用將模型擴大並提供更多數據進行訓練的策略後,GPT-4可能是OpenAI最後一項重大成果。不過,他沒有透露任何可能替代當前方法的研究策略或技術。在描述GPT-4的論文中,OpenAI表示,其估計表明,擴大模型規模的回報正在減少。奧特曼說,該公司可以建立的數據中心數量以及建設這些中心的速度也都受到物理限制。

Cohere的聯合創辦人尼克·弗羅斯特(Nick Frosst)曾在Google從事人工智慧研究,他表示,奧特曼所說的「不斷擴大模型規模並不是無限制的有效解決方案」是正確的。他認為,針對GPT-4和其他transformers類型(transformers直譯為轉換器,而GPT是Generative pre-trained transformers的簡寫,意思是基於轉換器的生成式預訓練模型)的機器學習模型,進展不再只是靠擴大規模。

弗羅斯特補充說:「有很多方法可以讓transformers變得更好、更有用,而且很多方法都不涉及給模型增加參數。新的人工智慧模型設計或架構,以及基於人類反饋的進一步調整,都是許多研究人員已經在探索的前進方向。」

在OpenAI的語言演算法家族中,每個版本都由人工神經網絡組成,這個軟體的設計靈感來自於神經元之間相互作用的方式,經過訓練後,它可以預測應該跟隨在給定文本字符串後面的單詞。

2019年,OpenAI發布了其第一個語言模型GPT-2。它最多涉及到15億個參數,這一指標能夠衡量神經元之間可調整的連接數量的大小。這個數字非常大,這在某種程度上要歸功於OpenAI研究人員的發現,擴大規模使模型變得更加連貫。

2020年,OpenAI推出GPT-2的後繼者GPT-3,該模型規模更大,參數高達1750億個。 GPT-3在生成詩歌、電子郵件和其他文本方面具備廣泛能力,這令其他公司和研究機構相信,他們可以將自己的AI模型擴展到與GPT-3類似甚至更大的規模。

去年11月,ChatGPT首次亮相後,表情包製造者和科技專家猜測,當GPT-4問世時,它將是個擁有更多參數、更為複雜的模型。然而,當OpenAI最終宣布新的人工智慧模型時,該公司沒有透露它有多大,也許是因為規模不再是唯一重要的因素。在麻省理工學院的活動上,奧特曼被問及GPT-4的培訓成本是否有1億美元,他回答說:「不止如此。」

儘管OpenAI對GPT-4的規模和內部工作原理保密,但很可能它已經不再僅僅依賴於擴大規模來提高性能。有一種可能性是,該公司使用了名為「強化學習與人類反饋」的方法,用於增強ChatGPT的能力,包括讓人類判斷模型答案的質量,以引導它提供更有可能被判斷為高質量的答案。

GPT-4的非凡能力讓許多專家感到震驚,並引發了關於AI改變經濟潛力的辯論,以及其可能傳播虛假訊息和製造失業的擔憂。許多企業家和AI專家最近簽署了一封公開信,呼籲暫停開發比GPT-4更強大的模型6個月,其中包括特斯拉執行長伊隆·馬斯克。

在麻省理工學院的活動中,奧特曼證實,他的公司目前沒有開發GPT-5。他補充說:「這封公開信的早期版本聲稱OpenAI正在訓練GPT-5。實際上我們並沒有這樣做,短期內也不會。」

本文授權轉載自:網易科技

責任編輯:傅珮晴、錢玉紘

關鍵字: #ai人工智慧
往下滑看下一篇文章
導航不是愈高階愈好!桃園產官資源如何賦能互宇向量,讓複雜技術真正「用得起、用得上」?
導航不是愈高階愈好!桃園產官資源如何賦能互宇向量,讓複雜技術真正「用得起、用得上」?

當無人機、無人船失去衛星定位訊號,還能繼續完成任務嗎?這道問題不只考驗導航設備的精度,更牽涉不同技術如何搭配,才能兼顧成本、可靠性與實際部署需求。

要理解自主載具如何在衛星訊號中斷時持續導航,得先認識「慣性導航」。互宇向量執行長鍾宏彬拿棒球作比喻:投手把球投出去後,球沒有GPS或遙控器,仍會依照出手角度、力量與旋轉向前運動。慣性導航則透過感測加速度與旋轉變化,持續推算載具的姿態、速度與位置。不過,慣性導航的誤差會隨時間累積,衛星定位訊號一旦中斷,位置推算也可能逐漸偏移。因此,自主載具需要不同定位與感測技術相互配合。2022年成立的互宇向量,便從這項需求切入,協助客戶選擇適合的導航技術,並將系統整合到產品中。

先定義任務,再決定導航規格

「以終點當起點。」鍾宏彬如此形容互宇向量的產品開發原則。相較於先提供設備、再由客戶自行整合,互宇向量在開發初期便參與討論,了解客戶要完成什麼任務,再決定性能、材料、演算法與預算。這套方法稱為「前端部署」。

以無人機精準投送為例,客戶希望載具不只抵達指定區域,還能接近建築物完成投送。飛行距離、定位精度、是否有人遙控,以及衛星訊號中斷後需要自主運作多久,都會影響系統設計。互宇向量必須先釐清這些條件,再選擇感測元件、調整導航架構,而不是直接套用既有產品。

互宇向量的技術涵蓋光纖陀螺儀(FOG)、慣性量測單元(IMU)、姿態與航向參考系統(AHRS),以及GNSS/INS融合導航方案。團隊曾與產業夥伴在實際水域驗證無人船導航系統,也透過觀音山隧道測試,觀察衛星訊號中斷時的導航表現。

對客戶而言,驗證的重點在於系統能否在任務要求的時間內維持足夠精度。互宇向量也不一定選用最高規格的零組件,而是依照需求調整演算法、材料與系統配置,必要時整合其他供應商的技術,減少客戶自行開發、測試與整合的時間及成本。

從光纖陀螺到系統整合,互宇向量把技術推向可部署的產品

鍾宏彬2010年投入光纖陀螺核心技術研究,2016年共同創辦極星光電。當時核心元件的客戶多具備自行整合能力,應用市場相對有限。他逐漸意識到,若想讓技術接觸更多使用者,就不能只停留在零件,還得往感測模組與完整系統發展。2022年成立互宇向量後,鍾宏彬延續過去累積的技術,採取合作設計製造(JDM)模式,讓團隊從產品開發初期便參與設計與驗證。

他把這種服務形容為「高階料理包」:客戶不必自行採購所有原料、研究怎麼煮,而是由互宇向量協助整合適合的技術,完成產品部署。公司不走低價、拚量路線,而是選擇與少數具有長期需求的專業客戶深入合作。目前團隊服務約12家核心客戶,透過持續參與產品開發,累積技術與合作經驗。

航太市場考驗的不只是技術,還有供應鏈與驗證能力

航太是互宇向量積極拓展的市場。目前約四成業務聚焦航太應用;2023年,團隊也與國家太空中心(TASA)展開策略性合作,推進MIOC與FOG技術的太空應用。

航太產業尤其重視「飛行履歷」(Flight Heritage)。鍾宏彬打趣地說,普通杯子就是杯子,但如果真的上過太空,「它就變成太空杯」。設備即使通過完整的地面測試,仍不等於經歷過發射與太空環境。對國際航太客戶而言,實際飛行驗證是評估設備可靠性的重要依據。鍾宏彬回憶,團隊過去花了兩、三年尋找海外企業客戶,始終不得其門而入。後來有國際業者得知互宇向量與國家太空中心合作,反而主動找上門。這段經驗讓他體會到,進入航太供應鏈除了技術能力,還需要讓國際客戶看見合作經驗與可信度。

從中央大學到蘆竹,桃園產官資源如何成為互宇的產業支點?

互宇向量與桃園的淵源,早在公司成立前就已開始。鍾宏彬從中央大學求學、攻讀博士到投入研究,一路留在桃園;第一次創業落腳楊梅,互宇向量則從青埔搬到蘆竹,建立廠辦空間。他笑稱,自己就像桃園「生出來的baby」。

桃園及北部地區聚集電路板、電子製造與機械加工等供應商,具備成熟的產業基礎。不過,部分業者長期專注既有市場,未必想過自身技術還能延伸至無人載具與航太應用。鍾宏彬舉例,互宇向量曾與傳統機械加工業者合作,協助對方了解航太供應鏈的品質驗證與製造要求,探索跨入新市場的可能。對這些業者而言,挑戰未必是技術能力不足,而是過去缺乏接觸航太應用的機會,不熟悉相關規格與驗證流程。

創業過程中,互宇向量也持續接觸桃園市政府青年事務局及相關局處、育成體系,參與創業交流與產業展會。鍾宏彬看重的是這些場合能讓團隊認識不同領域企業,拓展未來合作的可能。包括Meet桃園+在內的創業輔導與產業交流平台,也為在地新創提供接觸產業資源的機會。

從光纖陀螺核心元件走向完整導航系統,再延伸至航太合作與海外市場,互宇向量逐步建立從任務規劃、技術整合到系統驗證的能力。接下來,如何運用桃園既有的電子製造與精密加工基礎,找到更多能共同開發產品的夥伴,將是團隊拓展國際市場的重要課題。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓