「每種應用會重新被(用AI)做一次,過去沒有的應用也會被做出來。」5月19日在研華公司「Edge Computing & WISE-Edge in Action」的主題論壇上, 零一萬物執行長李開復指出,大型語言模型的推理成本在1年內降低了10倍,加上邊緣端推理會讓AI成本下降更快,他預期2025年會是AI應用大規模落地的元年。
李開復表示,訓練大型語言模型就像打造一個文武雙全的天才,要透過「讀萬卷書」來預訓練模型,再藉由強化學習(Reinforcement learning)加強AI邏輯推理和解決難題的能力。
然而,面對擴展定律(Scaling Law)放緩、模型的預訓練逐漸遇到瓶頸,李開復表示訓練數據不足、超大型圖形處理器(GPU)的群效率降低都是難關。
AI發展趨勢:大模型瘦身、AI教AI時代來臨
一改由科學家或工程師訓練AI的型態,李開復預告未來將出現「AI教AI」的自我演進新典範,透過模型蒸餾、標注和與合成數據,由數萬億參數的超大模型教小的模型;由思考時間較長的思維鏈模型,教思考時間較短的模型,「模型迭代速度會更快。」
他也指出,大模型正加速「瘦身上端」,許多問題都可以用電腦、手機等終端設備解決,「未來更好的架構是把大模型壓縮下來,簡單的問題在地端解決 。」
而中國開源模型DeepSeek(深度求索)問世,加快了AI落地的速度,李開復認為DeepSeek成功破解推理模型的思考訓練過程,除了縮小中國和美國在AI發展上的差距、提高模型開發的工程效率,也走出開源模式的新局, 「當開源可以做出跟閉源一樣好的效果,又是免費的,閉源未來的路就會愈走愈窄。」
「雖然DeepSeek本身很強,但更像一個實驗室。」李開復提醒,DeepSeek雖然提供良好的技術和基礎模型,但真的要落地部署還要經過購買硬體設備、資安防範、數據對接和模型微調等挑戰。
3層級打造企業AI落地軟體工具箱
同樣看好邊緣運算的發展,研華創辦人暨董事長劉克振決定從公司擅長的工用自動化切入,打造工業用AI。
在軟體方面,研華推出「WISE-Edge」AIoT軟體平台,WISE-Edge軟體中心首席軟體架構師黃思瑋表示,WISE-Edge的第1層級提供容器化(Container)作業系統、AI程式集和封裝好的即用模組等,確保AI模型能在不同品牌的硬體平台上順利運行,第2層級提供設備和物聯網管理所需的API,第3層級則是實際運行的各種工業軟體與垂直領域應用。
黃思瑋舉例,透過WISE-Edge系統,能讓研華的AI智能工業攝影機iCAM,收集足夠的影像後,重新訓練像是PCB板的缺陷檢測的功能,再送到前端去執行,讓系統自主調整、升級,「這樣的循環是可以自動化的,系統剛上線一個月可能沒有那麼聰明,但是過了兩個月之後,它的檢測率就越來越高。」
看好垂直領域新商模,縮小模型至邊緣應用
台灣微軟商務事業群總經理李光耀觀察,企業對邊緣端管理沒有一致性、缺乏雲端部署到地端的資源,「包含一但有資料或模型飄移,怎麼樣警示和重新訓練、訓練完如何把模型壓縮到邊緣端?」
劉克振則表示,考量無論醫院或工廠的內部數據都牽涉隱私機密,同時許多產業生態的專業知識需要在場域內累積,工業AI應用格外需要在地伺服器,「工業AI代理的小模型要在場內跑,但也要連接大語言模型能量才夠,私有雲的伺服器是必要的。」
因此,劉克振特別看好垂直領域類別的模型,他認為B2B的垂類模型和B2C的AI有完全不同的生意模式,但目前真正成熟的產品服務還不多,很多商機存在。
最後,劉克振表示,研華在AI的發展模式是「組合積木的提供者」,他歡迎更多下游專注垂直領域的系統整合商和獨立軟體公司,帶著更多現場經驗,共同合作適合各領域的AI解決方案。
責任編輯:李先泰