「每種應用會重新被（用AI）做一次，過去沒有的應用也會被做出來。」5月19日在研華公司「Edge Computing & WISE-Edge in Action」的主題論壇上， 零一萬物執行長李開復指出，大型語言模型的推理成本在1年內降低了10倍，加上邊緣端推理會讓AI成本下降更快，他預期2025年會是AI應用大規模落地的元年。
李開復表示，訓練大型語言模型就像打造一個文武雙全的天才，要透過「讀萬卷書」來預訓練模型，再藉由強化學習（Reinforcement learning）加強AI邏輯推理和解決難題的能力。
然而，面對擴展定律（Scaling Law）放緩、模型的預訓練逐漸遇到瓶頸，李開復表示訓練數據不足、超大型圖形處理器（GPU）的群效率降低都是難關。
AI發展趨勢：大模型瘦身、AI教AI時代來臨
一改由科學家或工程師訓練AI的型態，李開復預告未來將出現「AI教AI」的自我演進新典範，透過模型蒸餾、標注和與合成數據，由數萬億參數的超大模型教小的模型；由思考時間較長的思維鏈模型，教思考時間較短的模型，「模型迭代速度會更快。」
他也指出，大模型正加速「瘦身上端」，許多問題都可以用電腦、手機等終端設備解決，「未來更好的架構是把大模型壓縮下來，簡單的問題在地端解決 。」
而中國開源模型DeepSeek（深度求索）問世，加快了AI落地的速度，李開復認為DeepSeek成功破解推理模型的思考訓練過程，除了縮小中國和美國在AI發展上的差距、提高模型開發的工程效率，也走出開源模式的新局， 「當開源可以做出跟閉源一樣好的效果，又是免費的，閉源未來的路就會愈走愈窄。」
「雖然DeepSeek本身很強，但更像一個實驗室。」李開復提醒，DeepSeek雖然提供良好的技術和基礎模型，但真的要落地部署還要經過購買硬體設備、資安防範、數據對接和模型微調等挑戰。
3層級打造企業AI落地軟體工具箱
同樣看好邊緣運算的發展，研華創辦人暨董事長劉克振決定從公司擅長的工用自動化切入，打造工業用AI。
在軟體方面，研華推出「WISE-Edge」AIoT軟體平台，WISE-Edge軟體中心首席軟體架構師黃思瑋表示，WISE-Edge的第1層級提供容器化（Container）作業系統、AI程式集和封裝好的即用模組等，確保AI模型能在不同品牌的硬體平台上順利運行，第2層級提供設備和物聯網管理所需的API，第3層級則是實際運行的各種工業軟體與垂直領域應用。
黃思瑋舉例，透過WISE-Edge系統，能讓研華的AI智能工業攝影機iCAM，收集足夠的影像後，重新訓練像是PCB板的缺陷檢測的功能，再送到前端去執行，讓系統自主調整、升級，「這樣的循環是可以自動化的，系統剛上線一個月可能沒有那麼聰明，但是過了兩個月之後，它的檢測率就越來越高。」
看好垂直領域新商模，縮小模型至邊緣應用
台灣微軟商務事業群總經理李光耀觀察，企業對邊緣端管理沒有一致性、缺乏雲端部署到地端的資源，「包含一但有資料或模型飄移，怎麼樣警示和重新訓練、訓練完如何把模型壓縮到邊緣端？」
劉克振則表示，考量無論醫院或工廠的內部數據都牽涉隱私機密，同時許多產業生態的專業知識需要在場域內累積，工業AI應用格外需要在地伺服器，「工業AI代理的小模型要在場內跑，但也要連接大語言模型能量才夠，私有雲的伺服器是必要的。」
因此，劉克振特別看好垂直領域類別的模型，他認為B2B的垂類模型和B2C的AI有完全不同的生意模式，但目前真正成熟的產品服務還不多，很多商機存在。
最後，劉克振表示，研華在AI的發展模式是「組合積木的提供者」，他歡迎更多下游專注垂直領域的系統整合商和獨立軟體公司，帶著更多現場經驗，共同合作適合各領域的AI解決方案。
責任編輯：李先泰
