隨著AI發展進入落地部署階段,全球各企業都在積極探索AI應用的最佳模式,只是這些AI應用目前大多屬於小規模試驗性質,如何進一步走向大規模部署,創造AI更大的價值,成為企業當前最重要的功課。對此,IBM在「2025 IBM Solutions Day」以「Value ᴬᴵ:多維轉型 AI 變現」為主題,匯聚業界專家與企業先行者,從豐富的產業實務案例中找出最適AI策略,協助企業邁向「AI+」的轉型願景。
台灣 IBM 總經理李正屹在開場致詞中指出,在AI這場狂歡派對中,企業惟有掌握5大關鍵,包括擁抱開源AI技術、小而適切的模型比大模型更實用、建立管理平台、從企業內部資料提煉出價值及落實AI治理,才能找到最適合自己的AI應用玻璃鞋。
從日商瑞穗銀行經驗看,導入AI的3個決策關鍵點
IBM Japan CTO & Account Technical Leader菱昭章太郎Shotaro Hishinuma進一步以日商瑞穗銀行導入經驗來說明小模型的好處。
日商瑞穗銀行運用IBM watsonx.ai解決方案建置AI自動化通報機制,由AI處理與分類系統通報訊息,再交由管理者進行最終確認。在建置過程中,日商瑞穗銀行曾經面臨3個決策關鍵點,第一個決策點是,該選擇通用型大模型還是適用型小模型?考量成本、模型表現等因素後,最終決定使用針對特定目的而訓練出的小模型,不只成本較低,甚至在訊息分類上的表現優於部份大模型。
第二個決策點是,是否需要人力介入?考量到AI風險和責任問題,最終決定人機協作是比較理想的做法。
第三個決策點是,該使用提示工程(Prompt Engineering)或微調(Fine-Tuning)?雖然提示工程需要稍微多一點的AI專業知識,可能會形成使用門檻,但只要結合好的流程設計,如:自動生成提示再匯入AI模型,同樣能達到AI民主化的目標,讓使用者即便不具備AI技能,也能輕鬆使用AI模型。
從台北富邦和英業達經驗看,資料治理是推動AI轉型的重中之重
有別於日商瑞穗銀行分享的3個決策關鍵,英業達與台北富邦銀行不約而同提到資料治理的重要性。
英業達資訊長暨資安長黃英哲認為,無論初期的POC試驗,或後期的大規模導入AI應用,都一定需要用到大量資料,因此英業達在推動AI轉型時,其實花了很大心力在資料治理上,從建立資料使用的流程與框架開始,確保資料的準確性及擁有一致的定義,以高品質資料做為AI應用的發展基礎。
對此,台北富邦銀行資訊長張志清亦有相同看法,他進一步指出在建置資料治理框架過程中,最大挑戰在於如何處理非結構性資料,無論是影像、錄音檔、相片等多媒體資料,或是PPT、Word等文檔資料,過去都很少被充分利用,如何整合類型和樣態皆極為龐雜的非結構性資料,並從中萃取重要訊息以有效利用,這才是現今最大的挑戰。對此,台北富邦銀行借助 IBM 的專業和豐富經驗進行多種數據處理,打造完善的數據處理策略。
從管理顧問公司經驗看,企業導入AI應用的盲點
波士頓顧問(BCG)董事總經理陳美融觀察,目前很多企業都是以POC方式導入AI應用,導入範圍太過發散且沒有聚焦在高價值場景或核心業務上,反而難以展現AI價值、也不容易快速規模化。
因此,企業若要享受AI所帶來的價值,首先要突破此盲點,聚焦在核心業務去發展AI應用,並思考此為AI應用的哪一個階段,總共可以分成3個階段,第一是部署(Deploy)階段,即應用AI於現有流程中,進而提高效率與生產力。第二是重塑(Reshape)階段,採用零基(Zero Base)的方式,將AI視為核心要素重新設計流程,可以更顯著的提高效率。第三是再創新(Invent)階段,運用AI開拓全新業務領域,才能真正創造長期且突破性的競爭優勢。
台灣 IBM 技術長莊士逸則站在人員思維角度提出,成功導入AI應用的3A原則,第一個A是定調企業內部的AI氛圍 (Atmosphere)、讓內部同仁清楚為什麼要導入AI,第二個A是建立認知 (Acknowledgement),企業必須確保從上層管理者到基層員工都能對AI有正確的概念和認知,將AI融入到企業內部的基因和文化,第3個A才是開始行動 (Action),尋求外部專業廠商協力導入AI應用。
最後,台灣 IBM 諮詢總經理林翰呼應「2025 IBM Solutions Day」主題強調,導入AI應用其實是一種多維轉型,從最底層的基礎設施、平台、資料、API、應用程式、策略到人才,這些元素都要緊密連動並且同步進行轉型,才能產生綜效,讓AI應用得以真正落地,實現用AI創造新價值的目標。