【觀點】別讓AI黑客松變「黑洞」!搞懂這4大心法,讓AI專案有效落地
【觀點】別讓AI黑客松變「黑洞」!搞懂這4大心法,讓AI專案有效落地

自生成式AI模型變得成功以來,我們大約2年半前開始積極進行幾項工作。首先,我們開發能夠幫助客戶的工具和產品。其次,我們進行了許多內部嘗試,目的是讓員工,尤其是非技術背景的員工,能運用AI來提高生產力和效率。

通常當我們構思一個新產品或專案時,我們會從黑客松(Hackathon)開始。也就是說,我們會將不同部門的員工聚集,從產品經理、專業服務部門,再到研發部門,共同合作,在短短1周內完成1個原型。在這個階段,我們會找到關鍵人員,讓他們告訴我們想解決的問題及他們需要的數據。

然而,經過多次黑客松後,我發現有些專案最終能成功、廣泛部署給客戶或內部使用,產生實質價值;但也有專案幾乎沒後續發展,以失敗告終。這讓我開始思考問題出在哪裡。

延伸閱讀:Google AI工具搶飯碗!新聞業流量大失血、逼裁員20%:後搜尋時代如何殺出重圍?

第1個問題是,在黑客松結束後,誰來繼續推動專案,將其發展成一個完整產品並擴展?這個負責人是否是成功關鍵。 最近,微軟又裁員,但多數裁掉的都是專案經理或產品經理。那麼,這是否意味著這些角色是問題所在?或者說,他們無法有效解決問題?從這個理論角度來看,這也許是對的。

因為如果我們要發展1個生成式AI代理人,當這個代理人與客戶或用戶進行對話時,將會產生大量數據。例如,這些對話可能無法真正滿足客戶需求,或產品未達到客戶預期,客戶可能會要求其他功能,或是界面設計不夠友好,讓客戶感到困惑。

如果這些對話和數據能被快速記錄並由AI分析,產品經理的工作將會減少,因為他們不用調查或分析就能即時了解客戶的痛點。同時,AI代理人也能迅速調整應對並解決問題。

從長遠來看,這或許會使得產品經理的工作逐漸減少。 但我們觀察後發現,產品經理對市場的宏觀定位政策仍非常重要,加上如果能快速利用AI進行分析和調整,說服團隊成員同步調整方向,也同樣至關重要。 但即使擁有優秀的產品經理,這也不保證專案的高採納率。

收斂宏大願景,4項變因決定成敗

那麼,還有哪些關鍵因素能決定專案的成功或失敗呢?

一、數據:我們發現數據質量極為重要。 若沒有穩定、乾淨且結構化的數據作基礎,例如將數據轉換為標準化的模型上下文協定(Model Context Protocol,MCP)服務,生成式AI難以達到良好效果。同時,數據的隱私規範也須優先解決,因為如果這些問題未妥善處理,將面臨數據外洩或用戶困境等挑戰。

二、投資回報率(ROI): 曾經,我們推出一個專案,列出了所需成本,包括GPU、Token大小和預算。結果上線前,我們IT副總裁發信問我:「這裡的商業模式是什麼?投資回報率是多少?預算從哪裡來?」經過一番忙碌後,我們提供了一個回覆,連我自己都不滿意。

但這讓我意識到每次啟動AI專案時,我們都需要清楚傳達專案的價值,無論是節省成本、提高效率、增加收益,還是提升客戶滿意度。只有有明確的成本效益分析,專案才有可能成功。否則,這將成為浪費時間和金錢的行為。

三、宏大願景與聚焦小範圍的策略: 在我們公司裡,擁有許多優秀的工程師。當他們看到生成式AI的無限潛力時,往往希望打造一個偉大的平台,讓更多人使用,發揮更大的價值。然而,我們發現這樣的平台通常難以成功,因為它們設計得過於通用,無法真正解決每個使用者的具體問題,結果用戶的採納率反而較低。

相反地,另一個團隊的成功經驗告訴我們, 從一開始就明確鎖定使用案例和服務對象,可提升專案成功率。 像是專注於解決業務中的緊迫問題,如幫銷售人員提高客戶轉化率,或提供更精確的數據分析。這些問題雖複雜,但如果團隊從小範圍的試點開始優化,並設立可實現的目標,當規模擴展到整個銷售團隊時,成功率將大大提高。

** 四、員工AI素養與不斷進步的學習能力:** 無論進行任何專案,最重要的因素始終是人。我們發現,成功的專案團隊成員通常有強烈的求知欲,且能不斷提升自己。由於生成式AI過去2年取得飛速的發展,以2023年為例,當時最熱門的職位是提示工程師(prompt engineer)。然而,隨著大型語言模型的迅速演進和推理能力的提升,這已經成為每位員工應該具備的基本技能。

因此,確保員工掌握、理解這些技術並持續學習,對專案的成功至關重要。尤其對非技術背景的員工,我們需要提供相應的AI素養培訓,讓他們能在自己的專業領域中運用AI創造價值,這才是確保專案成功的關鍵。許多企業高層雖有意實施AI,但並不完全理解所需的資源與努力,因此這篇自我反思的文章或許能解釋一些迷思。

延伸閱讀:AI落地效應來了!全球科技業近6.3萬人喝西北風:什麼是人工智殘?被裁員都是因為AI?

責任編輯:蘇柔瑋

往下滑看下一篇文章
數位時代 X 國泰金控 從百套系統上雲到 Cloud First:國泰如何把雲端變成AI成長引擎?
數位時代 X 國泰金控 從百套系統上雲到 Cloud First:國泰如何把雲端變成AI成長引擎?

2019年金融監理機關正式將雲端納入委外規範後,揭示金融業上雲時代來臨,國泰金控數數發中心成立雲端策略發展部,負責擬定集團上雲策略,並於2020年正式啟動7年集團雲端轉型計畫;在多數金融機構仍停留在單點遷移或IT現代化的現下,國泰金融集團在 2025 年即完成 100 套系統上雲,更將雲端轉型階段從 Cloud Ready、Cloud Adoption 推向 Cloud First,成為數據與人工智慧應用的關鍵引擎。

國泰金控資訊長|吳建興 James Wu
圖/ 數位時代

「百套系統上雲不僅僅是數字,更是讓國泰從『 IT 進化業務』邁向『 IT 驅動成長』的關鍵轉折。」國泰金控雲端策略發展部協理顏勝豪表示,上雲帶來的效益十分顯著,包括提升資源可用性與營運敏捷度、減輕 IT 維運負擔;同時,雲端業者多具備零碳排或綠能機房機制,亦有助於企業朝向 ESG 永續營運邁進。「金融上雲不是單純的現代化基礎設施或者是升級技術,而是為了換取速度與可靠度,讓集團可以加速創新腳步、彈性調配資源,以及培育所需人才與技能,為未來做最佳準備。」
為讓集團員工、金融同業以及有志上雲的夥伴可以進一步探討雲端轉型的各種可能,國泰金控舉辦雲端轉型成果發表會,會中除有集團子公司分享最新成果,三大公有雲平台業者也從不同技術視角共同探討在合規、資安與 AI 應用的可能。

七年、三階段,國泰金融集團將雲端內化為營運流程與創新引擎

國泰金控科技長|姚旭杰 Marcus Ya
圖/ 數位時代

為什麼國泰可以領先市場完成雲端轉型、數據與 AI 賦能業務?

顏勝豪認為,雲端轉型的起點不是直接遷移系統,而是從四個面向打底:應用系統盤點評估、雲端架構設計、雲端遷移藍圖規劃,以及組織治理框架建立,而這也是 Cloud Ready 階段最重要的事情。
「不同子公司有不同商業模式與節奏,若沒有共同語言與平台底座,上雲很容易各自為政。」顏勝豪表示,為讓所有員工可以齊步前行,國泰以雲端遷移方法論 Cathay 6R(註1)作為共同語言、用平台作為共同底座,讓轉型不只是技術選擇,而是集團行動。
完成單一系統的雲端遷移後,便進入 Cloud Adoption 階段。在這個階段中,要透過大規模遷移建立更成熟的上雲標準作業流程(SOP),透過 FinOps 機制控管與優化雲端營運成本,以及透過自動化與治理模型確認多雲環境與安全與維運穩定性,目標是將雲端內化為組織日常運營的一部分,進而邁向 Cloud First 階段:在合規前提下,新專案與系統升級預設在雲端環境開發,並善用雲原生優勢加速新產品功能開發速度。
「集團雲端策略只有一個核心原則:讓雲成為 AI 時代的成長引擎,而不是單純的基礎設施。」關於國泰的未來雲端布局,顏勝豪如是總結。

國泰金控 雲端策略發展部 協理|顏勝豪 Otto Yen
圖/ 數位時代

以雲端為 AI 資源引擎、發揮數據燃料價值,實現 AI 賦能業務應用

國泰不僅在2025年完成集團百套系統上雲,也啟動數據上雲計畫並為 GenAI 奠定基礎建設。
例如國泰金控實現數據上雲,打造資料湖倉與 GAIA 生態系統架構為 AI 賦能業務做準備:成立國泰風險聯防中心(CRC)攜手集團洗防人員強化風險控管與金融犯罪因應能力;釋出國泰員工 AI 助手–Agia–Beta
版,提供差勤、福利與權益、技術支援、職務職能與集團其他資訊等五大類別管理辦法等查詢服務;此外,亦推出集團數據共享平台、集團法規知識庫、 AI 評測中心等服務,更好發揮 Cloud First 與 AI 賦能業務應用的價值。
雲端是 AI 時代的關鍵底座、數據則是 AI 的燃料。顏勝豪指出,發展AI需要龐大的 GPU 算力,若自建 GPU 機房,不僅硬體設備昂貴、折舊速度快,光是散熱系統一年就高達兩、三千萬元的成本,若採取雲端資源,可以隨啟隨用,同時,大幅降低試錯成本。「當雲端打好基礎、AI成為能力模組,銀行、人壽、產險與證券的創新不再是單點突破,而是放大集團級綜效。」

國泰以 Cloud First + AI 持續領先市場、形塑未來樣貌

「雲端可以優化算力成本,資料則決定 AI 應用上限。」顏勝豪解釋,在 AI 新世代,AI 模型定調能力「下限」,集團子公司掌握的「獨特資料」則決定應用的「上限」,考量雲端有許多好用 AI 服務,唯有資料上雲才能發揮數據價值、用 AI 賦能集團各子公司業務。
例如國泰世華銀行將採取多公有雲策略,打造雲端智慧生態圈,並以現代化雲原生技術拓展應用場景;同時,運用 AI 與資料分析優化客戶服務體驗,並藉由跨雲整合機制支援多元業務模式,以充分發揮上雲效益。至於國泰產險,不僅在兩年半內完成13套核心系統上雲、優化營運流程,如以 Serverless 架構打造百萬級效果、萬元成本的短網址系統等,讓雲端成為產險驅動長期成長的核心引擎與標準配備。

國泰人壽則是透過雲端與 AI 滿足不同客戶需求,如以 AI Search 精準呈現關鍵字搜尋結果,讓客戶可以精準且快速的查找所需資料、大幅優化官網體驗與滿意度。至於國泰證券則是於2026年初推出「庫存管家」服務,以客戶持股為核心,應用 AI 技術打造個人化推播服務,協助投資人更有效率地掌握庫存狀況,提供更即時、系統化的投資管理體驗。
總的來說,國泰金控在集團的雲端轉型不僅是技術升級,更是思維革新,從百套系統上雲進展到 Cloud First 階段,可以預期在雲地基礎下,國泰將進一步引領 AI 時代變革,持續提升營運韌性與放大創新價值。

註1:Cathay 6R 國泰設計 Cathay 6R 雲端遷移方法論,將系統遷移方式依據上雲模式、系統開發成本分為 Rehost 、Replatform、Refactor、Rewrite、Replace 和 Retain 共6種遷移架構,並能對應到 IaaS、PaaS、SaaS 三種不同上雲模式。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
2026 大重啟
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓