AI帶來前所未有的機遇,除了借鏡產業實戰經驗、善用尖端技術進展,更需要掌握趨勢並搶先布局。就技術投資而言,AI的開源與地端化,正是加速且精確落實企業AI策略的必然走向。在「AI Solution Day超算新紀元:AI模型訓練效能爆發的硬核實踐」研討會裡,匯聚產業實戰經驗與尖端技術分享,共同為企業布局AI提供關鍵助力與行動方向。
AI逆分工的思維與對策
生成式AI做為擁有全人類知識的博學助手,將會打破專業界線,讓人類重回通才時代。台灣大哥大資訊長蔡祈岩表示:「人類社會分工細化、高度專業化的模式正在轉變,面對逆分工的大勢所趨,企業不應只將AI視為工具升級,而是組織進化的契機。」
面對AI引發的逆分工趨勢,首先在行動面,企業應該全員擁抱AI,除了在內部推動AI訓練、導入AI工具,高階主管更要帶頭使用AI;其次是培養跨領域人才,包括跨職能團隊、建立輪調計畫,鼓勵專才轉向通才,例如:IT、行銷、財務等專業課程開放給不同部門學習。
而在思維面,企業必須重塑價值鏈,因為AI不只是提升效率,而是顛覆流程,必須善用AI重新設計價值鏈;另一方面,導入AI的目標是創造價值,而非縮減成本,要避免傾軋內耗或管理階層削減過快等問題。
企業外部值得注意的趨勢則是AI代理的崛起正在顛覆消費習慣,引動商業模式大洗牌,首當其衝的是搜尋引擎、電商和品牌企業,消費者對AI推薦商品的接受度持續上升。蔡祈岩資訊長指出,為了確保競爭力,企業必須儘快布局,作法包括強化服務基礎、站內導入AI對話功能、行銷策略轉型、利用會員制提升高貢獻客群的黏著度等做為防禦策略。
建置私有化AI的利器,加速AI模型訓練落地
從技術架構面來看,AI當前正處於雲端走向地端的重要分野,企業面對不想讓核心機器上雲但又面臨資料必須全部上雲的兩難。此外,雲端必須接受更多監管、公有雲平台因為法規道德等的考量而限制AI技術的使用,亦是挑戰。相對地,在地端建置AI同樣有必須克服的挑戰,也就是昂貴的機器投資。
群聯電子技術長林緯說明,生成式AI不只需要GPU的算力,更需要記憶體。群聯以NAND Flash結合記憶體管理程式,讓GPU可搭配用量不受限的記憶體,從而調節在算力的投資。以90B的模型訓練為例,地端化門檻從100萬美元起跳,但群聯的解決方案僅需1/10的投資,如此一來,企業就能在地端進行模型訓練,推論速度也可加快。
他進一步指出,台灣受限於繁體中文資料量,較難讓模型進行快速迭代,如何將國外模型本土化就成為重要的訓練方向;另一方面,企業採用的模型必須根據其工作的方法、工具、資料進行企業化。這兩項趨勢都將加速AI模型訓練的落地。
軟硬兼備、橫跨雲地的AI解決方案,實現GenAI應用
隨著 AI 技術加速推動企業架構現代化轉型,企業迫切需要建立橫跨雲端與地端的混合多雲環境,以打造具備 AI-Ready的基礎架構。然而,在 AI 模型訓練過程中,企業普遍面臨數據孤島、訓練效率低落、GPU 資源閒置等關鍵挑戰,加上基礎架構日益複雜化與整體成本壓力攀升,使得高效能 AI 儲存方案成為不可或缺的核心基礎設施。MinIO AIStor 作為目前業界傳輸速度最快、唯一達到 Exabyte 級別擴展能力的物件儲存解決方案,能夠實現資料高速直通 GPU 的優化架構,大幅提升 AI 模型訓練效率,協助企業有效突破運算與儲存間的效能瓶頸,為數位轉型奠定穩固基礎。
而在資料面,亦思科技的HARE新世代湖倉平台融合資料湖的彈性與資料倉儲的查詢效能,提供整合的單一平台處理各類型資料與工作負載,包括即時分析與報表查詢、機器學習與 AI 應用、批次與串流處理整合。國內某IC設計公司因此大幅提升資料查詢效能,縮減高達98%的執行時間,並降低在資料庫與硬體的支出。
精誠資訊從豐富的產業經驗出發,提出應用面和管理面兩大解決方案。Langflow可快速生成AI Agent,透過這個平台讓開發人員及非AI專家能以高效率進行生成式AI專案,構建知識型應用,兼顧快速部署與衡量效能的需求。RE:FORM則是實踐多雲基礎架構的平台工程,提供全域IT部署及管理視角,以資源目錄化結合自動化部署,大幅縮短開發專案的申請流程;此外,資源配置透明度和可視性的提升,更有助於降低費率和優化營運。
面對快速演進的AI技術與應用,市場需求持續激增,從技術架構建置著手,確立GenAI應用核心價值,才能掌握先機,以變制變。
AI火力靠群聯、MinIO打好數據基地、資料處理靠Hare、RE:FORM自動省錢又省力、GenAI應用馬上端!歡迎聯繫精誠資訊服務窗口,從規劃、建置到維運提供最完善服務。
Kevin 楊凱偉 kyang@systex.com | 0938-539283