隨著各大生成式AI基礎模型的迭代出新，AI系統所帶來的精準結果與效率提升讓各產業莫不積極投入。根據《台灣產業AI化大調查》的統計，台灣已有半數企業在公司營運流程或個人/部門內使用生成式AI系統服務，但隨之而來也面臨不少挑戰，包括推論結果不夠精準、模型難訓練、硬體運算資源所費不貲、資料外洩疑慮等。HPE與台灣人工智慧實驗室（Taiwan AI Labs）合作，推出全台首個落地安全的生成式AI解決方案，由HPE ProLiant Gen11 AI伺服器搭載台灣大型語言模型（LLM）FedGPT，協助企業化繁為簡加速AI應用的部署。
不管是撰寫行銷文案、摘要會議記錄、檢查程式碼等，越來越多企業嘗試透過生成式AI工具來解決問題，然而使用現成的生成式AI工具，擔心員工將企業重要營運資料外洩上傳，加上通用基礎模型所生成的結果多半缺乏在地情境與台灣文化脈絡，且無法具備特定領域知識，難以提供發展專屬企業級應用。
另方面，若想自行開發企業專屬的生成式AI模型，除了需要龐大的運算資源以及專業技術人才來優化模型，還需具備持續更新模型與演算法的技術能量以維持AI系統競爭力，以及能統整企業眾多知識來源與（非）結構化資料的技術能力。
「打造專屬的AI系統並非大型企業的專利，HPE持續在AI領域創新研發，致力於為企業提供涵蓋從基礎架構、中介軟體、AI/ML訓練平台、系統整合、解決方案的全堆疊AI架構，讓其能專注發展AI應用，」HPE台灣暨香港董事長王嘉昇表示。「同時，HPE也持續建立專業且廣泛的AI策略夥伴生態系，與台灣的AI應用ISV供應商結盟，提供從硬體端到應用端的完整解決方案。本次與台灣人工智慧實驗室合作，藉由其領先的可信任生成式AI技術與在地化AI模型方面的專業知識，結合HPE的AI硬體優勢，為台灣企業提供更貼近在地應用情境需求的AI解決方案。」
「一個可保護企業商業機密、高效安全的AI落地方案，能讓企業信賴並應用在核心營運流程中，才能帶來更大的效益，」台灣人工智慧實驗室創辦人杜奕瑾表示。「我們很高興能與HPE合作，透過FedGPT符合在地情境的繁中大語言模型，結合HPE的AI伺服器與服務，能滿足不同規模企業對於導入生成式AI技術的需求，在降低導入複雜度的同時又能兼顧成本效益，助企業展開生成式AI應用第一步。」
此次的AI整合解決方案中提供2款專為簡化部署生成式AI基礎架構的複雜性而設計，並搭載NVIDIA新世代GPU的HPE ProLiant Gen11 AI伺服器，可協助企業快速實現對話式搜尋、業務流程自動化以及內容生成等模型部署。其中，專為邊緣 AI 應用設計的HPE ProLiant DL320 Gen11可分析監控攝影機的影像，進行人流分析或追蹤異常行為等。
而針對視覺應用最佳化和自然語言模型生成內容的HPE ProLiant DL380a Gen11伺服器可生成逼真的動態3D動畫，包括角色運動、實體模擬和環境效果，以及生成模仿現實世界數據的新視覺內容，也能驅動大型語言模型，進行預訓練與微調模型，助企業開發完整的AI模型系統，並以自然語言處理語音辨識、欺詐檢測、預測性維護等高運算需求的工作。
台灣人工智慧實驗室提供的生成式AI解決方案FedGPT，則具備GPT四大元件：記憶 — AutoKB，理解企業多元知識，打造專屬腦；執行 — AutoCopilot，建構GPTs成為企業最給力的任務達人；內化 — AutoML，植入企業DNA強化模型能耐；治理 — Guardian，防歧視、去偏見、抗幻覺、有憑據。其由1,000億以上的繁體中文語料Token訓練而成，更貼近本土AI應用情境，且可支援企業各種檔案文件、網頁、系統資料庫等多元知識，並延伸至多種企業級AI應用，如ASR語音轉文字、自動填表、文字轉語音、AI主播及客製化專屬大型語言模型。此外，FedGPT具備強大的保護與抗幻想機制，依據知識庫做出事實回應，有效降低失誤率及歧視偏誤毒性的內容。其可廣泛應用於金融、醫療、製造、高科技、教育、媒體等多元領域，無論是智慧客服、員工訓練、產品研發、醫療或是媒體影音應用情境，FedGPT皆能滿足其需求。
企業在追求AI創新的旅程中，選擇正確的生成式AI平台至關重要。透過HPE與台灣人工智慧實驗室聯合推出落地安全的生成式AI解決方案，可協助企業加速在內部部署專屬的資料落地GPT知識庫與模型，並確實保護機密資料，輕鬆打造永續經營的企業大腦。
