台灣雲端服務代理商聖洋科技 cacaFly 雲端智能中心（7）日與 Google Cloud 台灣、台灣新創孵育品牌 Startup Island Taiwan，共同在 Google 台灣辦公室舉辦「Web3 & AI ! Elevate Your Financial Experience」活動，邀請含 AI、Web3、金融、法律等領域專業人士參與，期望在 AI 的崛起下能吸引更多產業投入開發 AI 解決方案。
今年在大型語言模型（LLM）的發展中，各家企業爭相投入，探索文字、圖片、聲音、影片、甚至程式碼等多元資料的自動分析與生成。在這個充滿挑戰與機遇的時代，cacaFly積極進行了一系列改善與深化LLM應用的準備。
更多新聞：Bing、Bard和ChatGPT LLM如何改寫網路世界
迎戰生成式 AI 戰場！cacaFly 讓使用者下指令變得更精準
隨著生成式 AI 的功能越趨多元，也讓許多企業積極投入開發、測試各種可能的機會，但 LLM 還是需要使用者花費大量的時間找出最精準的指令（Prompt），才能獲得最接近需求的建議。cacaFly 雲端智能中心技術副總吳振和指出， cacaFly 的 RAG（檢索增強生成）服務可以協助使用者，透過檢索找到最相近、最適合特定問題的參考資料，只要給 LLM 合適的參考資料，就能夠獲得更精準符合使用者專業領域的建議。
然而在現今強調資料儲存安全、資安防護的時代，並不是所有的產業都能隨心所欲的投入 LLM，特別像是重視資安、資料隱密性的金融、半導體業者，這些業者同時也面臨大量地端資料無法上雲、活化運用的問題。
cacaFly 提到，這樣的現象可透過「雲地混合解決方案」來搭建 LLM 應用架構，企業可將公司的內部專業文件，透過 Embedding 模型轉為向量座標（可以想像成一種幫助企業整理、篩選統整資料的工具）將企業、政府允許能上雲的資料，轉換成文字座標，透過向量將整份資料去識別化，進一步上雲標記座標，再透過 RAG 將使用者的指令以座標的方式去呼叫企業的雲端資料庫，這麼做能讓企業在將企業知識給 LLM 參考，增強回答品質，並兼顧實際文件不落地的限制，實現資料雲地混合架構。
LLM 一直以來最難被投市場應用的原因，很大一部分來自於需要專業的開發人員，針對該產業的專業知識協助訓練。cacaFly 從企業既有的資料庫出發，搭配 RAG 精準的投入 LLM 所需要的資料，有望加速生成式 AI 在市場的影響力。
本文經科技島同意授權轉載：https://www.technice.com.tw/issues/ai/84853/
