看準企業AI技術痛點，開發者與創業家老兵創立InfuseAI聯手打造新工具|數位時代 BusinessNext

看準企業AI技術痛點，開發者與創業家老兵創立InfuseAI聯手打造新工具

InfuseAI 提供企業單位一套輕鬆入手 AI 開發環境，讓使用者省略安裝過程、同時可支援多種最新軟硬體規格，可有效管理數據、控管運算資源與資料集，並具備可擴充性。

人工智慧時代來臨，看準企業對打造AI工作環境的需求愈趨增加，新創團隊 InfuseAI 提供易入門軟體解決方案，降低企業導入AI/ML技術門檻，無需繁複、枯燥的安裝過程，就能應用人工智慧技術、滿足所需應用。

鎖定企業投入領域痛點提供環境基礎建設服務

InfuseAI執行長暨共同創辦人高嘉良，是台灣知名自由軟體程式設計師，除了開發Xcin輸入法之外，同時也是控制系統SVK的創始人。擁有豐富創業及程式設計經驗的他，鑽研技術外也積極推動台灣Open Source社群；在近年來希望能以科技促成民間與政府良性交流，推動自由與民主持續進展的零時政府g0v社群暱稱為高村長的他，與眾多夥伴花費大量心力，結合國內外公民科技技術社群力量。

由於長年鑽研技術領域，高嘉良觀察到，這兩年想投入AI的企業越來越多，但卻常因錯放資源或執行不當策略策略，導致成效有限。於是，他攜手另一位曾創立知名售票網站KKTIX(現已被KKBOX收購)、擁有一流Ruby on Rails技術的營運長暨共同創辦人薛良斌，成立 InfuseAI。

「當你依序安裝A、B、C解決方案，結果發現最好的方法是D，這是目前企業跨入AI領域最常遇到的問題。」薛良斌提到，在市場上，一間公司想要投入AI領域，常認為購買所費不貲的機器、高薪聘請資料科學家，就能搞定所有事情，但在運作後才發現，技術專家擅長領域有限，想純靠人力擺平一切是不可能的事情。有鑑於此，從這項痛點切入，他們提供企業可快速建立機器學習環境的基礎建設服務，以解決中間技術落差。

降低門檻輔助企業技術人員快速打造機器學習環境

但如何降低企業打造AI環境門檻？InfuseAI推出PrimeHub機器學習平台，使用者運用平台內的各式基本化模組，就能快速打造一體化機器學習環境。除了模組工具，平台也依照用戶需求打造客製化服務，六大解決方案包括：

快速開啟Jupyer Notebook環境
Jupyer Notebook是一個介於整合開發環境(Integrated Develop Environment，IDE)及編輯器(Editor)之間的編碼工具，使用者無需自行安裝軟體，便可直接透過Jupyer Notebook工具撰寫程式。此工具有利於研究室及教學現場，能容易地將研究數據和結果以視覺化圖表、線性回歸等方式呈現。
多種硬體規格及深度學習框架供選擇
使用者不必再自己組裝硬體、下載軟體，省去費力、耗時過程，PrimeHub支援多種主流深度學習框架，包括提供Docker Image管理環境設定及其他客製化選項，技術人員可選擇最符合需求的方式建構企業機器學習環境。
更有效管理數據、避免資料缺漏
在機器學習領域，資料集(dataset)包含大量圖片、文字影音檔，因此在共用、分享時，時常產生檔案缺漏、變動或損壞等問題，為解決此問題，PrimeHub支援管理者建立、上傳資料集，以類似「唯獨檔案夾」形式開放專家下載，除非管理者下放權限，否則不可變更內容，藉此確保檔案存取統一。這項功能可協助企業更有效地管理大量資料集，並確保機器學習指向相同結果。
輕鬆與內外部協作者共享資訊
PrimeHub為降低使用者進入的門檻，串接了其他網路服務帳號系統，如LDAP、AD、Google等，讓使用者可使用原帳號登入協作。同時，管理者能自訂使用者權限、增加訪客帳號、設置到期時間和可觸及資料等。
配額控管硬體資源
系統運作理想狀態是一台機器專心處理一項專案，但實際上常是一機多用。資源分佈不均情況下，不僅浪費時間也使專案延宕。PrimeHub透過調度，將硬體資源分配給不同專案，例如：一家公司共有20顆GPU和其他CPU等容量設備，平台可設定其中A組使用10個、B組使用10個、有多餘資源時再給C組，減少資源浪費、成效不彰等問題。
具有高擴充性、高可用性及高服務可靠度
除上述支援與服務外，PrimeHub也提供分析圖表，並建有自動故障排除、分散式資料儲存等機制。企業可在軟體中設定可用性及擴充性，升級系統版本時，也能停止某幾個伺服器、只維持特定一個持續運作，使作業不會中斷，資源可以妥善分配、使用。

持續打磨產品拉高與其他競爭廠商區隔

InfuseAI主要商業模式為B2B，將PrimeHub軟體及服務賣給握有資料、具硬體設備、想打造機器學習環境的企業及單位。薛良斌說：「即便相關開源工具越來越多，但企業還是有客製化需求，如何讓動手步驟愈趨簡單、快速，就是InfuseAI想做的事。」同時，針對尚未擁有硬體、卻也想跨足AI領域的潛在客群，團隊計畫未來與硬體廠商合作，藉由軟硬整合拓展客源、滿足更多企業需求，並藉此與純提供SaaS服務的競爭對手做出區隔。

目前，他們主要面向金融、教育產業，台灣人工智慧學校就是他們其中一個客戶。短期內他們會先在台灣爭取更多傳統產業、學術研究及教育機構客戶，等基礎打穩後再進一步前進全球，藉由參與國際大型技術論壇、開發者活動等，積極爭取曝光，打造跨國軟體供應企業。

創業快問快答

Q：長遠來看，公司想成為一家何種類型的公司？
軟體服務公司。下一步目標是增加國際曝光，並且提供平台讓國外用戶便於試用。

Q：創業，教會了你哪些事？簡單分享創業至今以來的心得感想？
除了公司要做什麼之外，也要決定公司不做什麼。

公司資料

公司名稱：工合有限公司/InfuseAI Inc.
成立時間：2018/6/26
服務名稱：PrimeHub
上線時間：2018/6/26
團隊人數：7
官方網站｜Facebook｜MeetHub

本文授權轉載自：創業小聚

從AI模型到AI經濟，企業競爭焦點轉向算力與Token調度能力

過去市場談AI，焦點多半放在模型參數、推論效能與模型能力，但在大型語言模型推論需求暴增的現下，AI Infra早已從單純GPU採購演變成涵蓋機櫃、網路、儲存、散熱與電力的整體工程；企業真正需要的，不是更多GPU、而是如何更有效率地調度與利用算力。

尤其在NVIDIA提出Token Factory概念後，全球AI產業正逐步從模型競賽轉向「AI經濟」，亦即，影響企業AI決策的再也不是使用哪個模型、部署多少GPU，而是消耗多少Token、產生多少AI服務，以及算力是否能被有效共享與調度。

換言之，在AI新世界，算力調度能力的重要水漲船高。對此，陳文裕十分認同的說：「企業想要提升AI競爭力，不僅要掌握模型與應用，還必須進一步思考如何有效切割GPU資源、讓不同部門甚至集團子公司共享算力、延長舊世代GPU的使用壽命，甚至是如何將閒置算力轉變成可交易的資源等。」

事實上，這也是大量AI資料中心（AIDC）跟新世代AI雲端服務（Neo Cloud）業者出現的原因，包括CoreWeave、Nebius、Lambda Labs、GMI Cloud等業者皆試圖以更具彈性的方式，提供企業所需的GPU服務與AI算力平台。

看準這波趨勢，數位無限除透過AI-Stack提供GPU切片、模型部署、模型管理與MLOps等服務，協助客戶提升GPU使用率，更進一步推出ixCSP平台，讓雲端服務供應商與新世代AI雲端業者，能從過去單純販售GPU資源轉型為提供GPU as a Service、Token as a Service與Model as a Service等創新AI服務。

以Software Defined AI Infrastructure助企業以「通用化、鬆耦合」迎戰瞬變AI世代

因應AI新世代帶來的挑戰：模型快速升級、算力需求攀升、GPU世代交替迅速，企業在追逐AI落地的同時，勢必得面臨基礎建設更新速度過快、硬體投資壓力升高，以及資源利用效率難以最佳化等挑戰。

為協助企業在AI快速演進與基礎建設投資之間取得平衡，數位無限的作法是，透過AI-Stack將底層硬體抽象化，以Token或模型服務形式提供，讓企業客戶、AIDC與Neo Cloud業者可以延長不同世代與不同品牌的AI硬體設備的生命週期、創造更高的使用價值、甚至是展開更多元的營收模式。

例如，高雄醫學大學附設中和紀念醫院便透過數位無限的AI-Stack解決GPU資源調度效率不彰問題，加速39項AI模型進入臨床應用階段，成功建立起「從模型開發到臨床落地」的完整生態系統。而日本精密製造大廠–Union Tool Co.–則是透過AI-Stack簡化GPU資源共享、加速AI模型的開發與測試腳步，為提升生產效率做最佳準備。

「如果大型企業或AIDC業者擁有閒置資源，也可以透過ixCSP平台，把算力共享或調度給集團內部團隊、子公司，甚至上下游合作夥伴使用，進一步提升整體資源利用率。」數位無限執行長陳文裕如是說道。

隨著AI從工具演變成企業核心基礎建設，企業真正需要的，也不再只是單一模型，而是一套能持續適應AI快速演進的AI Infra，而這與數位無限近年來的重要轉型方向一致：從AI管理軟體提供者轉型為軟體定義AI基礎建設供應商，更好協助客戶打造具備「通用化」與「鬆耦合」特性的AI基礎建設。

除以AI-Stack與ixCSP協助客戶提升算力使用效率與價值，數位無限亦計畫與硬體合作夥伴推出Agentic AI一體機方案，協助企業快速建立可驗證、可部署、可切割、可共享的AI運算環境，降低企業從PoC走向實際導入的門檻，加速AI落地。

總的來說，隨著AI競爭從模型能力延伸到算力治理，企業比拚的不僅是導入速度，而是能否建立一套足夠彈性、可持續演進的AI Infra，而這與數位無限的發展目標一致，將持續不斷優化產品服務，化身企業搶進AI新世代的關鍵合作夥伴。