看準企業AI技術痛點，開發者與創業家老兵創立InfuseAI聯手打造新工具|數位時代 BusinessNext

看準企業AI技術痛點，開發者與創業家老兵創立InfuseAI聯手打造新工具

InfuseAI 提供企業單位一套輕鬆入手 AI 開發環境，讓使用者省略安裝過程、同時可支援多種最新軟硬體規格，可有效管理數據、控管運算資源與資料集，並具備可擴充性。

人工智慧時代來臨，看準企業對打造AI工作環境的需求愈趨增加，新創團隊 InfuseAI 提供易入門軟體解決方案，降低企業導入AI/ML技術門檻，無需繁複、枯燥的安裝過程，就能應用人工智慧技術、滿足所需應用。

鎖定企業投入領域痛點提供環境基礎建設服務

InfuseAI執行長暨共同創辦人高嘉良，是台灣知名自由軟體程式設計師，除了開發Xcin輸入法之外，同時也是控制系統SVK的創始人。擁有豐富創業及程式設計經驗的他，鑽研技術外也積極推動台灣Open Source社群；在近年來希望能以科技促成民間與政府良性交流，推動自由與民主持續進展的零時政府g0v社群暱稱為高村長的他，與眾多夥伴花費大量心力，結合國內外公民科技技術社群力量。

由於長年鑽研技術領域，高嘉良觀察到，這兩年想投入AI的企業越來越多，但卻常因錯放資源或執行不當策略策略，導致成效有限。於是，他攜手另一位曾創立知名售票網站KKTIX(現已被KKBOX收購)、擁有一流Ruby on Rails技術的營運長暨共同創辦人薛良斌，成立 InfuseAI。

「當你依序安裝A、B、C解決方案，結果發現最好的方法是D，這是目前企業跨入AI領域最常遇到的問題。」薛良斌提到，在市場上，一間公司想要投入AI領域，常認為購買所費不貲的機器、高薪聘請資料科學家，就能搞定所有事情，但在運作後才發現，技術專家擅長領域有限，想純靠人力擺平一切是不可能的事情。有鑑於此，從這項痛點切入，他們提供企業可快速建立機器學習環境的基礎建設服務，以解決中間技術落差。

降低門檻輔助企業技術人員快速打造機器學習環境

但如何降低企業打造AI環境門檻？InfuseAI推出PrimeHub機器學習平台，使用者運用平台內的各式基本化模組，就能快速打造一體化機器學習環境。除了模組工具，平台也依照用戶需求打造客製化服務，六大解決方案包括：

快速開啟Jupyer Notebook環境
Jupyer Notebook是一個介於整合開發環境(Integrated Develop Environment，IDE)及編輯器(Editor)之間的編碼工具，使用者無需自行安裝軟體，便可直接透過Jupyer Notebook工具撰寫程式。此工具有利於研究室及教學現場，能容易地將研究數據和結果以視覺化圖表、線性回歸等方式呈現。
多種硬體規格及深度學習框架供選擇
使用者不必再自己組裝硬體、下載軟體，省去費力、耗時過程，PrimeHub支援多種主流深度學習框架，包括提供Docker Image管理環境設定及其他客製化選項，技術人員可選擇最符合需求的方式建構企業機器學習環境。
更有效管理數據、避免資料缺漏
在機器學習領域，資料集(dataset)包含大量圖片、文字影音檔，因此在共用、分享時，時常產生檔案缺漏、變動或損壞等問題，為解決此問題，PrimeHub支援管理者建立、上傳資料集，以類似「唯獨檔案夾」形式開放專家下載，除非管理者下放權限，否則不可變更內容，藉此確保檔案存取統一。這項功能可協助企業更有效地管理大量資料集，並確保機器學習指向相同結果。
輕鬆與內外部協作者共享資訊
PrimeHub為降低使用者進入的門檻，串接了其他網路服務帳號系統，如LDAP、AD、Google等，讓使用者可使用原帳號登入協作。同時，管理者能自訂使用者權限、增加訪客帳號、設置到期時間和可觸及資料等。
配額控管硬體資源
系統運作理想狀態是一台機器專心處理一項專案，但實際上常是一機多用。資源分佈不均情況下，不僅浪費時間也使專案延宕。PrimeHub透過調度，將硬體資源分配給不同專案，例如：一家公司共有20顆GPU和其他CPU等容量設備，平台可設定其中A組使用10個、B組使用10個、有多餘資源時再給C組，減少資源浪費、成效不彰等問題。
具有高擴充性、高可用性及高服務可靠度
除上述支援與服務外，PrimeHub也提供分析圖表，並建有自動故障排除、分散式資料儲存等機制。企業可在軟體中設定可用性及擴充性，升級系統版本時，也能停止某幾個伺服器、只維持特定一個持續運作，使作業不會中斷，資源可以妥善分配、使用。

持續打磨產品拉高與其他競爭廠商區隔

InfuseAI主要商業模式為B2B，將PrimeHub軟體及服務賣給握有資料、具硬體設備、想打造機器學習環境的企業及單位。薛良斌說：「即便相關開源工具越來越多，但企業還是有客製化需求，如何讓動手步驟愈趨簡單、快速，就是InfuseAI想做的事。」同時，針對尚未擁有硬體、卻也想跨足AI領域的潛在客群，團隊計畫未來與硬體廠商合作，藉由軟硬整合拓展客源、滿足更多企業需求，並藉此與純提供SaaS服務的競爭對手做出區隔。

目前，他們主要面向金融、教育產業，台灣人工智慧學校就是他們其中一個客戶。短期內他們會先在台灣爭取更多傳統產業、學術研究及教育機構客戶，等基礎打穩後再進一步前進全球，藉由參與國際大型技術論壇、開發者活動等，積極爭取曝光，打造跨國軟體供應企業。

創業快問快答

Q：長遠來看，公司想成為一家何種類型的公司？
軟體服務公司。下一步目標是增加國際曝光，並且提供平台讓國外用戶便於試用。

Q：創業，教會了你哪些事？簡單分享創業至今以來的心得感想？
除了公司要做什麼之外，也要決定公司不做什麼。

公司資料

公司名稱：工合有限公司/InfuseAI Inc.
成立時間：2018/6/26
服務名稱：PrimeHub
上線時間：2018/6/26
團隊人數：7
官方網站｜Facebook｜MeetHub

本文授權轉載自：創業小聚

當GPU不再是唯一主角，記憶體為何躍上AI舞台中央？

過去，半導體的焦點多圍繞在晶片，例如CPU、GPU跟AI加速器等，市場普遍認為，晶片運算能力是左右科技產業發展速度的關鍵，但在進入生成式AI世代後，產業逐漸發現另一個事實：真正限制AI效能的瓶頸不是運算，而是資料能否快速被存取與傳輸。

從大型語言模型訓練，到AI推論、代理式工作流程（Agentic Workflow），甚至未來的機器人與自駕車，龐大的資料流量正持續推升對高頻寬、低延遲、高容量記憶體的需求，讓記憶體產業從過去相對標準化、以價格競爭為主的市場，逐漸轉變為AI基礎建設的重要核心。

「仔細觀察AI應用服務會發現，大多數工作負載都被頻寬限制。」美光科技全球業務執行副總裁Mike Cordano認為，記憶體是突破（頻寬）瓶頸的關鍵，也讓AI競賽從晶片算力升級到記憶體與儲存架構的系統級競爭。這樣的產業洞察，也正是Mike在歷經二十餘年的儲存產業資歷，加上四年半的創投生涯後，選擇加入美光的核心原因之一：在AI重塑產業結構的浪潮下，記憶體將成為這波成長最直接的動能所在。

從零組件供應商到策略夥伴，記憶體共創時代來臨

AI的崛起，正在改變記憶體廠商與客戶的關係。

過去，記憶體產品多是標準化元件，客戶關注的是價格、供貨與規格；合作模式也偏向短期採購與交易導向。然而隨著AI系統規模愈來愈大，從資料中心、雲端平台到終端裝置，記憶體已經成為決定系統效能的重要關鍵，也因如此，越來越多企業將記憶體視為「策略性資產」，而非單純零組件。

Mike表示：「現在，我們跟客戶合作的時間跨度改變了，在產品正式上市前三到四年便開始合作，從系統架構階段就共同規劃未來需求。」例如，美光科技與NVIDIA共同研發的資料中心所使用的低功耗記憶體，便是雙方提前多年展開深度合作（co-design）的成果。

值得特別注意的是，美光科技除從技術層面與晶片製造商等夥伴共創產品，也在需求層面與客戶進行密切合作，例如，將過去較無約束力、期限僅一年的長期協議（LTA）轉變成為期五年、條款更具約束力的策略性客戶協議（SCA），藉此掌握客戶的未來需求，進而在技術層面做更深度的合作。Mike坦言，深度協同設計是高成本的投入，美光的做法是先廣泛進行市場感知，理解不同場域的需求方向，再與生態系統中的夥伴們展開客製化合作。

從裝置導向轉為Token導向，AI浪潮重寫記憶體成長模式

除了合作模式改變，更大的典範轉移是需求的改變。

Mike解釋，過去記憶體需求跟PC、手機跟伺服器出貨量息息相關，但在AI新世代，推動記憶體需求成長的核心不再是設備數量，而是AI模型所產生的運算與資料消耗量。「AI產業逐漸走向以『Consumption』或『Token』為主的新經濟模式，每一次的模型運算都需要消耗大量的記憶體跟儲存資源，這意味著，即使設備銷量成長趨緩，記憶體需求仍可能持續上升。」

更重要的是，AI應用正從資料中心外擴至手機、PC、自駕車與機器人等場域，儘管不同場域對記憶體的需求不盡相同，但是，Mike認為：所有AI裝置都存在三項共同需求：更快的速度、更大的容量，以及更高的能源效率。

正如Mike在受訪時提到的：「我們最大的挑戰，是如何與客戶和整個生態系保持高度一致，一方面創造供給與產能，另一方面持續推動技術創新。」可以預期，在接下來的五年，記憶體產業面臨的挑戰不僅僅是擴展產能，而是如何與客戶共同規劃需求、同步投入技術創新，而這也是美光科技積極經營AI生態體系的原因。

總的來說，AI帶來的改變，不只是算力提升，而是重新定義整個運算架構：過去，記憶體被視為支援運算的基礎元件；現在，則是決定AI效能、能源效率與創新速度的關鍵資源；當產業競爭從晶片性能延伸到資料流動效率，從裝置數量轉向Token消耗量，記憶體的重要性也將隨之水漲船高，對美光科技來說，這將是其從供應商走向AI生態系核心夥伴的關鍵角色轉變。