共享GPU是什麼?「GPU租賃」新創康斯特,如何吸引全球10萬名客戶?
共享GPU是什麼?「GPU租賃」新創康斯特,如何吸引全球10萬名客戶?

隨著AI發展,「共享GPU」的概念被越來越多人提及,包含心元資本投資的Inference.ai、去年完成A輪的GMI Cloud,現在又有一家新創加入戰局。

康斯特科技宣布完成完成數千萬美元募資,包含台灣知名的能源、科技大廠及知名資安企業參與,將在亞洲、北美和歐洲擴建算力中心,打造全球覆蓋的雲端運算網路,以滿足不同行業的多樣化需求。康斯特科技同時要在3年內蓋10座採用潔淨能源與高效技術、符合ESG的算力中心,推動科技與永續的共生發展。

不過,康斯特科技僅僅成立2年的時間,有什麼底氣挑戰這個重資本的賽道?

從挖礦轉型到AI運算,康斯特科技瞄準中小型客戶

在GPU難求的時代,作為一個剛成立不久的新創要購買GPU,並提供租賃服務可謂難如登天,康斯特科技之所以有辦法,其實是一次「歪打正著」。

2017年,康斯特科技的共同創辦人暨執行長蔡明志、共同創辦人暨市場長張永旭就購買了大量GPU和伺服器進行比特幣挖礦,直到2022年加密貨幣的熊市(下跌)來臨,兩人開始思考下一步。

「我們有很多礦產跟伺服器,當時就在想是要獲利了結還是進行轉型,」張永旭說,「當時認識的一位美國礦主說,他想轉往AI運算的應用,我們才開始研究AI。」

不過,蔡明志和張永旭的專業背景是硬體資源,但是AI運算必須牽涉到雲端服務等軟體能力,因此倆人又找上另一位曾經在雲端服務大廠有多年經驗的夥伴加入團隊,不僅補齊了軟體能力,還直接帶來現成的客戶。

「對我們來說最挑戰的其實是資金,尤其是我們做基礎建設,隨便一座算力中心都要(新台幣)3,000萬元,當時沒人知道算力是什麼。」蔡明志說,2023年6月,團隊先在板橋一家餐廳的民宅樓上搭建起AI運算中心當作第一個試驗的小案場,和當時的客戶一邊確認需求、一邊開發產品Glows.ai,最終才在2024年1月成立公司。

康斯特科技機房
康斯特科技在板橋一家餐廳的民宅樓上搭建起AI運算中心當作第一個試驗的小案場。
圖/ 康斯特科技提供

究竟客戶的需求都是什麼?

蔡明志表示,近幾年發展模型越來越大越來越複雜,中小型企業無法買那麼貴的伺服器,硬體規格也越來越複雜,所以康斯特科技瞄準的就是這些開發終端應用產品的中小型應用級客戶,以跟市場其他服務作出區隔。

Glows.ai:3大特色功能極大化運算效率

除了客戶選擇,康斯特科技另一個強調的差異點是市場定位。蔡明志表示,康斯特科技不是單純的「算力租賃公司」,而是調用算力的開發工具。簡單來說,就是要讓整個租用算力的流程更加順暢。

使用雲端算力的中小型企業,需要建立運算環境、選擇模型、估算並租用算力等等步驟,然而每一項工作都需要專才,最常遇到的狀況就是不清楚需要多少算力而錯估租用量,以及運算資料轉移的速度不夠快。

康斯特科技自己建立算力中心、廠房、雲系統、GPU管理,因此產品Glows.ai在算力調度、資料儲存、遷移、環境建立等方面都不會有過多的摩擦問題。

康斯特科技Glows.ai
康斯特科技的Glows.ai希望最大化運算效率。
圖/ Glows.ai官網

具體來說,Glows.ai具有3個特色功能:

  1. 鏡像檔(Image):康斯特科技已經將底層架構跟適配模型都完成了,客戶只要選擇模型、而不用先手動建立開發環境
  2. 暫存開發進度(Snapshot):開發過程可能會有需要暫停的時候,使用暫存功能就可以暫時停止繼續租用算力,為客戶節省小部分開發成本
  3. 自動彈性伸縮能力(Tripods):Tripods系統可以自動依照客戶在終端實際的算力需求動態擴展計算資源,確保AI任務以最佳性能運行,客戶無需再重新申請算力

張永旭進一步解釋,由於Glows.ai的資源虛擬化技術(hyper container)擁有比別人高至少2倍的運算效率,算力分割也可以比別人更細緻,例如只需要2張4090就可以跑70B的llama模型,「所以我們一張GPU可以賺的可能也是別人的至少2倍。」

完成數千萬美元募資,加快國際市場佈局

目前康斯特科技以「每秒用量」為單位收費,例如4090一小時0.65美元、H100一小時3.5美元,累積遍佈歐美亞的註冊客戶超過10萬。

作為一個僅30人的團隊,康斯特科技如何迅速找到來自全球的客戶?

「我們是技術團隊,所以採取產品導向的市場推廣策略,例如從開發者社群開始發布消息、舉辦黑客松活動,利用開發者社群病毒式行銷,再來就是找代理商。」蔡明志說。

隨著客戶越來越多,這次獲得的數千萬美元募資就是關鍵的資源,除了在亞洲、北美和歐洲擴建算力中心,打造全球覆蓋的雲端運算網,也會新增業務部門尋找新人才加入團隊,且會和投資人一起開發潔淨能源算力服務發展永續AI運算。

蔡明志也透露,隨著算力中心擴建,今年的年營收預估有機會達到新台幣10億元,「我們做的是基礎建設,希望可以跟生態系一起共好。」

創業快問快答

Q1:最常被客戶或投資人問起的事情?您會如何回應?
A:你們為什麼要做這件事情?從AI誕生以來,我們已經看到太多公司因為導入AI而減少經營成本,增加營運效率,可以說未來是AI發展的時代已經確定了,此時不跟上的企業很容易落後其他人,而發展AI很重要的一塊是軟體技術和硬體技術的支援,我們的目標是軟體工程師們在開發上不需要再多步驟去理解算力該用哪種規格,專注於開發,簡化開發AI的流程,加快企業開發AI產品,讓企業主們可以快速AI轉型變得更有競爭力。

Q2:要達到下一步目標,團隊目前缺乏的資源是?
A:「提供引領全球的高性能運算服務,打造多元的AI生態系」是我們的願景。
我們公司非常重視的理念是打造生態系夥伴,形成共好多贏的局面,我們希望可以找到更多AI應用的夥伴,除了提供技術資源外,也協助AI公司們曝光他們模型服務,我們也積極在找尋不同地區的合作夥伴,讓我們的服務可以在全球範圍內被更多人使用。

Q3:創業,教會了你哪些事?簡單分享創業至今以來的心得感想?
A:時間永遠是不夠,你永遠做的不好,但就是先做再說,在錯誤中迭代學習。

Q4:創業至今,做得最好的三件事為何?
1. 找到好的partner,沒有這批團隊做不到現在這個規模
2. 勇敢嘗試,想到的事情就要有機會做到
3. 誠實且自信。

公司資料

公司名稱:康斯特科技股份有限公司
成立年份:2024
產品名稱:Glows.ai
官方網站

本文授權轉載自:創業小聚

往下滑看下一篇文章
數位時代 X 國泰金控 從百套系統上雲到 Cloud First:國泰如何把雲端變成AI成長引擎?
數位時代 X 國泰金控 從百套系統上雲到 Cloud First:國泰如何把雲端變成AI成長引擎?

2019年金融監理機關正式將雲端納入委外規範後,揭示金融業上雲時代來臨,國泰金控數數發中心成立雲端策略發展部,負責擬定集團上雲策略,並於2020年正式啟動7年集團雲端轉型計畫;在多數金融機構仍停留在單點遷移或IT現代化的現下,國泰金融集團在 2025 年即完成 100 套系統上雲,更將雲端轉型階段從 Cloud Ready、Cloud Adoption 推向 Cloud First,成為數據與人工智慧應用的關鍵引擎。

國泰金控資訊長|吳建興 James Wu
圖/ 數位時代

「百套系統上雲不僅僅是數字,更是讓國泰從『 IT 進化業務』邁向『 IT 驅動成長』的關鍵轉折。」國泰金控雲端策略發展部協理顏勝豪表示,上雲帶來的效益十分顯著,包括提升資源可用性與營運敏捷度、減輕 IT 維運負擔;同時,雲端業者多具備零碳排或綠能機房機制,亦有助於企業朝向 ESG 永續營運邁進。「金融上雲不是單純的現代化基礎設施或者是升級技術,而是為了換取速度與可靠度,讓集團可以加速創新腳步、彈性調配資源,以及培育所需人才與技能,為未來做最佳準備。」
為讓集團員工、金融同業以及有志上雲的夥伴可以進一步探討雲端轉型的各種可能,國泰金控舉辦雲端轉型成果發表會,會中除有集團子公司分享最新成果,三大公有雲平台業者也從不同技術視角共同探討在合規、資安與 AI 應用的可能。

七年、三階段,國泰金融集團將雲端內化為營運流程與創新引擎

國泰金控科技長|姚旭杰 Marcus Ya
圖/ 數位時代

為什麼國泰可以領先市場完成雲端轉型、數據與 AI 賦能業務?

顏勝豪認為,雲端轉型的起點不是直接遷移系統,而是從四個面向打底:應用系統盤點評估、雲端架構設計、雲端遷移藍圖規劃,以及組織治理框架建立,而這也是 Cloud Ready 階段最重要的事情。
「不同子公司有不同商業模式與節奏,若沒有共同語言與平台底座,上雲很容易各自為政。」顏勝豪表示,為讓所有員工可以齊步前行,國泰以雲端遷移方法論 Cathay 6R(註1)作為共同語言、用平台作為共同底座,讓轉型不只是技術選擇,而是集團行動。
完成單一系統的雲端遷移後,便進入 Cloud Adoption 階段。在這個階段中,要透過大規模遷移建立更成熟的上雲標準作業流程(SOP),透過 FinOps 機制控管與優化雲端營運成本,以及透過自動化與治理模型確認多雲環境與安全與維運穩定性,目標是將雲端內化為組織日常運營的一部分,進而邁向 Cloud First 階段:在合規前提下,新專案與系統升級預設在雲端環境開發,並善用雲原生優勢加速新產品功能開發速度。
「集團雲端策略只有一個核心原則:讓雲成為 AI 時代的成長引擎,而不是單純的基礎設施。」關於國泰的未來雲端布局,顏勝豪如是總結。

國泰金控 雲端策略發展部 協理|顏勝豪 Otto Yen
圖/ 數位時代

以雲端為 AI 資源引擎、發揮數據燃料價值,實現 AI 賦能業務應用

國泰不僅在2025年完成集團百套系統上雲,也啟動數據上雲計畫並為 GenAI 奠定基礎建設。
例如國泰金控實現數據上雲,打造資料湖倉與 GAIA 生態系統架構為 AI 賦能業務做準備:成立國泰風險聯防中心(CRC)攜手集團洗防人員強化風險控管與金融犯罪因應能力;釋出國泰員工 AI 助手–Agia–Beta
版,提供差勤、福利與權益、技術支援、職務職能與集團其他資訊等五大類別管理辦法等查詢服務;此外,亦推出集團數據共享平台、集團法規知識庫、 AI 評測中心等服務,更好發揮 Cloud First 與 AI 賦能業務應用的價值。
雲端是 AI 時代的關鍵底座、數據則是 AI 的燃料。顏勝豪指出,發展AI需要龐大的 GPU 算力,若自建 GPU 機房,不僅硬體設備昂貴、折舊速度快,光是散熱系統一年就高達兩、三千萬元的成本,若採取雲端資源,可以隨啟隨用,同時,大幅降低試錯成本。「當雲端打好基礎、AI成為能力模組,銀行、人壽、產險與證券的創新不再是單點突破,而是放大集團級綜效。」

國泰以 Cloud First + AI 持續領先市場、形塑未來樣貌

「雲端可以優化算力成本,資料則決定 AI 應用上限。」顏勝豪解釋,在 AI 新世代,AI 模型定調能力「下限」,集團子公司掌握的「獨特資料」則決定應用的「上限」,考量雲端有許多好用 AI 服務,唯有資料上雲才能發揮數據價值、用 AI 賦能集團各子公司業務。
例如國泰世華銀行將採取多公有雲策略,打造雲端智慧生態圈,並以現代化雲原生技術拓展應用場景;同時,運用 AI 與資料分析優化客戶服務體驗,並藉由跨雲整合機制支援多元業務模式,以充分發揮上雲效益。至於國泰產險,不僅在兩年半內完成13套核心系統上雲、優化營運流程,如以 Serverless 架構打造百萬級效果、萬元成本的短網址系統等,讓雲端成為產險驅動長期成長的核心引擎與標準配備。

國泰人壽則是透過雲端與 AI 滿足不同客戶需求,如以 AI Search 精準呈現關鍵字搜尋結果,讓客戶可以精準且快速的查找所需資料、大幅優化官網體驗與滿意度。至於國泰證券則是於2026年初推出「庫存管家」服務,以客戶持股為核心,應用 AI 技術打造個人化推播服務,協助投資人更有效率地掌握庫存狀況,提供更即時、系統化的投資管理體驗。
總的來說,國泰金控在集團的雲端轉型不僅是技術升級,更是思維革新,從百套系統上雲進展到 Cloud First 階段,可以預期在雲地基礎下,國泰將進一步引領 AI 時代變革,持續提升營運韌性與放大創新價值。

註1:Cathay 6R 國泰設計 Cathay 6R 雲端遷移方法論,將系統遷移方式依據上雲模式、系統開發成本分為 Rehost 、Replatform、Refactor、Rewrite、Replace 和 Retain 共6種遷移架構,並能對應到 IaaS、PaaS、SaaS 三種不同上雲模式。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
2026 大重啟
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓