Google加快人工智慧發展的秘密武器：自製機器學習專用晶片|數位時代 BusinessNext

特製晶片效能為現有技術往前推進七年

皮采指出，Google在幾年前就已著手研發客製化的特殊應用積體電路（ASIC），而這款專用於Google開源機器學習演算法TensorFlow、也是提升AlphaGo計算速度的特製晶片TPU（Tensor Processing Unit），用以改善機器學習相關應用，迄今已使用超過一年。

為了加速機器學習進程，TPU捨棄掉傳統晶片如CPU和GPU的高精確度，減少計算需要的電晶體數量並提升每瓦效能。根據Google說法，「TPU讓機器學習的每瓦效能提高一個數量級，相當於將晶片效能往前推進七年或三代的摩爾定律」。

（圖說：AlphaGo伺服器使用Google自製晶片TPU。圖片來源：Google Cloud Platform Blog）

Google產品、外部開發者皆可受惠

目前，Google使用機器學習的應用超過百種，例如搜尋、語音辨識和自駕車。Google傑出硬體工程師諾曼‧約皮（Norman Jouppi）指出：「這類程式需要耗費龐大資金才能提供快速集中的運算能力和電力，自製機器學習加速器讓Google可更加經濟地加快產品推出。」迄今，Google已使用超過1千個TPU，運用於街景、智慧訊息回覆和搜尋，幫助改善搜尋結果相關性，以及提升地圖和導航產品的精確度。

除了Google內部產品可受惠於這套最新的機器學習演算法，Google的雲端機器學習服務也開放開發者利用這套演算法打造自己的應用服務。「我們的目標是引領機器學習產業，並讓創新得以在顧客身上實現。透過在基礎建設加入TPU，我們可以透過軟體如TensorFlow和雲端機器學習將Google的力量帶給開發者。機器學習正在改變開發者如何打造讓消費者受惠的智慧應用，我們非常高興看到未來生活的可能性。」約皮表示。

微軟也在嘗試新的晶片設計

Google並非唯一為了加快人工智慧而採用新的晶片設計的公司。《華爾街日報》指出，微軟正在使用一款名為Field Programmable Gate Arrays的可編程晶片，以加速人工智慧運算，應用於Bing搜尋引擎。NVIDIA推出的GPU則被應用在人工智慧計算，這款晶片過去也被Google用於AlphaGO的早期測試。

透過自行生產客製化晶片，Google將更可掌控支出、技術規格以及未來發展藍圖。但這是否代表Google對第三方晶片供應商如Intel或Nvidia的依賴將日益降低？約皮表示，「我們依然購買大量的CPU和GPU，」但不願透露購買數量是否較過去少。

AI 正在改寫世界運作模式。根據研究機構 The Research Insights 預測，全球 AI 市場將從2025年的3,909億美元攀升到2030年的1兆8,117億美元，年複合成長率高達19.2%。這股成長動能與 AI 技術正滲透各個產業有關，從製造到金融、從零售到物流，不僅流程被重塑、商模也隨之翻轉。

在這場 AI 驅動的創新浪潮中，新創是推動產業變革的關鍵力量之一。 AWS 不僅以全球領先的雲端與 AI 技術平台提供堅實後盾，更以豐沛資源化身新創最佳夥伴、協助台灣團隊將創意落地、放大商業影響力。例如，在 AWS 的技術與資源支持下，語音 AI 新創海研科技（SeaTech）得以加速模型迭代與演算法優化，為台灣與新加坡量身打造在地語言模型並推動應用落地；同時，也讓思邁智能（MaiAgent, Inc.）專注強化企業級生成式 AI 平台 –MaiAgent– 功能，協助企業將生成式 AI 融入日常營運，實現更智慧的決策與效率升級。

三大關鍵步驟，思邁智能助企業放大生成式 AI 應用價值

AI Agent 具備感知、決策、行動與優化四大特徵，被視為企業面對人力缺口與營運挑戰的最佳助手，然而，在實作過程中，多數企業都因為三大瓶頸–資料分散、模型不符實務、導入周期過長–導致AI難以落地或成效不如預期。

觀察到上述現況，深耕 AI 領域研究、協助上百家企業導入 AI 應用的思邁智能提出解方：AI 導入方法論與平台產品服務。

思邁智能執行長張介騰表示，導入 AI 應該從「AI-Ready 文化」開始，因此，第一步是讓每位員工都能自然地用 AI 提升工作效率，例如透過自研的 MaiGPT 縮短資料搜尋與知識蒐整時間；第二步是建立企業專屬的 AI 知識庫（AI KM），例如以 MaiAgent 打造企業的「智慧大腦」，加速各類分析報表生成製作，讓員工可以加速決策與專注核心業務；第三步是從組織流程出發，找出重複性高的任務並建構對應的 AI Agent，如語音客服、文字助理等，讓 AI 真正走進業務核心。

「面對日新月異的 AI 技術演進，想要搶占先機，策略合作是必然。」張介騰以 MaiAgent 產品為例說明，透過 Amazon Bedrock 平台，團隊成員不用自建基礎模型、可以直接從平台快速選擇所需的基礎模型與工具於其上進行產品功能開發、大幅縮短產品開發週期，同時，可以在第一時間接收到模型更新等資訊，更好回應市場要求。「在 AWS 平台上開發產品，不僅能縮短開發週期、快速迭代新功能，也可以保障系統與資料安全，同時，因應業務需求彈性擴展，例如，協助新加坡與泰國企業導入服務等。」

隨著產品服務的成熟，思邁智能除持續尋找軟體夥伴擴展 MaiAgent 生態體系，亦已將 MaiAgent 上架 AWS Marketplace，更好擴展國際市場版圖，同時，成立AI落地顧問團隊，協助生態體系夥伴跟企業客戶更好發揮 AI 綜效。

不僅在 AWS 上開發產品，海研科技攜手 AWS 針對企業痛點推最佳解方

對許多新創來說，雲端只是基礎設施的一種，但對海研科技來說，AWS 是他們加速創新與推動業務的關鍵伙伴。這家專注語音 AI 的新創團隊自創業第一天就跟 AWS 展開合作，不僅透過 Amazon Bedrock 打造專屬台灣的語言模型，更循序推出 SeaMeet、SeaChat、SeaX、SeaVoice 等產品，讓語音 AI 不再只是技術展示，而是能直接回應企業現場痛點的實用解方。

「語音辨識（ASR）不是新技術，但要做到『在地化』才有競爭優勢。」海研科技首席業務發展經理何庭劭表示，全球已有多家科技大廠投入開發英語、中文、印度語、俄語、西班牙語等13種主流語言模型，但台灣、新加坡與東南亞國家的語言環境與溝通方式較多元，如台灣的日常對話常混雜10%到15%的英語或台語雙關詞等，通用型的語言模型不敷使用，必須重新訓練、微調語言模型，才能滿足本地語境應用。

這份對在地市場的專注，讓海研科技在聽到 AWS 分享企業痛點後可以快速推出相應產品服務，例如，因應製造業跨國團隊的會議溝通挑戰，打造「SeaMeet 雙語即時翻譯」功能，讓語音 AI 能在中、英夾雜的會議中流暢轉譯、即時生成紀錄，解決企業跨境協作的語言門檻。

海研科技之所以能無後顧之憂地推出創新解方，與 AWS 提供穩定、可靠且彈性支援服務有關。何庭劭以 SeaMeet 為例解釋：「產品特性使然，SeaMeet 的尖峰與離峰時段的使用量差異極大，但在 AWS 平台支援– Amazon EKS 會依照實際需求動態調整伺服器資源（Amazon EC2 instance）–下，海研科技的團隊成員不用花費間監控與資源配置，可以專注在產品開發與持續創新。」

事實上，這也是海研科技可以因應龐大的長照需求，順利在今年推出取得 HIPAA 認證的 SeaX 服務，並協助新加坡社區關懷機構 Lions Befrienders 以10餘人社工團隊完成每天上千通長者關懷電話的原因。

海研科技首席業務發展經理何庭劭表示，有個大型集團客戶有非常多的會議要跟進，過去光是紀錄重點，就會需要許多人力，但透過即時的會議紀錄整理，讓後續追蹤更有效率。

圖／數位時代

何庭劭表示：「透過 SeaX，Lions Befrienders 每秒可完成30通電話，每通皆有錄音、逐字稿與 AI 分析，判斷是否需社工即時介入，讓語音 AI 成為重塑長照現場效率與安全的關鍵伙伴。」

從台灣到新加坡，從會議翻譯到智慧長照，海研科技的語音 AI 正形成一個「技術與市場雙向成長」的飛輪，接下來，海研科技將透過 AWS Marketplace 進軍歐美市場，讓更多企業能以雲端訂閱方式直接採用其服務。

何庭劭強調：「 AWS 不僅提供一條龍平台服務，更是我們的共創夥伴，讓我們可以看得更遠、動得更快。」而這也是海研科技與 AWS 的互動關係會從技術夥伴轉向共創夥伴的原因，讓語音 AI 可以真正走進企業日常。

思邁智能與海研科技不是單一或特殊案例，在 AWS 豐沛的技術能量與資源支持下，愈來愈多新創正從單純的技術創新者，成長為推動產業變革的關鍵力量，讓 AI 真正落地多元場域，開創生態共榮的新局。

新創解方立即看

思邁智能＿解方立即看

海研科技＿解方立即看