Nvidia黃仁勳深夜炸鍋:地表最強晶片GH200問世!華碩躋身新一代OVX平台供應商
Nvidia黃仁勳深夜炸鍋:地表最強晶片GH200問世!華碩躋身新一代OVX平台供應商

輝達(Nvidia)執行長黃仁勳以一身黑色皮衣勁裝,於9日時現身洛杉磯舉辦的SIGGRAPH大會,興奮的向台下聽眾展示全球最新的人工智慧超級晶片GH200。

「你可以將任何語言模型放入其中,他會瘋狂地進行推理。」黃仁勳指出,過去需斥資1億美元來打造資料中心,改用GH200後,可以省下12倍的成本,加上GH200超強大的算力,還能降低20倍的能耗,再次呼應他來台後不斷高呼的口號:「買越多、省越多。」

黃仁勳
輝達執行長黃仁勳現身於洛杉磯舉辦的SIGGRAPH 大會,帶來全新產品,展示輝達在AI領域的超強火力
圖/ 螢幕截圖

Nvidia黃仁勳深夜炸鍋:地表最強AI晶片「GH200」問世

GH200是什麼來頭?有多快?

GH200結合CPU和GPU,透過NVLink技術傳輸。輝達的官網指出,NVLink是一種使GPU及GPU互連的技術,能提供更好的擴充性,以超快速度進行深度學習訓練。

GH200是首款結合CPU與GPU的超級晶片,而今也將成為第一個採用高頻寬記憶體HBM3e的晶片。不僅增加記憶體容量,速度也更快,每秒可傳輸的資料量比起H100增加1.7倍,在需要大量且快速運算資料的AI時代,增添優勢。

延伸閱讀:GPU跟CPU差在哪,一張圖秒懂代表應用!3階段造就今日輝達

GH200
GH200是首款結合CPU 與GPU 的超級晶片,而今也將成為第一個採用HBM3e先進記憶體技術的晶片
圖/ 2023年SIGGRAPH 大會直播

GH200何時量產?

輝達副總裁Ian Buck則在8日的線上說明會表示,GH200是為了推理(inference)所設計,更多的記憶體容量也是為了讓更大的AI模型,例如Meta的Lama2或是由Stable Diffusion所發表的模型SDXL。

Buck指出,和擁有80GB記憶體容量的H100相比,GH200則有141GB,「記憶體容量擴大,能讓模型在單一個GPU上運行,無需跨多個系統,或是好幾個GPU才能運行。」

在今年5月Computex期間,黃仁勳就曾提及GH200晶片,如今算是正式亮相。「GH200會在明年(2024年)第二季量產。」黃仁勳說。

Grace Hopper 200
輝達執行長黃仁勳指出,GH200會在2024年第二季量產
圖/ 輝達提供

華碩躋身新一代OVX平台供應商

SIGGRAPH大會上的硬體亮點不只如此,輝達還發布為OVX系統所打造的新一代伺服器,搭載 L40S GPU並採用Ada Lovelace架構,可加強AI的訓論及推論、3D設計和視覺、影像處理和工業數位化等應用,預計會在今年秋天上市。

OVX系統是專門為大規模數位孿生 (digital twins) 所設計的運算系統。輝達指出,OVX可用於模擬複雜較高的數位孿生,例如打造整棟建築物、工廠和城市,甚至是整個世界的模型。

NVIDIA OVX L40S GPU
輝達推出新一代OVX伺服器,供應商新面孔華碩也受到關注
圖/ 輝達提供

值得關注的是,供應商除了有戴爾(Dell)、技嘉、廣達旗下的雲達和美超微(Supermicro)之外,新加入的華碩也成為供應商之一。法人指出,華碩近期已傳出接到輝達DGX大單,預期8月還會有更近一步的消息揭露。

延伸閱讀:NVIDIA成就兆元帝國後,GPU太貴恐成黃仁勳致命傷?6個關鍵決定輝達命運

責任編輯:林美欣

往下滑看下一篇文章
全台首創對話式金融服務iWish 永豐銀讓GAI真正走進金融交易現場
全台首創對話式金融服務iWish 永豐銀讓GAI真正走進金融交易現場

你還在手寫填單、逐格Key-in資料嗎?在生成式AI浪潮席捲各行各業之際,永豐銀行推出全台首創「說話就能完成交易」的智能對話式金融服務iWish,讓繁瑣的填單流程成為過去式,使用者可以透過文字輸入、口說敍述或上傳照片等方式,向AI傳達自身需求,無論哪一種方式,AI都可以即時理解使用者意圖,並根據與使用者的對話內容,自動填寫存款、提款、轉帳、匯款等相關表單,顛覆使用者對金融服務的想像。

生成式AI再進化,開啟AI代理人時代

隨著生成式AI的進步,LLM大型語言模型已具備多輪對話和上下文理解的能力,甚至正邁向可以獨立完成任務、不需要人類涉入的AI代理人(AI Agent)的新階段,這項技術突破讓企業既有服務得以展現全新樣貌。

以國際證券經紀商FBS為例,其推出的FBS AI Assistant服務,跳脫傳統單向建議模式,不直接提供評論或建議,而是讓用戶先選擇一至多項技術指標,再交由生成式AI模型解讀並生成專屬分析與操作建議,打造更具互動性與參與感的使用體驗。

永豐金控數位科技長張天豪認為,這種以生成式AI為核心的互動式服務模式,將大幅優化客戶的使用體驗,成為金融服務新常態。未來,客戶不必學習如何操作App,也不用記得交易程序,只要用對話、上傳照片或螢幕截圖等自己習慣的方式表達需求,AI就會理解並協助完成後續動作。「未來的金融服務將像生活中人與人之間的對話一樣,簡單而自然,」張天豪強調。

永豐銀行
前排由左至右:永豐金控數位科技長 張天豪、永豐銀行資訊、數位及作業督導張升寶、永豐銀行綜合企劃處處長 王筱嵐 後排由左至右:永豐金控數位科技處專案經理 林維婕、永豐金控數位科技處專案工程師 廖庭暘
圖/ 永豐銀行

從填單到對話,iWish重塑分行服務體驗

瞄準此未來趨勢,永豐銀行進一步盤點金融服務場景,決定從最貼近客戶的分行場域出發,打造互動式服務新體驗。

張天豪說明,臨櫃交易往往需要填寫各式各樣的表單,這些表單格式通常很制式、欄位繁複,對不熟悉流程的客戶而言,常常填到一半才發現格式錯誤、填錯位置,甚至必須整張重來,徒增挫折與作業時間。

「iWish服務的推出,就是為了讓這段流程可以變得更自然、直覺且輕鬆,」永豐銀行資訊、數位及作業督導張升寶說,客戶不再需要手寫填單,只要開口說、輸入文字或是上傳圖片,告訴iWish想要使用哪些金融服務,就可以完成交易,將原本繁瑣、仰賴經驗的填單作業,轉化成只需一句話或一張圖就能搞定,大幅提升臨櫃交易的服務體驗與作業效率。

以轉帳交易為例,客戶可以口說轉帳帳戶及金額,或是上傳網購訂單的轉帳頁面截圖、團媽在Line上提醒轉帳付款的對話截圖等,iWish會從中辨識表單所需資訊並精準填入銀行系統中對應的欄位,待客戶確認資訊無誤之後,系統就會生成一個二維條碼,只要將二維條碼交由臨櫃人員完成最後核對,就能輕鬆完成金融交易。

AI減輕行員負擔,專注更高價值服務

除了顛覆客戶的使用體驗,iWish服務也為內部作業流程帶來優化和改變,「對永豐銀行而言,iWish服務不是引進AI技術的炫技展示,而是與現有服務模式的無縫融合,讓創新落地、貼近人性」,永豐銀行綜合企劃處王筱嵐處長說。

王筱嵐進一步表示,最開始,金融交易需要經歷「客戶填單+櫃員輸入」的雙重程序,不僅耗時,也容易出錯。之後,永豐銀行推出免填單服務,客戶可以口述或將交易資訊抄寫在紙上,交由櫃員輸入至系統中、列印單據,待客戶簽名確認即可完成交易。

永豐銀行
圖/ 永豐銀行

而iWish則是免填單服務的再進化,藉由生成式AI(GAI)的語意理解與圖像辨識能力,取代櫃員的手動輸入作業,不僅提高效率與準確度,也大幅降低櫃員的作業負擔,可以將心力投注在更有價值的服務與溝通上。

GAI不只是客服輔助工具,更是金融轉型的推進引擎

相較於目前金融業的生成式AI應用,多數仍停留在客服階段,iWish是全台首創直接導入金融交易場景的GAI服務,堪稱跨出關鍵一步。

然而,在實際開發過程中,永豐銀行團隊也面臨諸多挑戰,其中壓力最大的,便是如何降低LLM可能出現的「幻覺」與辨識錯誤風險。尤其在金融交易場景中,AI的辨識精準度不僅關係到客戶權益,更直接影響其對金融服務的信任感,必須以更審慎的態度來看待。

為此,永豐銀行從多個面向著手提升模型準確度,包括優化Prompt設計與模型邏輯、與前線單位密切協作,共同討論介面呈現、使用流程與應用情境、在UI/UX介面加入提醒文字與引導機制,避免造成誤解。此外,團隊也分階段進行大規模封閉測試,邀請全行數百位同仁參與測試,並根據測試結果持續微調優化,確保最終推出的服務穩定度。

iWish的智慧來自於訓練與學習,「越用越聰明」的特性需要使用者參與激發

iWish是一款全新上市的智能服務,專為提升臨櫃交易體驗而設計。現階段iWish服務聚焦於台幣存款、提款、轉帳及匯款4大交易類型,並以「分行」為主要場景,未來則計劃將iWish服務擴展至更多金融交易類型,甚至走出分行場景,與iBranch等線上服務結合。

永豐銀行
永豐iWish以「智讀」、「智說」、「智寫」人性化操作,讓金融交易更方便快速
圖/ 永豐銀行

iWish的成功落地不僅是技術突破,更宣示意味著,生成式AI正式從客服輔助工具,搖身一變成為可以理解意圖、自然回應、主動引導的智慧助理,讓用戶在熟悉的對話情境中完成交易,實現真正以人為本的金融體驗。而AI模型的成長需要訓練,iWish在初期也需要客戶的參與來變得更聰明,透過接觸到更多元的使用情境,進一步完善服務,讓每一次互動都更懂客戶的需求。

「iWish服務只是第一步,」張升寶認為,這項服務不僅重新定義人與銀行的互動方式,也為生成式AI在金融業的應用看見新的可能。他期許未來能進一步擴大AI Agent應用範圍,讓AI不再只是輔助工具,而是驅動金融轉型的核心力量。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
蘋果能再次偉大?
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓