跟GPT3.5一樣強、中文更好!最懂台灣的AI大模型「福爾摩沙」登場,厲害在哪?
跟GPT3.5一樣強、中文更好!最懂台灣的AI大模型「福爾摩沙」登場,厲害在哪?

台灣也有自己專屬的AI大型語言模型了!華碩子公司台智雲於17日宣布打造出「福爾摩沙大模型」,是亞洲唯一能提供商用,也是首個可以選擇部署在地端(企業自家機房)的企業級大型語言模型,保障機密資料的安全和自主性。

福爾摩沙大模型具備1760億個龐大參數量,和Open AI的GPT3.5達到同等級的表現能力,但比起ChatGPT更強調繁體中文的資料,因此適合本地企業使用,將在7月正式上線。

台智雲福爾摩沙大模型發表
台智雲舉辦年度「AIHPCcon台灣AI超算年會」,以台灣杉二號超級電腦建立出的台灣第一個高達1,760 億參數的福爾摩沙大模型。
圖/ 台智雲

「福爾摩沙」號稱最懂台灣,厲害在哪?

福爾摩沙大模型算能力達到接近GPT3.5的等級,但數據庫更新,並號稱是市面上「最懂台灣的預訓練模型」,用30%的繁體中文進行訓練,華碩營運長謝明傑以ChatGPT來做比較,其中所訓練的繁體中文資料,比例僅低於0.1%,簡體中文資料也不超過2%,還是以「英文腦」為主,中文知識量相當低。 相比之下福爾摩沙大模型對於句型、用語、文本的理解力,都更符合台灣本地的使用需求。而雖然強調繁體中文,但是仍有多語言特性,英、日、德、法、義、越南文……等多國語言都能使用。

台智雲在訓練福爾摩沙時,投入約一億台幣、768個GPU的算力,並採用多達1760億個參數,台智雲總經理吳漢章表示,其實超過1000億參數這個門檻的模型,會突破一個「頓悟點」,已經超越文字、圖像等基本理解能力,還可以做到理解因果關係、邏輯推理、預測推薦等任務。例如當業者把自己的商業資料,和一個假設性的念頭丟進模型的「黑盒子」中,AI會靠算力、算法,把念頭往前推進成一個完整的計畫決策,還能讓你看見結果可能的樣貌。

華碩雲端暨台智雲總經理吳漢章
華碩雲端暨台智雲總經理吳漢章指出,在打造福爾摩沙過程中投入龐大資源。
圖/ 台智雲

企業為什麼適合導入「福爾摩沙」?

除了符合在地需求外,福爾摩沙大模型還有三大優勢,為企業需求打造:

一、部署彈性

福爾摩沙最大亮點就是全球首創的「AFS Appliance 大型語言模型地端部署解決方案」,台智雲平台工程處總工程師趙逢毅指出,這代表台智雲幫忙把模型訓練好後,協助把龐大、一般機房難駕馭的模型做精簡瘦身,完整服務可以能要16顆GPU才跑的動,但也有1顆和8顆GPU就夠用的版本,同時還能分成176B和7B兩種參數大小的模型,可以讓企業依照自己的需求彈性選擇,把強大的算力搬進企業的機房裡,可能只要一台伺服器就夠。

台智雲福爾摩沙大模型
台智雲福爾摩沙大模型可以部署在地端,一台伺服器可能就足以支應企業所需算力。
圖/ 隋昱嬋攝影
台智雲福爾摩沙大模型
台智雲提供的管理介面,可以讓人員用No-Code的簡單方式就選擇自己想要的模型版本進行調校。
圖/ 隋昱嬋攝影

如果不確定自己需要多大的模型,在後台也提供一個「遊樂場Playground」供企業自由使用、做試驗,做決策時更有把握。

二、資料安全性

也因為可以放在地端,對資料高度機敏的產業來說,等於擁有一顆「專屬大腦」,更加安全可控。例如醫院、律師事務所、金融機構等單位,都可以利用模型做出自己想要的應用,不用擔心資料被上傳到雲端、海外,違法法規,也不用和其他企業共用機房,避免在資安漏洞事件發生時遭到牽連。

三、較省成本

吳漢章舉例,若企業要給模型4500萬個字,希望他在1小時內能夠學起來的算力,台智雲提供的門檻是1小時6萬元。相比之下,若企業選擇自建,成本、工程投入,可能6千萬都還不夠,若是租三大公有雲,在上面調動算力,要花的錢則是10倍,還可能要雇用20個工程師來幫你運行。對中小型企業來說門檻較低,還有推出針對新創提供的優惠方案。

AI進入「類摩爾時代」,台灣不能缺席

福爾摩沙大模型將在今年7月開放企業客戶申請使用,前科技部長陳良基今日出席致詞,他表示「算力產業」看似是一個未來名詞,其實已經來到眼前,因為很多企業都很想使用AI算力,希望把產業Know-how餵給AI,卻礙於商業資料機密等問題,沒辦法直接使用現有的模型去訓練。因此台灣品牌,加上名列全球前十大的「台灣杉二號超級電腦」的算力,如今讓這件事情成為可能。

吳漢章表示,人工智慧已經進入類似摩爾定律的時代,成長如此之快,台灣企業不能錯過這其中的機會。 過去半年台智雲團隊拜訪超過百家機構,包含國內外大型企業、新創、台灣和東南亞的超算中心,了解到產業界的需求,不希望如此強大的AI只有文字能力,而是包含來自產線、企業資源規劃(ERP)的結構化數據,在商業應用上更進一步。

延伸閱讀:台智雲獲台灣大、兆豐、永豐1.3億投資,金融和電信資源到位!下步攻區塊鏈

責任編輯:錢玉紘

關鍵字: #華碩
本網站內容未經允許,不得轉載。
往下滑看下一篇文章
HPE Networking Instant On來助力,初咖啡打造像家一樣的咖啡體驗空間!
HPE Networking Instant On來助力,初咖啡打造像家一樣的咖啡體驗空間!

走進位於台中沙鹿四平街的「初咖啡」,芬芳滿室的咖啡香、溫暖療癒的陽光、綠意盎然的植栽,以及便捷舒適的空間體驗,不僅讓人流連忘返、更是訪客不斷回訪的關鍵。初咖啡主理人楊倩如表示:「我心中的理想咖啡廳不僅要有引人的裝潢外觀、舒適的空間規劃、便捷的WiFi服務,每一季,我們都會更換咖啡豆以滿足客戶嘗鮮的需求,此外,我們設有兩座咖啡豆烘培機器,以淺培、中培的方式處理咖啡豆,讓訪客可以品嘗最原始的咖啡風味。」

鉅晶
圖/ 數位時代

關鍵拼圖,初咖啡以HPE Networking Instant On完善咖啡空間體驗

初咖啡對理想的堅持,不僅自然而然的形成差異化服務優勢、吸引一群死忠消費者,挺過疫情衝擊後,初咖啡將咖啡廳二樓打造成小型體驗空間,開始提供各種咖啡課程、或者是做為舉辦小型活動的場地,為了順利擴展業務,初咖啡除進行相應的空間裝潢,更計畫更新店內的WiFi服務。
協助楊倩如一起打理初咖啡、主導WiFi設備升級工作的邱俊銘表示:「無論是咖啡、空間還是服務,我們的理念一直是:只要可以就做到最好。」以WiFi服務為例,一開始,初咖啡使用的是家用型WiFi AP,隨著裝潢的調整與訪客的增加,不僅店內空間出現WiFi連線訊號死角問題、一樓室外空間也無法連結WiFi,再加上WiFi AP的外觀與店內裝潢風格不搭,只能擺放在訪客看不到的吧檯櫃內空間,設備線材雜亂也影響連線品質,為改善這些問題,以及確保二樓空間也能夠順利連網,開始評估系列解決方案,最終決定採用HPE Networking Instant On系列產品:導入Instant On 1930系列交換器、在一樓室內安裝1台Instant On AP22、一樓戶外安裝1台Instant On AP17,以及在二樓安裝1台Instant On AP22。

鉅晶
圖/ 數位時代

邱俊銘進一步解釋會決定採用HPE Networking Instant On的原因有三:首先是既有的訊號死角與連線覆蓋率不足等問題迎刃而解,而且,HPE Networking Instant On只要透過網路線就可以供電,大幅降低室內與室外拉線問題,此外,美觀的外型也與初咖啡欲打造的空間氛圍一致,有相互加分的成效;其次是合作夥伴 – 鉅晶國際 – 提供專業且貼心的諮詢與技術支援服務,例如在一開始的評估階段就針對初咖啡的室內裝潢提出最佳規畫建議,以及在一周左右的時間完成施工與架設工作,安裝上線後,鉅晶國際的團隊也總是在最短時間內提供相應的支援;最後,同時也是最重要的是,系統設備高度整合且易於管理,完全符合初咖啡的管理需求。

鉅晶
圖/ 數位時代

「透過HPE Networking Instant On App,無論在哪都可以輕鬆掌握各個網路設備的即時運行狀況,甚至是從中找出異常事件、防範於未然。」邱俊銘面帶微笑地說,導入HPE Networking Instant On後,初咖啡又往理想–讓訪客可以像在家一樣的悠閒品嘗咖啡、渡過美好時光–邁進一步,是咖啡廳營運的最佳幫手。

鉅晶
圖/ 數位時代

為未來做最佳準備,初咖啡以別具一格的咖啡體驗持續擴展業務版圖

導入HPE Networking Instant On除有助於初咖啡解決當務之急:連網與管理問題,更為未來的商業擴展做好最佳準備,例如可以因應業務需求輕鬆設定、擴展WiFi 服務,以內建的安全性閘道和防火牆將業務與訪客流量分開,以及透過(遠端)監管的方式即早發現異常連線行為以降低惡意攻擊、將危害降低到最低,提供訪客安全無虞的WiFi連線體驗等。
「我們想提供給客戶最好的體驗,透過HPE Networking Instant On除可提供訪客提供高品質的連網服務,還可以進一步落實安全防護,這是以前想都沒有想過的事情。」邱俊銘面帶微笑地解釋,初咖啡除提供咖啡、餐飲服務,販售自家烘培的咖啡商品,以及開設與咖啡相關的課程與活動,亦不排除開設二店甚至是三店,在這樣的前提下,功能強大且可輕鬆管理的WiFi服務顯得尤其重要,不僅能完善空間服務體驗,也讓團隊可以無後顧之憂的衝刺咖啡等核心業務。
「我們十分滿意HPE Networking Instant On帶來的絕佳使用體驗,除會視需求擴展使用,也會不藏私地介紹給同業。」關於HPE Networking Instant On的未來規劃,邱俊銘如是說道。

本網站內容未經允許,不得轉載。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
台日半導體新局 全解讀
© 2024 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓