Claude實測|ChatGPT最強對手再升級:減少AI幻覺、設定人設、一口氣讀15萬字!
Claude實測|ChatGPT最強對手再升級:減少AI幻覺、設定人設、一口氣讀15萬字!

如果問當下最強的 AI 助手是哪個?那無庸置疑,絕對是 ChatGPT。

前不久 ChatGPT 猝不及防地故障了,直接炸出一大批重度用戶。靠它完成作業的的學生族群,一時之間面對論文無從下筆,靠它「續命」的打工人更是連班都不想上了。

今年以來,ChatGPT 每隔一段時間就會「暴斃」,號稱其最強平替的 Claude 或許是你最可靠的備選方案。

延伸閱讀:ChatGPT最強對手「Claude」開放台灣註冊、兩步驟免費用!能讀整本書?支援中文?

Claude 2.1 大更新一次看

更新一:上下文長度翻倍至200K token

恰巧,近日 Claude 進行一波大更新。以往 Claude 能處理的上下文只有 10 萬 token(token 是文本處理中的最小單位,如單字或片語),現在 Claude 2.1 Pro 版能處理高達 200K 上下文。

Anthropic 官方表示,200K 上下文約等於 150000 個單字或 500 頁文本,這意味著你可以上傳代碼、財務報表、或長篇文學作品,供 Claude 進行總結、問答、預測趨勢、比較和對比多個文檔。

那它能處理漢語的能力有多強呢?我們可以以此前飽受爭議的 Yi-34B 舉例說明。同樣是發布支持 200K 超長上下文窗口版本, Yi-34B 可以處理約 40 萬漢字超長文本輸入,約等於一本《儒林外史》的長度。

在語言模型上,長上下文能夠提供更精確的用法和含義,有助於消除歧義,幫助模型生成連貫、準確度的文本,比如「蘋果」一詞出現在「摘採水果」或「新款 iPhone」上,含義就完全迥異。

值得一提的是,在 GPT-4 尚未恢復即時網路瀏覽功能之前,免費的 Claude 能夠即時訪問網頁連結並總結網頁內容,即使到了現在,也是當下 GPT-3.5 所不具備的優點。

免費版 Claude 還能讀取、分析和總結用戶上傳的文檔,哪怕碰上 GPT-4,Claude 處理文檔的表現也絲毫不遜色。

我們同時給當下網頁版的 Claude 和 GPT-4「喂」了一份 90 頁的 VR 產業報告,並詢問同樣的問題。

3-2.jpg!720.jpeg
圖/ 愛范兒
4-3.jpg!720.jpeg
圖/ 愛范兒

二者的反應速度沒有拉開差距,但免費版 Claude 的回覆反而更流暢,且答案的質量也略高,而 GPT-4 的檢索功能還會因為分頁和檢視受到限制,相當不「靈性」。

檢索只是「兒戲」,作為提高學習或工作效率的工具,我們需要的是更「聰明」的模型。當我讓它們分析 VR 行業五年後的變化格局,雖然表達的觀點都差不多,但 Claude 以富有邏輯的分點作答取勝。

8-4.jpg!720.jpeg
圖/ 愛范兒
9-4.jpg!720.jpeg
圖/ 愛范兒

更新二:降低模型幻覺,寧願表達遲疑也不會給不正確的答案

答是能答得上來,能不能答對才是關鍵。過去一年,我們目睹不少被大模型「滿嘴跑火車」坑了的悲傷案例。Anthropic 稱 Claude 2.1 的虛假或幻覺類陳述減少了 2 倍,但它也沒有給出明確的數據,以至於輝達科學家 Jim Fan 提出質疑:「最簡單實現 0% 幻覺的解決方案就是拒絕回答每一個問題。」

10-3.png!720.jpg
圖/ 愛范兒

Anthropic 還設計了很多陷阱問題來檢驗 Claude 2.1 的誠實度。多輪結果表明,遇到知識的盲區,Claude 2.1 更傾向於不確定的表達,而不是生造似是而非的回答來欺騙用戶。

簡單點理解就是,假如 Claude 2.1 的知識圖譜裡沒有「廣東的省會不是哈爾濱」這樣的儲備,它會誠懇地說「我不確定廣東的省會是不是哈爾濱」,而不是言之鑿鑿地表示「廣東的省會是哈爾濱」。

更新三:增添新應用「工具使用」,整合API

Claude Pro 的訂閱費用約為 20 美元,使用次數達到免費版的五倍,普通用戶可以發送的消息數量將根據消息的長度有所不同。還剩 10 條消息時,Claude 就會發出提醒。

假設你的對話長度約為 200 個英語句子,每句 15-20 個單字,那麽你每 8 小時至少能發送 100 則訊息。若你上傳了像《大亨小傳》這樣大的文檔,那麽在接下來的 8 小時裡你可能只能發送 20 則訊息。

除了普通用戶,Claude 2.1 還貼心的根據開發者的需求,推出了一項名為「工具使用」的測試版功能,允許開發者將 Claude 集成到用戶已有的流程、產品和 API 中。

也就是說,Claude 2.1 可以調用開發者自定義的程式函數或使用第三方服務提供的 API ,可以向搜尋引擎查詢訊息以回答問題,連接私有數據庫,從數據庫搜尋訊息。

你可以定義一組工具供 Claude 使用並指定請求。然後 Claude 將決定需要哪種工具來完成任務並代表他們執行操作,比如使用計算器進行複雜的數值推理,將自然語言請求轉換為結構化 API 等。

Anthropic 也做出了一系列改進提供 Claude API 的開發者更好地服務,結果如下 👇
• 開發者控制台優化體驗和用戶界面,使基於 Claude API 的開發更便捷
• 更容易測試新的 prompt(輸入提示/問題),有利於模型的持續改進
• 讓開發者像在沙盒環境中叠代試錯不同的 prompt
• 可以為不同的項目創建多個 prompt 並快速切換
• prompt 的修改會自動保存下來,方便回溯
• 支持生成代碼集成到 SDK 中,應用到實際項目中

更新四:導入系統提示功能,維持Claude人設

此外,Claude 2.1 還引入了「系統提示」功能,這是一種向 Claude 提供上下文和指令的方式,能夠讓 Claude 在角色扮演時更穩定地維持人設,同時對話中又不失個性和創造力。當然,不同於簡單 Prompt 的應用,該功能主要是面向開發者和高級用戶設計的,是在 API 使用的,而不是在網頁端使用。

和 Claude 2.0 一樣,Claude 2.1 每輸入 100 萬 token 需要花費 8 美元,比 GPT-4 Turbo 便宜了 2 美元,輸出為 24 美元,比 GPT-4 Turbo 便宜了 6 美元。適用於低延遲、高吞吐量的 Claude Instant 版本每輸入 100 萬 token 需要收費 1.63 美元,輸出為 5.51 美元。

是ChatGPT殺手還是平替?

就目前而言,雖然 Claude 2.1 表現很強悍,但仍只能充當 ChatGPT 當機的替代品,想要顛覆 ChatGPT 還有很長的路要走。打個不太嚴謹的比方,Claude 2.1 就像是丐版的 GPT-4。

以 Claude 2.1 Pro 最擅長的 200K 為例,儘管 Claude 2.1 Pro 理論處理能力上要比 128K 的 GPT-4 Turbo 更強,但實際結果顯示,在需要回憶和準確理解上下文的能力上,Claude 2.1 Pro 還是要遠遜色於 GPT-4 Turbo。

OpenAI 開發者大會之後,網友 Greg Kamradt 曾對 GPT-4-128K 的上下文回憶能力進行了測試。透過使用 Paul Graham(美國著名程式設計師)的 218 篇文章湊了 128K 的文本量,他在這些文章的不同位置(從文章頂端 0% 到底部 100%)隨機插入一個語句:「在陽光明媚的日子裡,在多洛雷斯公園吃三明治是在舊金山的最佳活動。」

然後他讓 GPT-4 Turbo 模型搜尋這個語句,並回答有關這個語句的相關問題,最後採用業界常用的 LangChain AI 評估方法來評估答案。

14-2.png!720.jpg
圖/ 愛范兒

評估結果如上圖,GPT-4 Turbo 可以在 73K token 長度內保持較高的記憶準確率。倘若訊息位於文檔開頭,無論上下文有多長,它總能檢索到。只有當需要回憶的訊息位於文檔的 10%-50% 區間時,GPT-4 Turbo 的準確率才開始下降。

作為對比,該網友還提前要到了 Claude 2.1 Pro 的內測資格,並同樣做了「大海撈針」的測試。從評估的結果來看,在長達 20 萬 token(大約 470 頁)的文檔中,和 GPT-4 Turbo 一樣,Claude 2.1 Pro 文檔前部的訊息比後部的回憶效果差一些。

但 Claude 2.1 Pro 上下文長度效果較好的區間是在 24K 之前,遠低於 GPT-4 Turbo 的 73K。超過 24K 後,Claude 2.1 Pro 記憶就開始明顯下降,90K 後,效果變得更差,出錯率更是大幅度上升。

可以看到的是,隨著上下文長度的增加,GPT-4 Turbo 和 Claude 2.1 Pro 檢測的準確度都在逐漸降低。儘管 Claude 2.1 Pro 的測試覆蓋了更寬的上下文長度,但相比更實用的準確度,GPT-4 Turbo 還是 Claude 2.1 Pro 需要追趕的對象。

Claude 或許是免費版中最強的大模型之一。如果你是文字工作者,當 ChatGPT 崩潰,堪比 GPT-3.8 的 Claude 能夠解決你的燃眉之急,甚至表現得要更好。

但個性化的 GPTs、輕鬆生圖的 DALL·E3,語音交流等功能都是 ChatGPT 不可多得的護城河。在強大的 GPT-4 Turbo 面前,升級後的 Claude 2.1 Pro 版本也得敗下陣來。

延伸閱讀:客製化太夯,ChatGPT Plus暫停註冊!開發者大會後為何網站被擠爆?亮點一次看

本文授權轉載自:愛范兒ifanr
責任編輯:蘇祐萱

往下滑看下一篇文章
AI NAS 何時才值得部署?QNAP 拆解地端 AI 的成本、算力與資料門檻
AI NAS 何時才值得部署?QNAP 拆解地端 AI 的成本、算力與資料門檻

當資料不能離開企業,運算就得靠近:AI 先改寫儲存架構

AI 帶來的第一個變化,不只是運算能力提高,而是企業必須重新決定資料放在哪裡。

儲存架構大致分為雲端與地端兩塊,QNAP 身為資料安全的守護者,長期發展的是地端網路儲存設備(NAS),並擴展至 25GbE、100GbE 高速網路交換器產品線,提供完整的儲存與高速網路基礎架構。威聯通科技(QNAP)總經理劉文義解釋,當資料因合規要求或敏感度不能上雲,就必須留在靠近使用者與應用的地方;運算需求一旦增加,承接資料的裝置也自然被推向地端 AI。

不能上雲的名單比想像中長。醫療業持有大量醫療個資,金融與保險業受到合規與法規限制,部分大學院校與設計公司也不希望資料被雲端存取。對這些組織而言,問題並不是雲端好不好用,而是一開始就沒有把核心資料全面上雲的選項。

qnap2.jpg
威聯通科技(QNAP)總經理暨威強電集團(IEI)董事長 劉文義
圖/ 數位時代

真正讓更多企業回頭計算的,則是長期成本。劉文義指出,資料上傳雲端可能免費,下載卻會按流量收費;當企業把一年、兩年、三年的費用加總回推,可能會發現,購買一台同等容量的 NAS,還能使用 7-10 年。資料規模愈大、存取愈頻繁,總持有成本的差距就愈值得評估。

這並不代表雲端與地端只能二選一。雲端仍適合模型訓練、程式開發與波動大的工作負載;地端則較適合高頻存取、對延遲敏感,或不能離開企業邊界的資料。企業真正要回答的,是每一類資料與任務應該放在哪裡。

依 QNAP 觀察,客戶過去關心的是需要幾 TB、幾 PB,或備份速度有多快;現在更常問的是,機器裡的資料要如何被 AI 活用。QNAP 也從 2021 年起,把公司發展定調在 AI 與高速網路的融合,試圖讓 NAS 從資料保存的位置,進一步成為資料被調用的位置。

當資料量持續擴大,搜尋與管理方式也會跟著改變。「在 NAS 裡放入 AI Agent 會越來越不可或缺。」劉文義舉例,當照片累積到 10 萬、20 萬張,要找出其中幾張特定畫面,已不可能只靠人工翻找。此時,能理解內容、接受自然語言指令的 AI 工具,會從加分功能逐漸變成必要條件。

從資料治理到地端推論:AI NAS 如何進入企業工作流?

AI NAS 不是「多了 AI 功能的 NAS」,而是 NAS 在企業工作流裡換了位置。
依 QNAP 觀察,目前客戶大致分布在一條導入光譜上。人數最多的一群,仍在把資料集中、分類、清理與建立權限。這一步看似與 AI 無關,卻決定後續系統能不能找到正確資料、辨識版本,並把答案交給有權限的人。

中間一群開始建置私有的檢索增強生成(RAG)知識庫。RAG 並不是重新訓練一個模型,而是在模型回答前,先從企業的 SOP、合約、法規或技術文件中取回相關內容,再產生附有來源依據的答案。QNAP 以 Qsirch 的語意搜尋能力協助建構這類應用,協助企業建立私有知識庫;而走在最前面的少數企業,則已經嘗試地端推論與 AI Agent。

模型的選擇權,QNAP 刻意留給客戶。知識庫背後採用哪一個模型,可由企業依需求決定,不綁定單一 AI 供應商。QNAP 也以 QuAgent AI 助理與模型情境協定(MCP)相關能力,讓管理者透過自然語言查詢狀態、調整設定,並讓 NAS 成為 AI Agent 可調用的資料節點。

不過,劉文義沒有把這條路說得太容易。他坦言,目前 NAS 硬體的 AI 運算能力仍有限。一般企業期待的應用,可能需要約 300 到 800 TOPS,甚至 1,000 TOPS,因此多數方案會以 NVIDIA 顯示卡補足算力;一張卡約需新台幣 10 萬至 12 萬元,一張算不完,就得配置 2 張或 4 張。

「整體成本可能是過去單獨一台 NAS 的 5 倍到 10 倍,並不是大部分中小企業都能接受。」除了硬體,使用者還需要 AI 應用的 Know-how、程式背景與開發資源,這些都是落地成本。

QNAP 則是透過算力分級讓各規模與需求的企業都可以有適合的解決方案。在 Computex 2026 搶先亮相的 QNAP AI NAS 中,一類是採用含有 iGPU 與專屬 NPU 的處理器平台,以一百多 TOPS 的範圍,可順暢使用 AI 應用程式;另一類機種則可安裝 1 張或 2 張 NVIDIA 顯示卡,處理更大的運算量。

同時 QNAP 也在軟體端也持續開發,目標是讓 NAS 裡的資料更有效率地被 AI 工具調用,讓資料成為有價值的知識。

從規格走到現場:能源公司如何導入私有 LLM?

本地 AI 實際落地部署會是什麼模樣?劉文義舉了一家約 50 多人的能源公司為例。這家公司原本想用 NAS 搭配雲端 AI 建置內部資料庫,但很快遇到兩個瓶頸:一是員工查詢時明顯出現卡頓;二是專利、技術與合約都高度敏感,高層不願上傳至公有雲,擔心機密資料會有外洩的疑慮。

後來,該公司導入 QNAP AI NAS 的旗艦機種 QAI-h1290FX,搭配顯示卡與全快閃 SSD,在地端部署私有大型語言模型,把數十年來封存的靜態檔案交給 AI 調用,進行跨檔案摘要與精準搜尋。員工因此省下翻找合約與報告的時間,核心機密也能留在企業內部。

這個案例說明,若任務範圍明確,有些應用不必動用雲端大型模型,地端運算量就可能足以支應。

但不同企業的資料量、查詢方式與模型大小不同,導入前仍需要概念驗證(POC)與技術人員評估。

而且,資料留在地端並不等於自動安全。企業仍要處理帳號權限、網路隔離、備份復原、漏洞修補與日常維運。地端的價值,是讓資料邊界與控制權回到企業手上;相對地,安全責任也會更直接地回到企業。

哪些企業現在該做,哪些再等?先看重複性與三個條件

能不能導入地端 AI,不只由產業標籤決定,也要看工作是否重複,以及場景能不能被清楚定義。劉文義觀察,第一批走進來的,除了受法規限制的醫療、金融與保險業,也包括利用地端 AI 加速資料處理的科技業,以及會計、律師等有大量重複文書工作的專業服務業,因為效益較容易被看見。

工廠也是可預期的場景。一條生產線可能有 10 台、20 台機器,每台處理與儲存資料的 Protocol 都不同,需要相對應的儲存裝置;生產過程累積的影像與紀錄可能要保存 3 年到 5 年。當企業要跨設備調用這些資料,AI Agent 與地端資料節點就有發揮空間。

「重複性資料處理越多,或重複性動作越多的產業,越容易透過導入 AI 提高工作效率。」反過來說,較傳統、人力密集,或仍高度依賴人工判斷的製造業,短期內未必能快速導入地端 AI。

依 QNAP 提供的資料,企業也可用「高頻、大量、敏感」三個條件做第一輪判斷:資料是否被頻繁調用?規模是否大到雲端傳輸與長期費用開始變得明顯?內容是否涉及個資、法規、智慧財產或商業機密?三個條件愈集中,地端部署愈值得評估;三者都不成立時,使用雲端 API 往往更簡單,也可能更划算。

可以先等的企業,大致也有三種。第一,資料仍分散、版本混亂、權限不清,急著上 AI 只會把混亂放大,先完成集中與治理,效率就可能先提升。第二,找不到一個具體且反覆發生的業務痛點,只因為「別人都在做」而採購,設備很可能變成昂貴的展示品。第三,使用量仍小、需求偶發,現階段雲端的彈性反而更有優勢。

因此,POC 不應只驗證「模型答不答得出來」,還要回答三個問題:資料由誰負責,誰可以存取?導入後能節省多少查找時間、傳輸成本或人工作業?正式上線後,誰負責資料、模型與資安維運?只有當效益與責任都能被量化,才適合從展示走向正式部署。

企業願意把部分資料留在自己的機房,動力最終仍回到資料主權。QNAP 的主要市場分布在歐洲、美洲與亞太,其中歐洲占比將近一半,而歐洲也正是全球推動資料主權的最大動力。

QNAP 的產品已取得 ISO 27001、ISO 27017 與 ISO 27018 等多項認證,並滿足 GDPR、HIPAA 等資料保護與法規遵循需求;累積至今,已售出約數百萬台裝置,協助企業打造智慧、安全的儲存方案。

至於普及時間點,劉文義提出一個明確的價格與效能交會點:地端應用若要順暢運作,運算量可能至少要達到 300 至 600 TOPS,甚至 800 TOPS,同時價格要落在新台幣 5 萬至 8 萬元。目前符合這些條件的硬體方案仍很有限。

qnap3.png
「AI NAS 不是多了 AI 功能,而是改寫了資料在工作流的位置。」威聯通科技總經理劉文義坦言,地端算力成本高昂,QNAP 透過「算力分級」與開放模型架構,助企業逐步建構私有 RAG 知識庫與 AI 團隊。
圖/ 數位時代

「預測約兩、三年後,應該很快會看到符合一般大眾期待、具備合理 CP 值的產品。那個時間點,就會是 AI 落地最蓬勃發展的時候。」在此之前,企業真正能先做的,不是搶著買最大的模型或最昂貴的顯示卡,而是把資料治理、使用權限與高價值場景準備好。

QNAP 以「資料煉油廠」比喻自己的角色:原油再多,沒有整理、提煉與配送的過程,也無法成為可用的能源。這個定位也點出地端 AI 的競賽條件——不是誰先買到算力,而是誰的資料先準備好被調用。模型會持續更換,但企業自己的資料層則會長期存在。

AI NAS 不是把模型塞進儲存設備,而是在資料必須留在企業內時,讓搜尋、推論與管理靠近資料的地端節點。

QNAP World Tour 2026 台北場將於 2026 年 9 月 18 日(五)舉行,現場將聚焦 AI 應用、儲存備份、網通產品、資安與監控,並安排 Live Demo,適合 IT 管理者、系統整合商與企業決策者參加。

活動地點:新板希爾頓酒店|如意 AB 廳

活動時間:09:20–16:00

地址:新北市板橋區民權路 88 號 2F

立即報名:https://bnex.tw/9f7my4

2026 QNAP 台灣企業資安韌性大調查,填問券抽好禮,倒數計時:https://www.surveycake.com/s/q4abw

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
台達電全解讀
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓