機器學習告訴你:《紅樓夢》後40回到底是不是曹雪芹寫的?
機器學習告訴你:《紅樓夢》後40回到底是不是曹雪芹寫的?

前幾天燈神給我發了一篇文章,講的是用機器學習的方式來判定紅樓夢後40回到底是不是曹雪芹寫的。

圖說明

黛玉重建桃花社。畫家孫溫。圖片來自:Wikipedia


我這段時間也在自學Andrew Ng的機器學習課程,還差4週就能完成課程了。

電腦是一個很強調learning by doing的學科,於是我也來「學以致用」,用剛學到的SVM演算法來分析下雪芹老師到底有沒有寫後面的40回。

作為一個從沒看過紅樓夢的人,我的大致思路是這樣的:

  1. 受到《獵人》裡蟻王破解會長無敵招數的啟發,每個人的寫作都有些小習慣,雖然文章前後說的內容會有差別,但是這些用詞的小習慣不容易改變;

  2. 用開源的分詞工具把全書分詞(python的jieba分詞),然後統計詞頻。把出現頻率超過100次的詞語找出來,人工去掉一些可能因為文章內容造成前後出現不一致的人名、地名;

  3. 然後每一章按照2中的詞頻表,看這一章中出現這些詞語的頻率;

  4. 前80回、後40回各選15回作為機器學習的資料,讓機器學習這些章節的用詞特點,然後推算其他章節的用詞特點是屬於前80回呢、還是後40回;

  5. 如果機器根據這些用詞特徵推算的是否屬於後40回的結果跟實際的結果吻合,那麼就說明後40回的寫作風格跟前80回有很大不同,很可能是兩個人寫的;

好了,下面我儘量少涉及數學跟程式設計的知識,來一步步解讀機器學習是怎麼完成這個問題的。

生成全書的詞頻表

圖說明

我截取了其中一段的詞頻表。像寶二爺、黛玉笑這種涉及人物的詞語,可能前面戲份多、後面戲份少,所以就不選它們作為用詞習慣的特徵,而像忽然、故、只要、可不是這種承接性質的碎詞,就不太容易會受情節的影響,所以適合選出來作為用詞習慣的特徵。

最終,我按照出現從多到少排序,選擇了278個詞作為機器學習的用詞習慣。

將120回的詞頻進行統計

接下來我把每一回出現這278個詞的頻率統計出來,得到我們給機器學習的樣本。這個樣本的樣子大概是這樣的:

圖說明

比如以B行2列舉例,說明在第一回裡面「道」這個動詞,出現了36次。

通常我們在進行複雜的事情前,喜歡先簡化問題,或者給自己一些直觀的圖表,以便瞭解問題。機器學習也是一樣的。

我嘗試著在圖上把前80回和後40回習慣用詞出現的頻率畫出來。以第一回為例,x1座標代表「道」出現多少次,x2座標代表「說」出現多少次,x3座標代表「也」出現多少次......x280座標代表「則」出現多少次。

什麼?超過三維了,那人類的大腦可是沒辦法理解的啊。

沒關係,當我們用燈光照射一個立體的圖時,平面會有它的影子。這個影子雖然沒有立體圖的資訊這麼豐富,不過我們看影子還是可以猜出來大致的樣子。對於高緯度的問題,我們也可以用投影的方式來降低緯度。

雖然資訊損失了不少,不過能給我們一個直觀的感受。

圖說明

這個是120個章節的用詞習慣從278緯降到3維以後的圖,紅色+的點是前80回,藍色o的點是後40回。

從這個圖可以很直接地看到,確實在用詞習慣上有明顯的區別。就算我們沒有機器學習工具的幫忙,也可以大膽猜測後40回是出自於另外一個人了。

下面我們用機器學習來看精確一點的判斷。

機器學習

透過課程我大致瞭解了SVM的原理和簡化版問題的演算法實現,不過對於複雜問題我還是沒這個能力寫程式。於是用python的scikit庫來幫助我來完成這個預測。

演算法的步驟很簡單,前80回、後40回各選15個來餵給機器學習它們的特點,然後把剩下的章節輸入給機器,問它們屬於前80回還是後40回。

圖說明

看out[44]的結果,代表了機器預測這120回的用詞習慣到底屬不屬於後40回(0為不屬於,1為屬於)。

如果你看不懂上面的程式碼,沒關係。我告訴你結果好了。

機器在學習以後告訴我,如果我把隨便一章的用詞習慣告訴它、但不告訴它到底是前80回還是後40回,那麼機器有95%的把握能猜出它是不是後40回。

至此,我們可以很有信心地判斷它們的寫作風格不同。

那麼,問題來了,會不會因為是情節的需要所以導致寫作風格不同了呢?

情節不同會造成用詞習慣多大的差別?

好吧,那我再來做一個旁證。我把另外一部四大名著「三國演義」拿來分析,看看上部跟下部的用詞習慣會不會有比較明顯的差別。

圖說明

這個是三國演義的用詞習慣縮到三維以後的圖,紅色+代表前60部的用詞習慣,藍色o代表後60部的用詞習慣。

你可能會說,雖然中間交叉的地方比較多,但是還是可以看出來是有區分的。

可如果你比對一下跟紅樓夢的圖,你就會發現紅樓夢的差別會明顯得多。

圖說明

紅色+為紅樓夢前80回/三國前60回,藍色o紅樓夢後40回/三國後60回

最後,用機器學習的方式來說,如果我把三國演義隨便一章的用詞習慣告訴它、但不告訴它到底是前60回還是後60回,那麼機器有7成的把握猜對,這個準確度已經遠遠低於紅樓夢的95%的預測水準。

所以,我們用「三國演義」這個旁證來分析,即便是因為情節需要導致的用詞習慣差別也不應該這麼大。

所以,我們就更有信心說曹老先生沒有寫後40回了。

更多的機器學習有趣的玩法,我會在學習的過程中慢慢嘗試的。以上。

本文作者黎晨,原文刊載於他的微信公眾號:黎小晨想太多

關鍵字: #機器學習
往下滑看下一篇文章
投資不再靠感覺,大戶豐App用數據打造紀律投資術
投資不再靠感覺,大戶豐App用數據打造紀律投資術

在物價節節高漲的年代,想要確保退休後的生活品質,不能只靠儲蓄和保險,必須做好投資理財規劃。然而,投資最難的挑戰,其實不是掌握市場波動,而是如何抵抗人性的誘惑,看漲時急著追高,遇跌又容易慌張停損,原本的投資紀律往往在情緒波動中被徹底打亂。

為了協助民眾克服這道難題,金管會推動台灣個人投資儲蓄帳戶(Taiwan Individual Savings Account,TISA),透過制度設計降低理財投資門檻,引導民眾進行長期且規律的定期定額投資。而永豐金證券的大戶豐 App則讓這條路走得更輕鬆,藉由簡單易用的操作介面與功能設計,及定期定額的手續費優惠,營造一個友善的投資環境,幫助投資人輕鬆養成穩定理財的習慣,也讓「紀律投資」能夠真正成為日常理財的一部分。

資產配置多樣化,打造理想的退休理財組合

永豐金證券數位金融處處長劉柏甫認為,退休理財規劃不能只追求資產成長,更應重視資產的穩健性與持續現金流,因此資金不能只放在單一商品上,最好同時配置在多個不同商品,像ETF搭配主動式基金,就是相對理想的退休理財組合。

ETF雖然具有低成本與有效追蹤大盤的優勢,但容易受到市場波動影響。而退休理財就像一場數十年的長跑,很難預料這段旅程中可能發生哪些大環境變化,此時主動式基金的價值便顯現出來,藉由專業基金經理人的專業與操盤經驗,不僅可以主動發掘被市場低估或具有高成長潛力的投資標的,當面臨重大環境變動時,也能快速調整投資策略、有效降低衝擊,並與ETF的被動追蹤策略形成良好互補,讓投資旅程更加穩健。

然而,對多數投資人而言,即便了解資產配置的重要性,在實際操作上仍常遇到難題。根據劉柏甫的觀察,目前民眾在基金投資上普遍有3大痛點:首先是市場基金琳瑯滿目,投資人往往不知道該如何挑選。其次是難以精準掌握進出場時間。三為容易忽略手續費、管理費等潛在投資成本對長期投資報酬率的影響。

針對這些痛點,永豐金證券透過大戶豐App的創新功能與貼心設計,協助投資人逐步化解困境。「大戶豐不只是交易工具,更是陪伴投資人累積財富的虛擬夥伴,幫助他們找到適合自己的投資方法,一步步達成理財目標,」劉柏甫強調。

永豐金證券數位金融處處長劉柏甫
永豐金證券數位金融處處長劉柏甫
圖/ 數位時代

6大分類,輕鬆找到心儀的基金

主導App開發的永豐金證券數位金融處資深經理黃亮喻進一步說明,大戶豐App如何幫助投資人篩選基金商品及掌握進出場時機。

在選擇基金商品時,投資人除了參考由TISA基金委員會嚴選的TISA級別基金,也可以透過大戶豐App提供的6大分類機制,再搭配個人投資偏好,快速 縮小範圍,找到喜歡的投資標的。例如,看重基金長期表現的投資人,可以選擇「連年正績效」分類,鎖定近2至3年持續表現良好的基金,若是對市場波動較為敏感,則可選擇「穩定超耐震」分類,篩出資產規模超過5百萬美元且過去3年波動度低於8%的基金。

智慧加減碼創新設計,量身計算每檔基金的加減碼區間

當投資人找到心儀的基金後,下一個要面對的難題就是,該在何時進出場?如何避免買到最高點?大戶豐 App 內建的智慧加減碼功能,可以輔助投資人做出更精準的決策,讓交易不再憑感覺。

「智慧加減碼雖然不是新機制,但大戶豐App的設計邏輯卻與市場普遍做法不同,」永豐金證券數位金融處處長劉柏甫強調。

很多數位平台的智慧加減碼功能,都是直接套用特定比例,例如下跌 5% 就建議加碼、上漲就建議減碼,這樣的操作邏輯雖然簡單直覺,卻忽略基金本身的差異性。事實上,市場上的基金種類相當多,標的可能涵蓋美國、新興市場,或是股票、債券,不同產業的操盤邏輯也都不一樣,如果以單一標準來套用所有基金,勢必會出現偏差,間接影響長期投資績效。

為了讓客戶能夠真正累積個人資產,大戶豐 App跳脫既有框架,根據每支基金的歷史表現與波動幅度,量身計算加減碼區間,當基金淨值進入「加碼區」或「減碼區」時,就立即推播通知,提醒投資人第一時間檢視是否需要調整部位。

「智慧加減碼功能自 2025 年 7 月上線以來,已吸引超過 1.5 萬人使用、累積超過6萬次的使用頻次,甚至還有客戶運用此功能找尋強勢基金,成功提升投資紀律。」劉柏甫分享,不只優化投資效果,更有助於建立長期投資紀律,原因在於,智慧加減碼是經過數據分析而得出的客觀建議,能夠幫助投資人克服「追高殺低」的人性弱點,以更理性、更科學的方式判斷是否需要調整交易策略,讓投資人能夠在市場波動中能夠穩健操作、從容應對。

「大戶豐App的核心目標,是讓客戶能夠真正累積個人資產,」劉柏甫指出,這不僅體現在智慧加減碼功能的創新設計上,更展現在實質的費用優惠中,透過定期定額的手續費優惠,降低潛在投資成本對長期投資報酬率的影響,鼓勵更多民眾及早加入退休理財的行列。

從投資小白到高資產客戶,滿足每一位客戶的投資需求

此外,永豐金證券亦關注高資產客戶的財富管理需求,規劃相應的數位金融服務。例如:開放在App線上申購境外結構型商品,讓專業投資人不必倚賴傳統專人服務,可以直接在線上完成交易,提高交易的彈性與便利性。「永豐金深信,數位財富管理平台不應僅服務投資新手,而是要讓每一位客戶,無論資產規模大小,都能享受到便利且專業的數位化服務。」劉柏甫強調。

永豐金證券團隊致力將專業投資化繁為簡 ,透過大戶豐App的數據智慧與創新功能,助您輕鬆養成理財紀律,
永豐金證券團隊致力將專業投資化繁為簡 ,透過大戶豐App的數據智慧與創新功能,助您輕鬆養成理財紀律,穩健累積資產 。
圖/ 數位時代

展望未來,永豐金證券將持續強化大戶豐App的服務深度與廣度,納入更多金融產品,為客戶帶來一站式的數位投資體驗。同時,也將引入更多AI智慧功能,透過人機協作,提供更貼近個人需求的理財服務,朝著成為客戶身邊最值得信賴的「數位理財顧問助手」目標邁進。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
蘋果能再次偉大?
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓