【黑貘來說】 挖掘巨量資料的秘密步驟
【黑貘來說】 挖掘巨量資料的秘密步驟
2013.03.26 | 創業

現在已經有太多的報導說某某公司利用使用者的行為記錄,來算出每一個人的喜好,並且導出商機等等新聞到處可見,但我相信大家看再多次,不是覺得這樣會不會太可怕了?不然就是這好厲害阿!這兩種答案,不然就是兩種都有。

但事實上這件事並不神奇或可怕,會覺得這樣是因為大部份的人不知道怎麼做,或者是說這能夠做甚麼,若是你知道後,發現這跟本只是個套來套去經過計算的結果,甚至在某方面你用手來算都可以,只是不一樣的是人只能處理少量資料,而電腦可以處理巨量資料,當很多事情會有量變產生質變的時候,威力就在此顯現,但這些步驟,說穿了一點都不聰明,甚至還非常的機械化的制式。

當然我不是很好的深入淺出的作者,所以沒辦法寫給大多數的讀者看,而是寫給已經有一點實務經驗的人,尤其是程式設計師或資料庫管理師等工程師,但若沒有這技術背景,我相信做這樣的拆解,可以讓大家從一知半解變成知道個大概,而透過這樣的了解,讓大家有機會去應用是我寫這幾篇的目的。

只是還有一個前提,就是我不會在這邊寫資料探勘的基礎,也就是說,「請先去看本資料探勘的書」,再來看下面幾篇文章吧。

目標:能夠知道某個特定人喜歡甚麼東西,購買每一個商品的機率,或者是說我們該如何推薦商品給他,以及知道他喜歡這商品的原因?

人與商品之間的行為有下面幾種:

  1. 瀏灠
  2. 放入清單
  3. 購買
  4. 評價或評論
  5. 其他

上面每一種行為都有其數量化的差異,有些是一年幾次,幾十次或到幾百次或更多,而每一個行為都可能有個 「權重 (Weight)」,以及時間 (Time) 與次數 (Times) 的屬性,甚至更有可能是一個 Vector (向量) 的指標,例如喜好、觀感等等,無論是可以量化或不能量化,這些都可以成為建立人與商品的「關連」。

所有的資料探勘系統實作都是從這些資料做轉化,甚至是簡化,畢竟可以運算,以及算得出結果才是重點,甚至是能夠算給所有消費者顧客使用才是資料探勘的精隨。

但有趣的事是很多實用的系統都很少是用單一方法去建構出來的,畢竟除了人的行為之外,商品有有幾個屬性:

  1. 商品本質、內容
  2. 商品描述 (meta-data) 與分類
  3. 最後才是商品的使用

在還沒有 Semantic Web 之前, 我們能用的就是商品的使用,也就是我們使用者/消費者與商品/物品之間的關係,而在有了語意網路之後,我們就可以進一步的處理本質 (文化商品) 與描述了,只是在這之前還要有幾個前置作業。

  1. 會自動化新增關鍵字詞的表
  2. 會自動化連結出語意網路的表

這兩個表若是可以扣掉前面「會自動化新增/連結」 的話,我相信很多人都有從很多單位去取得這樣的詞庫與關連庫,但在實務上我們有絕大部份的狀況都是在處理運算最新的商品或議題時,沒有一種機制能夠新增或更新的話,幾乎是不實用的。

只是這新增/更新有時不見得是自動化,因為自動化是件相當困難的事,就我所知有不少在做這項業務的公司單位,用的就是「工人智慧」,而不是人工智慧,但無論如何,有了這兩個表之後,再加上從資料探勘能夠得知的:

  1. 關連分析 (一階, 或高階)
  2. 群落分析 (Clustering)
  3. 時間序列預測

有了上面三個很基本的工具後,可以配合產出很多的可能性:

  1. 最常見的關連購買
  2. 在搜尋結果中做排序
  3. 從分類結果做語意分析產出因子
  4. 有了高階的關連分析可以透過配對做活動
  5. 從銷售預測中作備品或庫存準備
  6. 只要你想得到的

當然上面說得很簡單,好像是三兩天就可以開發出來的東西,但事實上單單一個「會自動化連結出語意網路的表」,我記得當時就弄了兩三個月才弄出來,當然現在再弄一次就只須要兩三天到兩三個星期了,畢竟有經驗跟沒有經驗還是差很多的。

記得我在 5 年多前寫過 Data Mining 是一個須要跟效率挑戰的高度技術的事,但現在的機器已經比 5 年前快 5 倍了,加上資料庫的多樣性,雲端系統的完善,讓寫這樣的系統跟之前簡單不只 5 倍,我在兩個月以前自己從無到有又自己跑一次,以前須要半年的現在只要半個多月就夠了,想想時代還真可怕阿。

所以說,在這樣成熟的時機而言,導入真正的巨量資料探勘已經不是預算的問題,也不是技術的問題,而是心態的問題了,你準備好了嗎?

轉自[黑貘來說](http://gene.speaking.tw/2013/03/blog-post_20.html)
關鍵字: #大數據
往下滑看下一篇文章
廢棄碳纖維也能變再生材料!天翊綠能靠低溫解聚技術,獲桃園SBIR助攻產品驗證
廢棄碳纖維也能變再生材料!天翊綠能靠低溫解聚技術,獲桃園SBIR助攻產品驗證

碳纖維因重量輕、強度高,廣泛應用於自行車、汽車、航太及無人機等產業,每公斤原生碳纖維價格可達數百元,部分高階材料甚至高達數千元。然而,這些高價材料製成複合材料後,生產過程產生的邊角料與廢棄物,卻因熱固性樹脂難以分離,往往只能焚化、掩埋或降級使用,讓耗費大量能源製造的碳纖維失去再利用價值。

「產業真正需要的不是把廢棄物處理掉,而是如何把裡面的碳纖維、玻璃纖維重新變成有市場價值的材料。」天翊綠能科技執行長莊文彥指出。深耕複合材料產業約20年的他,於2023年成立天翊,希望透過自主開發的低溫常壓解聚技術,讓廢棄複材重新回到製造業供應鏈。

低溫解聚保留纖維性能,從廢料處理走向材料再生

熱固性複合材料難以回收,關鍵在於樹脂固化後無法像一般塑膠重新加熱熔融。傳統高溫熱裂解雖能去除樹脂,卻可能損傷碳纖維性能;若回收碳纖維強度下降,製造商可能需要增加材料用量以滿足產品的強度要求,反而削弱碳纖維原有的輕量化優勢。

為突破限制,天翊開發低溫常壓化學解聚技術,在約90°C、常壓環境下分離樹脂與纖維,降低高溫處理對纖維性能的影響。不同於將樹脂直接燒除,天翊也推進樹脂回收再利用及化學溶劑循環,提高材料利用效率。根據天翊提供的第三方檢測結果,回收碳纖維在受測性能項目上的表現達原生材料的98%以上。團隊也將回收纖維製成再生碳纖維不織布、板材、塊材及工程材料。

莊文彥表示,再生碳纖維每公斤價格約150至300元,具備成本競爭潛力。天翊也規劃三層商業模式:取得合法處理資格後,協助製造商處理複材廢料並收取處理費;將回收纖維製成再生材料銷售;再與客戶共同開發終端零組件。「我們不希望公司的主要價值停留在『每公斤收多少處理費』,而是希望營收逐步往再生材料與高值應用移動。」莊文彥強調,讓回收材料具備市場需求,才是循環經濟能否持續運作的關鍵。

桃園 SBIR 助攻百公斤級驗證,跨越技術走向產品的關鍵門檻

對技術型新創而言,證明技術可行只是第一步。要讓再生材料進入製造業供應鏈,還必須建立可重複的處理流程、穩定的材料品質及產品驗證機制。這些工作需要投入設備、人力與檢測費用,對商業化初期的天翊而言,是不小的負擔。

在桃園市政府地方型SBIR計畫的研發經費支持下,天翊得以加速推進製程測試、材料檢測與產品驗證。莊文彥指出,過去團隊主要仰賴實務經驗調整回收製程,但要讓技術進入產業應用,還必須建立標準作業流程、進出料紀錄及材料品質數據。透過計畫,天翊逐步完善這些機制,並針對碳纖維自行車、碳纖維預浸布邊料、高壓氣瓶與車用零件等廢料進行測試,完成超過100公斤複材廢料的處理驗證,建立相應的操作條件。

除了製程驗證,補助也支持團隊將回收纖維製成不織布、模具及相關產品,確認再生材料能否符合實際需求。其中,以再生碳纖維氈製作的模具,相較原本的玻璃纖維模具,減重約56.96%;以再生碳纖維氈製作的產品,相較原本玻纖產品,減重約27.77%。這些成果讓天翊不再只能向客戶說明技術可行性,而能透過具體的材料與產品數據,爭取後續合作機會。

天翊也與既有下游夥伴推進汽車零組件應用,累積再生材料進入供應鏈所需的驗證經驗。「SBIR對我們而言,不只是補助研發,而是幫助公司跨過了『實驗室技術走向實際產品』非常重要的一段。」莊文彥表示,政府資源不僅分攤研發成本,更協助團隊補足商業化所需的品質管理與產品驗證基礎。

以桃園為循環基地,從碳纖維走向風機葉片回收

除了研發補助,桃園聚集電子、汽車、航空與複合材料產業,也讓天翊有機會就近尋找廢料來源、加工夥伴及應用客戶。此外,天翊與桃園市政府消防局就高壓氣瓶展開合作,嘗試將回收技術應用於地方政府實際產生的循環需求。團隊目前持續推進桃園廠區設置與再利用相關申請,希望建立「在地廢料、在地回收、在地再製」的產業模式。

不過,即使技術與產品驗證已取得初步成果,天翊仍須完成事業廢棄物再利用相關許可程序,才能依核准條件擴大收料與處理規模。漫長的審查過程雖然增加營運成本,但莊文彥認為,除了回收技術,合法處理資格、穩定料源與產品市場,同樣是建立長期競爭優勢的關鍵。天翊的長期目標則不止於碳纖維。莊文彥補充,當初投入低溫常壓解聚技術,也考量到未來大型風力發電機退役葉片的回收需求。風機葉片主要由玻璃纖維、樹脂及部分碳纖維構成,體積龐大且難以回收,隨著全球風電產業發展,退役葉片處理將成為重要課題。天翊也已取得風機葉片回收處理方法的臺灣發明專利與美國發明專利。

因此,團隊選擇先從材料價值較高的碳纖維切入,累積技術驗證、設備放大與商業化經驗,再逐步拓展至大型風機葉片。「我們希望證明,複合材料不是只能從製造走向廢棄,而是可以從廢棄再回到材料、再回到產業。天翊要做的,就是把這條循環真正建立起來。」莊文彥說。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓