【黑貘來說】 挖掘巨量資料的秘密步驟
【黑貘來說】 挖掘巨量資料的秘密步驟
2013.03.26 | 創業

現在已經有太多的報導說某某公司利用使用者的行為記錄,來算出每一個人的喜好,並且導出商機等等新聞到處可見,但我相信大家看再多次,不是覺得這樣會不會太可怕了?不然就是這好厲害阿!這兩種答案,不然就是兩種都有。

但事實上這件事並不神奇或可怕,會覺得這樣是因為大部份的人不知道怎麼做,或者是說這能夠做甚麼,若是你知道後,發現這跟本只是個套來套去經過計算的結果,甚至在某方面你用手來算都可以,只是不一樣的是人只能處理少量資料,而電腦可以處理巨量資料,當很多事情會有量變產生質變的時候,威力就在此顯現,但這些步驟,說穿了一點都不聰明,甚至還非常的機械化的制式。

當然我不是很好的深入淺出的作者,所以沒辦法寫給大多數的讀者看,而是寫給已經有一點實務經驗的人,尤其是程式設計師或資料庫管理師等工程師,但若沒有這技術背景,我相信做這樣的拆解,可以讓大家從一知半解變成知道個大概,而透過這樣的了解,讓大家有機會去應用是我寫這幾篇的目的。

只是還有一個前提,就是我不會在這邊寫資料探勘的基礎,也就是說,「請先去看本資料探勘的書」,再來看下面幾篇文章吧。

目標:能夠知道某個特定人喜歡甚麼東西,購買每一個商品的機率,或者是說我們該如何推薦商品給他,以及知道他喜歡這商品的原因?

人與商品之間的行為有下面幾種:

  1. 瀏灠
  2. 放入清單
  3. 購買
  4. 評價或評論
  5. 其他

上面每一種行為都有其數量化的差異,有些是一年幾次,幾十次或到幾百次或更多,而每一個行為都可能有個 「權重 (Weight)」,以及時間 (Time) 與次數 (Times) 的屬性,甚至更有可能是一個 Vector (向量) 的指標,例如喜好、觀感等等,無論是可以量化或不能量化,這些都可以成為建立人與商品的「關連」。

所有的資料探勘系統實作都是從這些資料做轉化,甚至是簡化,畢竟可以運算,以及算得出結果才是重點,甚至是能夠算給所有消費者顧客使用才是資料探勘的精隨。

但有趣的事是很多實用的系統都很少是用單一方法去建構出來的,畢竟除了人的行為之外,商品有有幾個屬性:

  1. 商品本質、內容
  2. 商品描述 (meta-data) 與分類
  3. 最後才是商品的使用

在還沒有 Semantic Web 之前, 我們能用的就是商品的使用,也就是我們使用者/消費者與商品/物品之間的關係,而在有了語意網路之後,我們就可以進一步的處理本質 (文化商品) 與描述了,只是在這之前還要有幾個前置作業。

  1. 會自動化新增關鍵字詞的表
  2. 會自動化連結出語意網路的表

這兩個表若是可以扣掉前面「會自動化新增/連結」 的話,我相信很多人都有從很多單位去取得這樣的詞庫與關連庫,但在實務上我們有絕大部份的狀況都是在處理運算最新的商品或議題時,沒有一種機制能夠新增或更新的話,幾乎是不實用的。

只是這新增/更新有時不見得是自動化,因為自動化是件相當困難的事,就我所知有不少在做這項業務的公司單位,用的就是「工人智慧」,而不是人工智慧,但無論如何,有了這兩個表之後,再加上從資料探勘能夠得知的:

  1. 關連分析 (一階, 或高階)
  2. 群落分析 (Clustering)
  3. 時間序列預測

有了上面三個很基本的工具後,可以配合產出很多的可能性:

  1. 最常見的關連購買
  2. 在搜尋結果中做排序
  3. 從分類結果做語意分析產出因子
  4. 有了高階的關連分析可以透過配對做活動
  5. 從銷售預測中作備品或庫存準備
  6. 只要你想得到的

當然上面說得很簡單,好像是三兩天就可以開發出來的東西,但事實上單單一個「會自動化連結出語意網路的表」,我記得當時就弄了兩三個月才弄出來,當然現在再弄一次就只須要兩三天到兩三個星期了,畢竟有經驗跟沒有經驗還是差很多的。

記得我在 5 年多前寫過 Data Mining 是一個須要跟效率挑戰的高度技術的事,但現在的機器已經比 5 年前快 5 倍了,加上資料庫的多樣性,雲端系統的完善,讓寫這樣的系統跟之前簡單不只 5 倍,我在兩個月以前自己從無到有又自己跑一次,以前須要半年的現在只要半個多月就夠了,想想時代還真可怕阿。

所以說,在這樣成熟的時機而言,導入真正的巨量資料探勘已經不是預算的問題,也不是技術的問題,而是心態的問題了,你準備好了嗎?

轉自[黑貘來說](http://gene.speaking.tw/2013/03/blog-post_20.html)
關鍵字: #大數據
往下滑看下一篇文章
導航不是愈高階愈好!桃園產官資源如何賦能互宇向量,讓複雜技術真正「用得起、用得上」?
導航不是愈高階愈好!桃園產官資源如何賦能互宇向量,讓複雜技術真正「用得起、用得上」?

當無人機、無人船失去衛星定位訊號,還能繼續完成任務嗎?這道問題不只考驗導航設備的精度,更牽涉不同技術如何搭配,才能兼顧成本、可靠性與實際部署需求。

要理解自主載具如何在衛星訊號中斷時持續導航,得先認識「慣性導航」。互宇向量執行長鍾宏彬拿棒球作比喻:投手把球投出去後,球沒有GPS或遙控器,仍會依照出手角度、力量與旋轉向前運動。慣性導航則透過感測加速度與旋轉變化,持續推算載具的姿態、速度與位置。不過,慣性導航的誤差會隨時間累積,衛星定位訊號一旦中斷,位置推算也可能逐漸偏移。因此,自主載具需要不同定位與感測技術相互配合。2022年成立的互宇向量,便從這項需求切入,協助客戶選擇適合的導航技術,並將系統整合到產品中。

先定義任務,再決定導航規格

「以終點當起點。」鍾宏彬如此形容互宇向量的產品開發原則。相較於先提供設備、再由客戶自行整合,互宇向量在開發初期便參與討論,了解客戶要完成什麼任務,再決定性能、材料、演算法與預算。這套方法稱為「前端部署」。

以無人機精準投送為例,客戶希望載具不只抵達指定區域,還能接近建築物完成投送。飛行距離、定位精度、是否有人遙控,以及衛星訊號中斷後需要自主運作多久,都會影響系統設計。互宇向量必須先釐清這些條件,再選擇感測元件、調整導航架構,而不是直接套用既有產品。

互宇向量的技術涵蓋光纖陀螺儀(FOG)、慣性量測單元(IMU)、姿態與航向參考系統(AHRS),以及GNSS/INS融合導航方案。團隊曾與產業夥伴在實際水域驗證無人船導航系統,也透過觀音山隧道測試,觀察衛星訊號中斷時的導航表現。

對客戶而言,驗證的重點在於系統能否在任務要求的時間內維持足夠精度。互宇向量也不一定選用最高規格的零組件,而是依照需求調整演算法、材料與系統配置,必要時整合其他供應商的技術,減少客戶自行開發、測試與整合的時間及成本。

從光纖陀螺到系統整合,互宇向量把技術推向可部署的產品

鍾宏彬2010年投入光纖陀螺核心技術研究,2016年共同創辦極星光電。當時核心元件的客戶多具備自行整合能力,應用市場相對有限。他逐漸意識到,若想讓技術接觸更多使用者,就不能只停留在零件,還得往感測模組與完整系統發展。2022年成立互宇向量後,鍾宏彬延續過去累積的技術,採取合作設計製造(JDM)模式,讓團隊從產品開發初期便參與設計與驗證。

他把這種服務形容為「高階料理包」:客戶不必自行採購所有原料、研究怎麼煮,而是由互宇向量協助整合適合的技術,完成產品部署。公司不走低價、拚量路線,而是選擇與少數具有長期需求的專業客戶深入合作。目前團隊服務約12家核心客戶,透過持續參與產品開發,累積技術與合作經驗。

航太市場考驗的不只是技術,還有供應鏈與驗證能力

航太是互宇向量積極拓展的市場。目前約四成業務聚焦航太應用;2023年,團隊也與國家太空中心(TASA)展開策略性合作,推進MIOC與FOG技術的太空應用。

航太產業尤其重視「飛行履歷」(Flight Heritage)。鍾宏彬打趣地說,普通杯子就是杯子,但如果真的上過太空,「它就變成太空杯」。設備即使通過完整的地面測試,仍不等於經歷過發射與太空環境。對國際航太客戶而言,實際飛行驗證是評估設備可靠性的重要依據。鍾宏彬回憶,團隊過去花了兩、三年尋找海外企業客戶,始終不得其門而入。後來有國際業者得知互宇向量與國家太空中心合作,反而主動找上門。這段經驗讓他體會到,進入航太供應鏈除了技術能力,還需要讓國際客戶看見合作經驗與可信度。

從中央大學到蘆竹,桃園產官資源如何成為互宇的產業支點?

互宇向量與桃園的淵源,早在公司成立前就已開始。鍾宏彬從中央大學求學、攻讀博士到投入研究,一路留在桃園;第一次創業落腳楊梅,互宇向量則從青埔搬到蘆竹,建立廠辦空間。他笑稱,自己就像桃園「生出來的baby」。

桃園及北部地區聚集電路板、電子製造與機械加工等供應商,具備成熟的產業基礎。不過,部分業者長期專注既有市場,未必想過自身技術還能延伸至無人載具與航太應用。鍾宏彬舉例,互宇向量曾與傳統機械加工業者合作,協助對方了解航太供應鏈的品質驗證與製造要求,探索跨入新市場的可能。對這些業者而言,挑戰未必是技術能力不足,而是過去缺乏接觸航太應用的機會,不熟悉相關規格與驗證流程。

創業過程中,互宇向量也持續接觸桃園市政府青年事務局及相關局處、育成體系,參與創業交流與產業展會。鍾宏彬看重的是這些場合能讓團隊認識不同領域企業,拓展未來合作的可能。包括Meet桃園+在內的創業輔導與產業交流平台,也為在地新創提供接觸產業資源的機會。

從光纖陀螺核心元件走向完整導航系統,再延伸至航太合作與海外市場,互宇向量逐步建立從任務規劃、技術整合到系統驗證的能力。接下來,如何運用桃園既有的電子製造與精密加工基礎,找到更多能共同開發產品的夥伴,將是團隊拓展國際市場的重要課題。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓