大數據錯了嗎?在監控之外的兩個隱憂

shutterstock
這一兩年來,對大數據應用的吹捧喊得震天價響,但是,對作為資訊社會研究者的我來說,在面對大數據的熱潮時,反倒是想談談大數據「科技發展」背後的隱憂。

這一兩年來,對大數據應用的吹捧喊得震天價響,前陣子還有知名人力銀行副總以「對岸在講大數據,我們在講滷肉飯」一語,批評台灣的「不思進取」。到底滷肉飯是不是真的就不如大數據,有興趣的朋友可以翻翻幾個月前的爭論。對作為資訊社會研究者的我來說,在面對大數據的熱潮時,反倒是想談談大數據「科技發展」背後的隱憂。

對於大數據及其應用的批判當然不新鮮。例如,當中國於2015年推出「芝麻信用」時,就已有人將其稱為「老大哥數據」,認為它將如同喬治‧歐威爾(George Orwell)小說《1984》中的「老大哥」般,全面監控人們的生活。差別僅在於,芝麻信用的工具不是無數的監視攝影機,而是由個人數位足跡匯聚而成的大數據。

不過,我相信很多人不太擔心這類監控的問題。如同我曾在課堂上詢問學生時得到的回應,對他們來說,這類消費行為的紀錄本來就是一種交換,為了便利的生活,這是可以付出的代價。或者,我們也經常聽到的一類說法:只要不做「壞事」何必怕被監控?

因此,我就不再討論監控、隱私與自由的問題,先退一步,讓我們的數位足跡被記錄與收集──不管是要忽略這些資料實際上是我們的隱私,還是要假裝政府或企業不會「刻意監控」自己──接著,我要指出,在監控之外,大數據的應用至少還隱藏兩個令人擔憂的問題。

大數據作為數學毀滅性武器

首先,是凱西‧歐尼爾(Cathy O’Neil)在《大數據的傲慢與偏見》中提出的論點。凱西‧歐尼爾是一位投身過金融界、新創企業的資料科學家。在這本於今年6月翻譯出版的書裡,他指出許多領域中大數據應用的「危害」。她主張:相較於其帶來的好處,大數據一不小心就可能成為一種「數學毀滅性武器」。這聽起來驚悚,但事實上,從凱西‧歐尼爾所舉出的案例來看,一點也不誇張。

例如,一個案例是關於美國華盛頓特區的教育當局在2009年採用了一套教師評價系統,透過這套以數據為基礎的系統評估「優化」學校教育。然而,看似合理的、科學的評價機制,最後卻讓一位受到好評的教師評價分數未達標準而被迫去職。

另外一個案例則是2013年美國賓州的一個小城市,當地警察局長為了因應警力短缺的窘境,引入了一套犯罪預測軟體。這討軟體透過分析犯罪歷史數據,預測最可能發生犯罪活動的地區。一年後,整體的犯罪率確實下降了,但副作用卻是那些較常發生輕微犯罪事件的貧困社區,在數據的回饋作用下愈加成為警力佈署的重點區域,進而使得生活在這些地區的窮人們得忍受不合理的盤查甚至拘捕。

在歐尼爾看來,上述兩個例子中的大數據應用都成了一種毀滅性武器。這些應用都透過一定程度的「不透明」模型,危害了某一群人的利益或甚至生存機會。

也就是說,對這些「受害者」來說,他們即便知道有某些資料、數據被收集用作評價或預測,但無從得知「運算」如何決定。這些據說客觀、科學,實則神祕的數據模型,直接或間接地影響他們的生活與生命。

換言之,即便接受大數據的「監控」,我們還是得問,透過大數據應用,我們就能得到「好的」答案嗎?

在凱西‧歐尼爾提供的幾個案例中,我們可以看到,這些大數據應用確實有其「效果」,如淘汰某些不適任的教師、降低了犯罪率。但它也同時危害某些人,甚至某群人的生活與生存機會。

更重要的是,面對幾乎「不透明」的數據模型,我們可能連反省、申訴或改變的機會都沒有。

數據主義與「人」的未來

不過真要說到「毀滅性」,我認為大數據應用真正帶來的風險隱憂反而得回到關於「人」的定義上來談。相較於傳統人文主義將「人」視為獨立自主的個體,《人類大命運》的作者哈拉瑞(Yuval Noah Harari)認為,大數據發展所預示的未來中,「人」恐怕將失去這樣的特殊性。

哈拉瑞指出,如今我們全都是一個新興宗教的信徒:數據主義。我們可以把這種數據主義的信仰,看做是推崇大數據應用到極致的一種版本。這樣的數據主義信念,不僅透過資料數據判斷、預設人們的行為,實際上更是將「人」看做各種資料、數據的積累

換言之,在數據主義看來,一切都是由「資料流」組成。這看似科幻電影的情境,其實早已隨著2010年前後「量化自我」與「量化生活」等概念的出現,成為現實。

我們手上戴著能夠即時監控生理數據的數位裝置、我們使用蒐集身體內部資訊進行病理判斷的各種醫療科技(如fMRI、基因檢測)、我們在網路及社群媒體上留下的照片、記錄及各類數位足跡,這些資料、數據不僅堆疊成為「我」,還成了各種演算法決定我的選擇與行為。

如同哈拉瑞說的,也許不久的將來,「人」將從(自視的)設計者降級成資料數據,最後溶解在滾滾的宇宙資料流中。因此,相較於期待有「好的」大數據模型的凱西‧歐尼爾,哈拉瑞所看到的數據主義問題,從強調「人」的特殊性的人文主義的角度來看,更具「毀滅性」。

無論是「數學毀滅性武器」還是「數據主義」,這些概念都提醒我們:所有的科技都是雙面刃。大數據看似是隨資料科學與數位科技進步而出現的「禮物」,但它必然也同時內蘊著我們必須面對的風險。

《數位時代》長期徵稿,針對時事科技議題,需要您的獨特觀點,歡迎各類專業人士來稿一起交流。投稿請寄edit@bnext.com.tw,文長至少800字,請附上個人100字內簡介,文章若採用將經編輯潤飾,如需改標會與您討論。

(觀點文章呈現多元意見,不代表《數位時代》的立場。)

追蹤我們