Google版《黑鏡》真實上演,全面搜集數據改變人類行為

2018.05.21 by
高敬原
Netflix官網
Google一支內部影片「自私的帳本(The Selfish Ledger)」外流,描述透過個人不斷累積的數據資料,進一步影響用戶行為,甚至引導群體行為的改變,宛如科幻影集《黑鏡》情節。而這種使用數據的手法,會是我們的未來嗎?

我們都知道生活中常使用的Google、Facebook這類網路服務,會無時無刻蒐集關於你我的資料,但如果這些數據會進一步影響你的思緒、行為,那麼是不是就有如探討人性黑暗層面與科技衝擊的英國影集《黑鏡》中的場景,令人感到恐懼不安呢?

最近Google一支內部影片「自私的帳本(The Selfish Ledger)」外流,當中描述透過個人不斷累積的數據資料,進一步影響用戶目標、思緒、行為,甚至可以藉由引導群體行為的改變,來改善氣候、貧困、疾病這類棘手的全球問題,而這種使用數據的手法,真的會是我們的未來嗎?

記錄個人資訊的「數據帳本」

先前鬧得沸沸揚揚的劍橋分析濫用個資事件,以及將於本月生效的歐盟通用資料保護協議(GDPR),都讓握有大量用戶數據的公司,在處理攸關隱私的數據、資料上顯得更加謹慎小心。

最近一支名為「自私的帳本(The Selfish Ledger)」的Google內部影片外流,影片是2016年由Google X 實驗室(Google X)主管Nick Foster製作,影片標題是致敬英國演化生物學家理查·道金斯1976年的知名作品《自私的基因》,書中描述一種演化的想像,認為物種的進化是為了提升「整體適應度」,將自己好的基因儘可能多傳給整個群體,目的是要讓整個群體朝進化穩定策略(evolutionarily stable strategy)進化。

Google內部外流影片,「自私的帳本(The Selfish Ledger)」。

在這支將近9分鐘片長的影片中,先由生物學家拉馬克(Jean-Baptiste Lamarck)的演化理論談起,概念是生物會將經過「內部編碼」的基因傳給下一代,藉此來形塑生理特徵。影片中描述,當今大眾使用手機,其實就是一個不斷改變自我的過程,這些行為數據會累積成一個「帳本」,一旦這種檔案被建立,數據就能改變一個人的行為,甚至還能在用戶之間轉移,這個概念就跟上面提到的演化理論相呼應。

以完成目標為導向,連缺漏的數據也能補

回想一下,我們平常用手機的狀況,任何適用的習慣都會變成數據紀錄,從數據就能看出一個人的行為、決定、喜好之間的關聯,影片中的觀點認為,紀錄我們個人資訊的「數據帳本」,就像是「拉馬克式表觀基因組」(Lamarckian epigenome),是一個關於我們自己,以及不斷演化的一種呈現方式。

而如果數據不僅單純紀錄,而是給予數據一個明確的目標,建立豐富的數據帳本,是不是有可能透過影響群體,進一步改變世界呢?

例如,假使你的目標是要減肥,那麼系統一旦偵測到你在手機上叫外送,就會優先推薦你購買健康食物,讓你吃得更健康、保護環境、支持地區小店等,來反映 Google 本身的價值;或是用手機叫車時,也能透過數據引導用戶,去嘗試更環保的交通方式。

不過比較可怕的是,即便系統缺少了一個關鍵數據,他也能透過影響用戶行為來填補,例如延續剛剛的減重目標,系統一直沒能掌握體重資料,為了填補這個空白,數據帳本會開始搜尋可以測量這項數據的裝置,像是數據帳本就會一直推薦你去購買體重計,甚至透過3D列印,直接做一台體重計給用戶,藉此取得體重數據,增加對用戶的理解。

缺少體重資料,數據帳本就會推薦用戶去購買體重計。
YouTube

數據累積,就像是不斷演化的基因

在這套概念中,數據帳本是「目標導向」的,影片中所想像的未來,數據帳本能夠不斷學習、填補空白知識,從決策建議、行為改變都會由受目標驅動的數據帳本執行。

製作影片的Nick Foster認為,「藉由代代相傳的用戶數據,新用戶可以從上一代的行為和決策中受益。」因此這套系統就像不斷演化的基因,藉由挖掘人類行為模式數據,像基因組一樣排序,就能對未來的行為作出更準確的預測,甚至理解人類面對抑鬱、健康、貧困背後的原因,再透過影響用戶的日常行為,讓所有人類的行為模式更加完善。

製作影片的Nick Foster認為,「藉由代代相傳的用戶數據,新用戶可以從上一代的行為和決策中受益。」
YouTube

能夠做到這樣的未來,是因為Google擁有接收龐大用戶資料的權限,影片中沒有對隱私問題多加著墨,當數據帳本餵養的胃口越來越大,無形之中將影響你我的決策、行為、思緒,宛如影集《黑鏡》的場景,這才是讓人看了這部影片後,感到恐懼、不適的原因。

那麼這樣的概念真的會實現嗎?Google發言人表示:

我們知道影片讓人很不安,但這正是影片的目的,這是設計團隊多年前的思想實驗,採用「思辨設計」(speculative design)的技巧探索令人不舒服的想法和概念,目的在激起討論及辯論,影片跟目前或未來研發中的任何產品都無關。
Google

從Google專利,看見數據帳本影子

話雖如此,但Google現在提供的服務,某種程度也在左右你我的決策,像是Google Maps、Google Assistant、Gmail,都是透過分析用戶數據,根據所在位置、過往喜好,推薦用戶路線、餐廳、分類信件等等。

另外,Google在2015年申請的一項專利中也很有「自私的帳本(The Selfish Ledger)」的影子,這款專利名稱為「檢測及糾正用戶行為中的潛在錯誤」,這套系統會根據Google所掌握的用戶資訊,糾正用戶的行為。例如,你正在開車前往參加一場晚宴,系統已經從Gmail中,掌握了活動的時間、地點,一旦行徑的方向錯誤,手機就會發出通知提醒用戶,在你完全沒有開起導航、Google Maps的情況下,就能修正用戶行為。

Google在2015年申請的一項專利中,就很有「自私的帳本(The Selfish Ledger)」的影子。
YouTube

儘管Google強調這支影片跟任何旗下產品都無關,但從當中的概念也不難窺見Google使用數據的野心,這種讓人感到不安、被數據影響行為決策的未來,儘管不會現在就實現,但也提供了人們一組對照,提醒數據使用確實存在的黑暗面。

這部影片扁平的旁白配音、重複循環的鋼琴伴奏配音,加上冷色調的影片畫面,讓人有如在看一部《黑鏡》的番外篇,成功營造一股讓觀眾不安的氣氛,不僅資訊讓人感到恐懼,影片拍攝手法也成功跟主題相扣,難怪Google的發言人會說:「我們知道影片讓人很不安,但這正是影片的目的。」

資料來源:BIThe VergeFortune

延伸閱讀

每日精選科技圈重要消息