你我可能都有所察覺，大眾的生活越來越離不開社群軟體。
我們早起的第一件事不是上廁所，而是打開手機、檢查訊息；睡前的最後一件事也不是說晚安，而是在說完晚安後還得再滑一下社群平台的頁面。
但是，Netflix最新的紀錄片《智能社會：進退兩難》（The Social Dilemma）要說的，並不是「社交網路侵蝕了我們的現實生活」這種俗套的觀點，相反的，《智能社會：進退兩難》是在逼迫我們思考一個簡單的問題：為什麼這些社群APP都是免費的？為什麼用戶們使用產品卻不用付錢？
面對大多數時候以免費面目示人的網際網路，我們很容易忽略一個基本的事實：免費從來就不是一種商業模式，廣告才是。《智能社會：進退兩難》揭開了這種「免費」背後的真相：在靠廣告盈利的商業模式下，每一個公司都在拼命研究怎樣吸引用戶的注意力，好向廣告商賣出更高的價錢。
為了達成這個目的，網路巨頭們不惜研究人類的成癮機制，誘導人們產生依賴。然而，演算法的副作用也隨之顯現——假新聞各處亂竄、政治極化、青少年自殺率激增等等，最終就連開發者本身也深陷演算法的枷鎖而無法逃脫。
運用90分鐘，《智能社會：進退兩難》說明了一個道理：如果你沒有花錢買產品，那你就是被賣的產品。
商業模式之惡
世界上沒有真正免費的軟體。如果你沒有付錢，那真相只有一個，就是你付出了比錢更重要的東西：隱私和時間。
但對大多數人來說，隱私本身並不是我們最在意的問題。面對網路的便利性，人們紛紛從私密性更好的傳統通訊方式倒戈向社交網路。很多人會想，Google只是一個搜索框、Facebook只是一個看朋友們動態、照片的地方，就算它們知道搜尋過那些內容、正在關注誰，又能怎樣呢？
然而，人們沒有發現的是，利用這些私密訊息，平台能更容易奪取他們的注意力，並且把他們的注意力和時間打包賣給廣告商。
羅傑．麥克納米（Roger McNamee）是矽谷著名投資人，也是Facebook的早期投資者之一。麥克納米在片中表示，矽谷的商業模式已經出了「道德問題」。
「在矽谷的前50年，公司製造產品賣給顧客。例如，微軟賣給顧客軟體、蘋果向顧客販賣電腦，這都是簡單又健康的商業模式。」麥克納米說，「然而，過去10年，恕我直言，矽谷最大的公司們一直在做賣用戶的勾當。」
「我們不為社交產品付錢，為產品付錢的是廣告商。我們不是顧客，廣告商才是顧客，而我們是被銷售的產品。」
因此，在目前的商業模式下，用戶不用付出隱私成本就能獲得服務幾乎是不可能的。如果社交軟體不收取廣告商的錢，轉而向用戶收取營運公司和APP所需的費用，例如用戶每滑1小時社交平台就要支付一定費用，這種模式行得通嗎？
以Facebook為例，根據本年度第一季財報，Facebook第一季度來自廣告業務的營收為174.40億美元，同時期Facebook月活躍用戶約為27億。也就是說，Facebook每季度至少要向每位用戶收取220元才能維持目前的收入水平，這還是在所有用戶仍願意使用收費版Facebook的前提下。
離不開手機？你被「控制大腦」了
不過，也有不少人對技術持樂觀態度，認為社交網路只是人們溝通交流的工具，就算它們利用用戶隱私猜出喜好，進而推薦用戶更需要的商品和更愛看的內容，也沒什麼不好的。例如，年輕時的賈伯斯曾經在某個訪談中說到，電腦和網際網路是人類最棒的工具，就像是給思想裝上了自行車。
然而，工具的一大特徵是，當你沒有使用工具時，工具會靜止不動也沒有任何意志。但，社交軟體卻是有意志的，也就是開發者的意志。它會不斷地引誘用戶去打開它，推送用戶喜歡的內容並佔據其時間，不停地跳出提醒來爭奪用戶的注意力。簡單來說，就是讓用戶上癮。
所有把社交軟體當成單純的工具的人，都選擇性忽視了廣告商對生活方式的滲透，也忽視了網路依賴對現實生活產生的影響。當你放下自行車，你不會感到煩躁、空虛，甚至是疲憊，但刪掉社交軟體你可能會。
然而，產生離不開手機的感受並不意味著個人自制力的下降，而是因為世界上最聰明的一群人每天都在研究如何讓人成癮。《智能社會：進退兩難》裡也說明了這一點。
在史丹佛「勸服技術實驗室（Persuasive Technology Lab）」，學者們研究著如何利用已知的心理學知識來改變他人的行為。許多矽谷的著名人物都曾是這個實驗室的學員，其中也包括Facebook、Uber、Twitter、LinkedIn等公司裡負責用戶成長的關鍵人物。
Google前設計道德倫理學家特里斯坦．哈里斯（Tristan Harris）也是其中的一名學員。特里斯坦表示，很多看似「無意識」的設計，都是為了潛移默化地改變用戶的行為，培養用戶使用手機的習慣。舉例來說，最常見的下拉刷新的設計，其實原理和賭博的角子老虎機一樣，都是一種正強化的過程（Positive Reinforcement）。用戶每次下拉軟體就像是拉動老虎機的把手，每次都能獲得未知的新獎勵，長久下來，用戶就形成了無意識滑手機的反射，哪怕明知道沒有新訊息，也會忍不住下拉刷新。
除了下拉刷新之外，朋友在照片中標記你時軟體會跳出提示、聊天時顯示對方「正在輸入」、主動告訴你每個朋友的新動態，都是社交網路為留住你所做的努力。
社交軟體不僅希望在用戶有需求時打開它，同時也希望在用戶沒有需求的時候也離不開它。
表面上，廣告商買的是用戶的注意力及時間。但本質上，廣告商買的產品其實是用戶行為和認知的潛在變化——改變用戶的生活方式、改變用戶的想法，直到改變用戶個人。這是一種循序漸進的變化，幾乎不可能被察覺。
助長假新聞的沃土
如果說「賣用戶」的商業模式和「讓用戶上癮」的設計都是在開發者的計算之中，那接下來的發展便是連開發者也沒有料想到的。
由於演算法僅透過用戶行為來判定用戶的興趣，在增加用戶停留時間的最終目的之下，演算法會向用戶推薦更多強化用戶已有觀點的相關內容。用戶一眼望去都是相同的觀點，每天接觸到的全是同種類的資訊——用戶愛看什麼，平台就推播什麼。
在這種邏輯下，假新聞和陰謀論便得以快速傳播。《智能社會：進退兩難》裡提到了「地平說」的例子。NBA著名球星凱里．厄文曾公開表示自己認為地球是平的。在慘遭公眾批判後隨即上節目道歉，稱自己對地平說信以為真是因為在YouTube上看太多陰謀論的相關影片。「你點進一個YouTube影片，就像掉進了一個兔子洞。」歐文說，「接著，平台就會向你推薦更多同類型的影片，漸漸地，你也可能相信了。」
以用戶黏性和使用時長作為唯一導向的演算法，不僅滋養了陰謀論和假新聞，也讓人們的政治觀點越來越極端，變得難以調和。皮尤研究中心曾對1萬名成年美國人進行調查，發現美國人比任何時候都更加分裂。而近期這段日子裡，美國人的政治兩極分化更是達到20年以來的最高點。然而，兩極分化的程度與社交網路的普及程度呈正相關。
社交網路也帶來越來越多始料未及的負面作用。統計數據顯示，美國15～19歲女孩的自殺率比21世紀初提高了70%，而10～14歲女孩的自殺率則增加了151%，自殺率激增的拐點同樣產生於社交網路誕生的那一年。
面對越來越多社交網路引發的負面新聞，這些「上癮演算法」的開發者們也開始感到警惕。
在《智能社會：進退兩難》中，開發者們紛紛表達了他們對未來的不安。特里斯坦．哈里斯提到，在人類歷史上從未有過像今天這樣的情境——幾十個加州的年輕白人男子圍坐在一起，就能決定幾億人的行為習慣。出於對自己所處行業的反思，特里斯坦．哈里斯已經從Google離職。
Facebook按讚機制的發明者賈斯汀．羅森斯坦（Justin Rosenstein）則表示，自己一開始發明按讚機制絕對是出於好意，「想要讓人們表達愛」，但如今看來，這個功能似乎「把人們引向了反烏托邦」。現在，羅森斯坦已經卸載了大多數的APP，關掉所有的程式通知，用沉默的對抗來回應這一切。
社交網路為大眾帶來的「智能陷阱」，現今仍未有最好的解決方法。或許在未來，政府可以向收集數據的行為徵稅，就像對石油徵稅一樣，或者像歐盟一般，積極制定數據安全法，給用戶回溯、消除數據的權利。
其實我們已經能預見這樣的結局 —— 看到網路公司利用強大的人工智慧，研究如何操控用戶的注意力，讓用戶去看他們想傳遞的東西，而不是讓用戶看符合其價值觀的東西。
最諷刺的是，用戶能看到這部影片，本身就是一種《智能社會：進退兩難》的表現：只要擁有Netflix的帳號，Netflix就能知道用戶們喜歡看的影片類型，而這部影片才因此出現在首頁上。
責任編輯：文潔琳
本文授權轉載自：品玩