上週才剛發佈最新財報的Facebook，儘管營收數字亮眼，外界最關注的還是他們如何處理不當內容，特別是在月活躍用戶突破20億的今天，Facebook要如何維護世界近四分之一人口的社群內容安全也變得更困難。而從近期訪台的Facebook全球安全政策最高階主管Antigone Davis的談話，以下3個內容難題，不難看出Facebook仍未找到完美解方。
一、不當內容：標準難訂，統一規範也得因地制宜
如今暴力、色情內容已經不只能透過圖文傳播，Facebook推出的直播功能更讓這些不當內容防不勝防。
有關內容安全的審查，Facebook目前除了制定禁止不當內容的審查標準，也推出隱私設定、封鎖和檢舉等安全工具，並在全球設有六間社群內容政策辦公室。Facebook全球內容政策經理David Caragliano也特別指出，他們可24小時處理被檢舉的內容，包含中文內容。
掌握最新AI、半導體、數位趨勢！訂閱《數位時代》日報及社群活動訊息
此外，Facebook執行長佐克伯也才在上周的財報會議宣布，明年將加倍處理安全議題團隊的人力編制，擴大社群安全的投資，要來守護平台。
儘管Facebook內部自有一套內容標準，但Antigone Davis同意，作為跨國企業，很難將一套「安全準則」直接落實在文化和法規差異都很大的不同國家。例如，在台灣違法的內容，並不一定適用於Facebook下架文章的標準，而和當地組織合作便成為Facebook落實維護安全社群的重要策略。在台灣，網路內容防護機構iWin就扮演與Facebook溝通何謂台灣不當內容的橋樑。
二、假新聞：開放第三方組織「標記」，但效果有限
除了暴力、色情、仇恨言論等違反Facebook社群守則的內容，協助散布假新聞等不實訊息，也是Facebook一直為人詬病之處。
對此，Facebook全球內容政策經理David Caragliano坦言，這是很難解的問題，因為他們並非專門判定何謂「真實」內容的公司，目前傾向和第三方平台及媒體識讀專家合作。例如，Facebook在3月開放用戶和第三方組織替假新聞加上「有爭議」的標籤，並降低該篇貼文的觸擊率。
不過，這項政策迄今帶來的效果仍有限。曾有研究指出，標示警語對用戶判斷新聞真偽的幫助並不大，平均只能幫助3.7%的參與者更正確判斷假新聞，甚至會讓特定族群懷疑，該標籤是否是針對性地只對特定資訊進行標示，反倒造成反效果。
三、詐欺廣告：廣告審查標準更高，但仍有漏洞
比協助散布假新聞更糟的，或許就是利用散布這些不實訊息賺錢。曾被質疑假新聞影響美國總統大選的Facebook日前發現，在美國總統大選期間，該平台上有近五百個與俄國有關的假帳號，花了10萬美元、針對美國用戶投放三千則廣告。相較一般貼文，付費廣告可觸及到更多人、影響層面更大。
對此David指出，廣告內容不只須符合Facebook社群內容規定，還必須通過更嚴格的審查標準才能上架。只不過，從台灣層出不窮的Facebook網購詐騙，以及Facebook未能阻止俄國投放政治廣告的例子就能看出，目前Facebook的廣告審查仍存在漏洞，而這或許也是為什麼儘管Facebook最新一季的廣告營收成長近五成，股價卻反而下跌的原因之一。
打擊殭屍帳號，真實身份對安全社群的重要性？
除了事後審查內容，Facebook認為帳號真實性也是維護社群安全的關鍵之一，「相信當大家用真實身份在線上互動時，更能對自己的行為負責，」David說。因此，Facebook也利用人工智慧技術掃描行為異於真人用戶的帳號，試圖打擊殭屍帳號。
但除了Facebook本身，旗下Instagram、以及Facebook剛在10月收購的青少年社交app「TBH」，都不像Facebook規定用戶使用真實名字。對此，David表示，匿名確實增加管理的挑戰，但以Instagram來說，該平台對「霸凌」的審核標準就比Facebook更嚴格、有更多過濾器，需要用更積極的態度預防霸凌語言出現。
其實這些都不是只有Facebook一家公司會面臨的挑戰，只是當用戶規模愈大，無可避免也更容易被放大審視。但就如同先前YouTube曾因仇恨內容引發爭議，因此加快腳步將機器學習用於主動辨識不當內容，並在今年9月已經達到83%的極端影片可在被檢舉前先辨識出來一樣，這些挑戰，或許也會成為促使Facebook技術前進的一大動能。
