Google 搜尋結果的 AI 摘要建議人們用膠水把起司黏在披薩上、AI 生成圖像中的人物出現 7、8 隻手指...，這些由 AI 生成的品質低劣的內容，近期在網路上有了自己的名字：「Slop」。
《衛報》形容，過去在網路甫盛行時，最令人感到困擾的，莫過於轟炸收件匣垃圾郵件（Spam），如今 AI 的普及則讓用戶的瀏覽器也面臨同樣的狀況，充滿「Slop」。
為避免過多「Slop」，需明確標示、區別 AI 生成內容
科技新聞網站 404 Media 的寇比樂（Jason Koebler）認為，「Slop」的增加，會讓機器人和真人產製的內容大量混合，他形容這樣的現象為「殭屍網路」（zombie internet）。
掌握最新AI、半導體、數位趨勢！訂閱《數位時代》日報及社群活動訊息
Meta 全球事務總裁克雷格（Nick Clegg）表示，「隨著人類內容和合成內容之間的區別變得模糊，人們想知道界線在哪裡。」所以該公司正積極訓練其系統識別 AI 產製的內容，並予以標示。
對此，其他科技巨頭也都有動作，像是 Google DeepMind 開發 AI 檢測工具：SynthID。為 AI 生成圖片建立浮水印，或偵測 AI 生成圖片中的浮水印，以方便辨識圖像是否為 AI 生成。這個浮水印一般肉眼無法察覺，需要特定系統才能辨識，而且它也不會因為圖片被裁切、改變畫質、套用濾鏡而失效，甚至是以破壞性資料壓縮方式儲存圖片，該浮水印也不會消失。
除了檢測圖片外，Google DeepMind 希望 SynthID 未來還可以辨識影片或文字是否由 AI 生成。「雖然它仍不是解決 Deepfake 換臉技術或者任何惡意散播假圖片的萬用解方，但它在此領域絕對是一個重大突破。」Google DeepMind 指出。
今年 3 月底，YouTube 也正式要求其內容提供者表明他們的影片是否包含人工智慧生成的內容。
過多「Slop」，恐對用戶造成負面影響
西北大學機器人工智慧安全促進中心主任哈蒙德（Kristian Hammond）指出，現有的 AI 模型有個問題，就是以過於「正確答案」的方式呈現結果。
「當人們搜尋一個問題或東西，在過去的搜尋行為下，我們要瀏覽、要思考各種搜尋結果，」哈蒙德說，「但現在變成它直接給你答案，不鼓勵用戶思考，只想要你接受搜尋結果，我認為這很危險。」
搜尋引擎最佳化（SEO）平台 BrightEdge 執行長吉姆（Jim Yu） 同樣認為，AI 應用到搜尋引擎上，有可能會大大限縮用戶在瀏覽搜尋結果時的選擇，「原本搜尋引擎是在提取大量資訊後，為使用者提供連結跟選擇，但 AI 會直接給出答案，等於人們在缺乏選擇的狀況下被餵養特定結果。」他說，「若有不實或錯誤資訊、各種Slop出現時，這樣的呈現方法，更是雪上加霜。」
《衛報》指出，過去面對垃圾郵件，Gmail 等大型電子信箱都站在積極協助打擊垃圾郵件的發送者的位置，透過 AI 來偵測陌生的信件伺服器位置等等。然而，當前隨著 Slop 的氾濫，科技巨頭似乎更像是助長這個現象的催化劑，未來該怎麼杜絕垃圾生成結果，優化用戶體驗，是在應用科技之後，不可避免的課題。
資料來源：The Guardian、The New York Times、CNET
本文授權轉載自：未來商務
