知名網紅小玉涉嫌去年7月起利用網路換臉技術，將知名人物雞排妹、高嘉瑜等人頭像移花接木成性愛影片，百人受害，不法所得逾新台幣上千萬元，刑事局循線昨天逮3嫌送辦。
經警方調查了解，主嫌小玉主要負責剪輯影片和回覆網友留言，共犯莊男負責找影片素材和整理，耶女則是處理金流。
小玉到案供稱，起初只是在20多人朋友群組分享有趣的剪輯影片，但隨著人數增長，才轉而藉此牟利。
全案詢後，刑事局於今天將3嫌依涉散播猥褻物、妨害名譽等罪解送新北地檢署偵辦。
刑事局今天召開破案記者會，偵查第四大隊副大隊長柯志仁表示，警方日前執行網路情蒐時，發現數名網紅、藝人的性愛影片自去年7月起於網路上流傳，但求證發現均非本人所拍攝。
警方進一步追查發現，上述影片是從社群軟體推特粉絲團「台灣網紅挖面」所流出，犯嫌透過人工智慧換臉AI Deepfake技術，將多名知名網紅、藝人或政治人物的臉部圖像移植到色情片AV女優身上，再後製成色情影片販售得利。
犯嫌先在推特上發送廣告招攬會員，有興趣者須先匯款支付400至1900元不等的費用，才能加入其通訊軟體Telegram群組會員，或是得到影片連結雲端網址，進而觀賞上述變臉謎片。
專案小組透過科技偵查發現，經營「台灣網紅挖面」的主嫌為26歲朱男，他也是知名百萬YouTuber小玉，其團隊還會在粉絲團的私密聊天室不時舉辦「票選」或「集資」活動，選出知名人物擔任性愛影片主角。
警方初步估計，小玉等嫌至今年10月初不法獲利約1100萬元，招募會員逾8000人，且已知變臉影片受害者超過上百人，包括藝人鄭家純（雞排妹）、YouTuber奎丁和立委高嘉瑜都在內。
專案小組經長期偵蒐，見時機成熟於昨天持搜索票到小玉位於新北市樹林區租屋處執行搜索行動，現場拘提小玉、22歲莊男和24歲耶女到案。
現場查扣現金458萬餘元、金融帳戶存簿13本、電腦2台、硬碟2顆、手機2支、百萬名車1輛等證物，並由法院裁定扣押不法金流共3筆。
受害者高嘉瑜：數位性暴力應立法管制
近期網路流傳「AI 換臉」色情試看片，民進黨立委高嘉瑜也受害，她今天批評這是無法可管的性暴力，主張將「AI換臉」濫用視為獨立犯罪行為，並明文規範其刑事、民事與行政責任。
對此，高嘉瑜今天在臉書發文表示，這些在網路上未經同意而被換臉、製成色情片的受害者將近百人，規模驚人，除了知名網紅、藝人明星，也不乏女性政治人物，這樣的行為早已對女性的名譽造成不可抹滅的侵害。
高嘉瑜認為，未經本人同意而發布的AI換臉影片，其實就是一種變相散播假訊息的行為，但綜觀現行針對假訊息管制的法規中，卻僅針對災害、食品、傳染病等假訊息才有做特別規範，對於AI換臉造假的影片目前仍無法可管。
高嘉瑜表示，她未來將參考國際作法，致力於推動台灣AI換臉管制的相關法令，包括建立獨立的網路影像真實性查核單位、提高網路平台對於用戶發布內容之監督責任、將AI換臉的濫用視為獨立犯罪行為，並明文規範其刑事、民事與行政責任。
在技術層面上，高嘉瑜說，可開發相關人工智慧工具進行因應，例如美國新創公司Deeptrace已開始著手研發深度偽造辨識技術，以辨識影片的真偽。
本文授權轉載自：中央社
【熱門焦點】
1.中國如何度過這波「限電」難關？從用電大國看全球離能源轉型還有多遠
2.全球首輛「飛行重機」亮相，可飛到4500公尺高空！還有哪些驚艷特點？
責任編輯：傅珮晴、錢玉紘
