舊金山對18家「深度偽造」網站提告
生成式AI是人人唾手可得的工具，只要有手機，就能隨時利用該技術提高工作效率。然而對有心人士來說，AI卻也能演變為一種新的犯罪途徑。
近日，美國舊金山政府對18家網站和應用程式提起訴訟，這些網站非法生成未經同意的裸照，而這些網站在2024上半年就有超過2億次的訪問。
舊金山城市檢察官邱信福（David Chiu）在發表訴訟聲明時表示：「這些網站所做的並非技術創新，而是性虐待（sexual abuse）。」該訴訟要求，每次違規行為發生時都要罰款2,500美元，且所有相關網域註冊商、網路託管服務及支付服務都必須停止協助這些網站營運。
根據外媒《Fox59》報導，這些網站提供「脫衣」或「裸體化」服務，讓用戶可上傳圖片來生成看似真實的裸照。
這些服務不僅侵犯隱私權，還助長網路霸凌、勒索和針對女性及未成年女孩的羞辱。 且許多受害者根本不曉得如何移除圖像，最終只能無助地承受心理、情感、經濟和名譽上的損害。
兒童色情內容隱患
邱信福指出，特別令人擔憂的是，某些網站甚至允許用戶生成兒童色情內容（CSAM）。由於這些圖像是由AI生成的， 因此執法部門和相關機構會很難分辨哪些圖像涉及真實受害者，導致無法有效對實際受害者提供救助和保護。 因此，打擊和預防兒童性虐待可能會變得更加困難。
外媒《Decrypt》指出，即便大型科技公司承諾在開發AI時會優先考慮兒童安全，但史丹佛大學的研究人員發現，這類不法內容已經滲透到某些AI資料庫當中。為制止這類犯罪行為，路易斯安那州已開始實施專門禁止AI生成兒童色情內容的法律。
邱信福表示，生成式人工智慧具有巨大的潛力，但和所有新技術一樣，也伴隨著意想不到的後果，並且有犯罪人士試圖利用這項新技術。
此外， 這是一個重大且涉及多方面的問題，需要全社會共同努力來盡快解決 。邱信福呼籲大家都應盡自己的一份力，打擊利用AI來剝削和虐待真人，包括兒童的惡意行為者。
這起訴訟的影響，除了停止這些深度偽造（Deepfake）色情網站的運作外，也成為打擊此類犯罪的先例。隨著科技的進步，新的挑戰層出不窮，然而，對於這些利用新技術進行性虐待和種種的犯罪行為，各國政府和組織都必須加強監管，應對其帶來的道德和法律挑戰。
