近日，中國甘肅省警方拘留了一名涉嫌用ChatGPT編造假新聞的男子，這是該國自生成式AI蓬勃發展、並於今年一月正式頒布《互聯網信息服務深度合成管理規定》後偵破的第一起ChatGPT犯罪事件。
火車撞死9個人！用ChatGPT編造假新聞，男子遭到警方拘捕
根據甘肅省媒體的報導，中國甘肅省平涼市公安局崆峒分局網安大隊於4月25日在日常網路巡察的過程中，發現百度上出現一篇經查證後確認為虛假消息的新聞，內容稱該地區有一列火車撞到修路工人而導致9起死亡；並且在同一時段有21個帳號發布相同文章，已經達到了1.5萬餘次的瀏覽量。
經過警方調查，涉案百度帳號均隸屬於深圳的某家自媒體公司，在對電腦和帳號進行取證後，目前公司法人代表洪姓男子已經遭到拘捕。洪男表示自己為了賺取流量，購買大量百度帳號並透過網路搜尋總結出近幾年的熱門時事新聞，再使用ChatGPT將各類熱門新聞要素修改，編造出內容略有不同的假新聞且批量發布，以躲過百度平台的內容審查。
警方根據中國1月10日正式生效的《互聯網信息服務深度合成管理規定》進行偵辦，該法令規定使用人工智慧技術生成圖像、影片、文章等內容時，需特別標註為AI生成，以避免他人遭到混淆；同時也明確禁止用相關技術來製作、發布或傳播虛假資訊。洪男編造假新聞且散布在網路上供民眾瀏覽的行為，已經涉嫌尋釁滋事罪，須採取刑事強制措施，最高可判處五年有期徒刑。
值得注意的是，目前ChatGPT尚未在中國開放使用，使用者要透過VPN「翻牆」才可以突破該國網路限制。另一方面，中國也正試圖推出類似產品來抗衡ChatGPT，如百度旗下的人工智慧聊天機器人「文心一言」，不過除了要嚴格落實該國政府對於內容資料的審查和管制外，產品本身的技術也還不夠成熟，因此目前還正處於內部測試階段。
「ChatGPT剋星」來也！如何用GPTZero正確識別假新聞？
處於現今資訊大爆炸、各類消息充分流通的社會，如何正確判斷新聞來源的可靠性和內容真實性，對於我們而言是非常重要的一件事。隨著如ChatGPT等生成式AI工具的問世，雖然讓我們日常生活、工作學習等的效率提升，但同時也提高不法之徒利用AI工具犯罪的機率，該如何防範這種現象的發生呢？
號稱「ChatGPT」剋星的GPTZero，是一款由美國普林斯頓大學（Princeton University）華裔大四學生愛德華．田（Edward Tian）開發的應用程式，他表示：「人類有權利知道這些東西是否由AI所寫。」GPTZero能夠檢測文章是否由ChatGPT所撰寫，可以說是讓ChatGPT現出原形的照妖鏡，目前該軟體已累積超過120萬名用戶。
現在，GPTZero從Stability AI執行長等業界大佬手中，募集了350萬美元（約新台幣1.07億）的資金，並開始啟動一個名為「Origin」的項目，希望能用AI識別工具正確辨認出由AI生成的假新聞，達成維護新聞產業公平和秩序的最終目標。本週愛德華的團隊已經向曾擔任過BBC總裁、現紐約時報執行長Mark Thompson、路透社（Reuters）前任執行長Tom Glocer等資深媒體人展示了Origin的第一版樣本模型，目前該項目仍處於測試階段，未來若成功上線，想必將對整個新聞產業做出巨大貢獻。
資料來源：CNBC、CNN、Quartz、InvestorsObserver
責任編輯：蘇祐萱
