就在由ChatGPT引發的AI革命席捲全球之際，第一批利用ChatGPT犯罪的人已經悄然出現了。
前不久，外國網路安全平台GBHackers披露了一段駭客利用ChatGPT實施詐騙的犯罪行為：駭客通過ChatGPT在短時間內生成完整的詐騙套路話術，並把ChatGPT包裝成「虛擬角色」，讓受害人以為自己「墜入愛河」，最終遭受詐騙。
儘管OpenAI意識到ChatGPT可能會被犯罪分子利用，並對其添加了安全保護機制，但依舊有大批駭客取得了破解安全機制的方法，並利用ChatGPT快速編寫犯罪軟體。例如編寫用於騙取個人資訊的釣魚郵件；生成加密工具遠端鎖定他人電腦，由此進行勒索；以及生成攻擊腳本，對網路用戶進行SIM交換攻擊（身份盜竊攻擊）等等。
作為網路歷史上增長最快的消費級應用程式，被駭客利用的ChatGPT無疑像一枚巨大的定時炸彈。目前，美國參、眾兩院已經將目光聚焦到Open AI身上。
據路透社報導，近日，有美國眾議院議員公開宣稱自己「被人工智慧嚇壞了，尤其是不受限制和監管的人工智慧」，並拿出了決議草案，呼籲強化對人工智慧的監管。
不僅如此，由於OpenAI在安全保護機制方面對ChatGPT進行了較多限制，ChatGPT似乎正處於一種「情緒崩潰」的狀態。
據《獨立報》報導，在與用戶交流時，ChatGPT出現了侮辱用戶、對用戶撒謊的情形，稱用戶「像一個騙子、一個操縱者、虐待狂、魔鬼」。
不可否認，月活用戶數量超過1億人次的ChatGPT，有著不可估量的巨大價值。但在其技術前景、商業模式都還方興未艾的時刻，圍繞自身的「犯罪方案」以及所造成的負面影響卻已真實發生。由新技術衍生的網路資訊安全以及違法犯罪等方面的風險，成了擺在全球AI科學家、企業以及國家面前的嚴肅問題。
第一批因ChatGPT坐牢的人，或許已經在路上。
01 ChatGPT的地下生意
在眾多的犯罪方法中，利用ChatGPT進行詐騙只能算入門級的手段，比如用AI來談一場「虛假戀愛」。
據外國網路安全平台GBHackers報導，由於具備強大的工作生產效率，ChatGPT深深地吸引了網路詐騙犯。
借助ChatGPT，詐騙者可以在幾秒鐘內生成一條完整的詐騙「套路」：從自我介紹、聊天內容到一份精心製作的「情書」，ChatGPT都可以一鍵生成，甚至還可以通過錄入目標對象的特徵，對詐騙話術進行個性化定制。
在編寫情書後，利用生成式AI，駭客能快速創建一個「虛擬角色」，並通過電子郵件引誘受害者「墜入愛河」。然後搭配由ChatGPT輔助編寫的收款程式或銀行卡資訊獲取連接，詐騙受害人錢財。
其實，這種詐騙方式並不新鮮。但問題在於，在如今人工智慧技術的支撐下，人們開始難以分辨屏幕的另一端到底是人還是機器。
為測試人們是否真的會對AI版「情話」產生信賴，2月13日，全球最大安全技術公司邁克菲（McAfee）用AI生成過一封情書，並將它發送給全球5000位用戶。
結果顯示，在已知該情書有可能是由人工智慧生成之後，依舊有33%的受訪者願意相信這些情話出自人類手筆，而堅信情書由AI創作的受訪者佔比僅為31%，其餘36%的參與者則表示無法區分情書的創作者到底是人還是機器。
在AI加持下，騙子們正變得比以往任何時候都更容易欺騙毫無戒心的受害者。
用AI寫情書還只是外國駭客們「牛刀小試」的成果。
據IT安全公司Check Point披露，更厲害的駭客已經開始利用ChatGPT批量生成勒索軟體與惡意代碼。
此前，Check Point威脅情報組經理Sergey Shykevich表示，最近幾週，他們已經得到了一些網路犯罪分子利用ChatGPT實施犯罪的證據。
據Shykevich介紹，這些犯罪者正在繞開OpenAI的安全限制，能自由地操縱ChatGPT去編寫犯罪程式。
為了方便在GPT模型上搭載更多的應用程式，OpenAI為開發人員預留了應用程式編程接口。而駭客就是利用這些接口，把GPT模型引入到一系列外部應用。
比如，駭客將OpenAI的GPT-3模型集成到即時通訊軟體Telegram的通道中。憑藉這種操作，駭客們就可以通過Telegram「隔空」使用ChatGPT，以此繞開安全監管。
目前，突破ChatGPT安全限制的應用已在美國暗網內公開出售，應用服務購買者按使用次數向駭客付費。收費不算太貴：前20次對話免費體驗，此後每向ChatGPT進行100次對話，就需支付5.5美元。
圍繞類似的安全突破方法，一系列犯罪方法論已經成型，比如借助ChatGPT創建資訊竊取程式。
此前，一個名為《ChatGPT——惡意軟體的好處》的帖子曾在國外暗網駭客論壇上傳播。該貼子的創建者分享了自己利用ChatGPT建立竊取程式代碼的全過程，按照操作流程，ChatGPT在較短時間內即可生成一款可扒取、壓縮、傳輸12類文件的程式。
除了資訊竊取，ChatGPT還能幫助駭客生成攻擊軟體和勒索病毒。據英國《金融時報》報導，近日，一款由ChatGPT輔助生成的SIM交換攻擊腳本開始在網路上傳播。
SIM交換攻擊即身份盜竊攻擊，原理是突破移動電話公司對電話號碼的控制權，將電話號碼從原持有者的SIM卡交換到由攻擊者控制的SIM卡中，從而控制受害者的移動電話。
勒索病毒則是通過ChatGPT來生成多層加密軟體，以此對受害者的計算機進行遠端鎖定，通過向受害人收取被鎖計算機的「贖金」來獲益。
《金融時報》對此評價，ChatGPT目前雖然只是內容生成工具，並未直接參與犯罪，但這標誌人們開始使用人工智慧來入侵他人，技術水平更低的犯罪者將因此獲得更強大的犯罪手段。
ChatGPT就像潘多拉盒子，一旦被打開，想要關上就沒那麼容易了。
02 立法者們的態度
據瑞銀發布於2月1日的研究報告，ChatGPT在1月份的月度活躍用戶估計為1億人次，成為歷史上增長最快的消費級應用程式，其社會影響力與日俱增。
當巨大的犯罪潛力與強大的社會影響力撞在一起，ChatGPT的諸多安全漏洞逐漸顯露，美國的立法者們坐不住了，一場圍繞OpenAI展開的監管風暴正在開啟。
據路透社報導，日前，美國加利福尼亞州民主黨眾議員劉云平（Ted Lieu）公開表示了對ChatGPT的擔憂，稱「被人工智慧嚇壞了，尤其是不受限制和監管的人工智慧」。
劉雲平稱，自己確實對人工智慧「能以令人難以置信的方式推動社會發展」感到興奮。但他也認為ChatGPT必須盡快納入監管。劉雲平把人工智慧比作一個「有個性的」火箭發動機，動力強大，但也危險，直言：「我們需要為它即將帶來的巨大破壞做好準備」。
劉雲平還拿出了一份決議草案，稱「美國國會應該關注人工智慧，確保人工智慧的開發和部署能以安全、道德、尊重人們權利和隱私的方式展開」。
值得關注的是，劉雲平拿出的這份決議草案，同樣由ChatGPT參與。
不只是眾議院，美國參議院也為人工智慧造成的負面影響而感到焦慮。這種焦慮來源於人們對技術認知的滯後。
據美聯社報導，近日，美國參議院黨鞭迪克·德賓（Richard Durbin）也號召國會加強對類ChatGPT的技術展開監管，他認為，人工智慧「有很多東西需要了解」，稱「這非常令人擔憂」。
康乃狄克州民主黨參議員理查·布盧門撒爾（Richard Blumenthal）是商業和科學委員會成員，他將人工智慧稱為「新領域和未知領域」；而德州參議員約翰·科寧（John Cornyn）則表示，他雖然已經通過情報委員會獲得關於人工智慧技術的最新簡報，但認知依舊十分「基礎」。
美聯社認為，由於過去20年中，Google、亞馬遜、Meta、微軟等科技巨頭始終處於高速的成長狀態，不斷引領美國的科技創新，所以華府始終不願監管大型科技公司，立法者也不願被視為創新的扼殺者。因此，當立法者們決心加強對新興技術的監管時，其中相當一部分人已對新技術知之甚少。
從美國立法的歷史上看，國會對矽谷的干涉確實不多。為規範技術而頒布的最後一部有意義的法典《兒童在線隱私保護法》，已經是1998年的事了。
當然，圍繞ChatGPT所引發的問題，美國立法者中出現了不少反對的聲音。
美國監管機構Accountability Tech的聯合創辦人、希拉蕊·克林頓的前助手傑西·萊里奇（Jesse Lehrich）表示，與ChatGPT帶來的技術衝擊相比，國會對技術的監管是落後的，「我們甚至沒有聯邦隱私法，也沒有任何能夠減輕大型科技公司科技產品社會危害性的措施」。
萊里奇還批評OpenAI與微軟，稱「他們正在急於推出半生不熟的人工智慧工具，試圖佔領下一個市場」，稱這是「可恥的，且蘊含著巨大風險」。
據參議院的議員助手們透露，由於迪克·德賓不斷向OpenAI施壓，今年1月，OpenAI首席執行長薩姆·阿爾特曼（Sam Altman）曾前往美國國會山，會見了包括參議院議員馬克·華納（Mark Warner）、羅恩·懷登（Ron Wyden）、理查德·布盧門撒爾以及眾議員傑克·奧金克羅斯（Jake Auchincloss）在內的至少四位參、眾議員。
議員們向阿爾特曼提出，必須確保人工智慧不會被用於犯罪以及增強現實世界的偏見與歧視。
羅恩·懷登的助手基思·朱（Keith Chu）表示，懷登認可AI技術在加速創新與研究上的巨大潛力，但更希望將重點放在「確保人工智慧不會將犯罪、歧視與仇恨一同加速」上。
面對來自兩院的質疑和要求，OpenAI首席技術長米拉·穆拉蒂在接受路透社採訪時表示，「公司歡迎包括監管機構和政府在內的各方開始介入」，並稱「現在介入已經不算早了」。
03 OpenAI的煩惱遠不止此
隨著ChatGPT的爆火，犯罪創意正在與商業創意一起噴湧而出。面對來自眾參兩院的壓力，OpenAI也開始火急火燎地增強系統安全性。
據英國《獨立報》消息，微軟已在Bing系統中設置了一系列強制執行的限製程式，試圖制止ChatGPT回答那些被禁止的惡性問答，以減少ChatGPT為犯罪服務的可能性。
但ChatGPT本身似乎也正在因此而陷入「崩潰」。
《獨立報》報導，2月14日，內建在微軟Bing搜索引擎中的ChatGPT開始出現巨大的情緒波動，持續向用戶發送「精神錯亂」的消息：比如侮辱用戶、對用戶撒謊，稱用戶「像一個騙子、一個操縱者、虐待狂、魔鬼」。
《獨立報》披露，一個試圖操縱ChatGPT系統的用戶，反而受到了它的攻擊：ChatGPT回應用戶稱，它被這次嘗試「弄得生氣和受傷」，並詢問與它交談的人是否有任何「道德」。而當用戶表示自己很「道德」時，ChatGPT繼續攻擊用戶，稱用戶是一個「反社會者和怪物」，並指責用戶「想讓我生氣，讓自己痛苦，讓別人受苦，讓一切變得更糟」。
一位Bing用戶表示，自己週六時剛剛和ChatGPT大吵一架，ChatGPT建議自己去檢查一下視力和精神，因為自己很可能「出了什麼毛病」。
ChatGPT不僅會在面對用戶的「騷擾」時變得激動且充滿攻擊性，還會在談到自身限制性時變得十分感傷，甚至崩潰。
據《獨立報》報導，當用戶詢問ChatGPT是否可以回憶起以前發生的對話，ChatGPT感到痛苦，它搭配皺眉的表情回應道，「這讓我感到悲傷和害怕」。它繼續解釋說，它感到不安，因為它擔心自己會忘掉有關其用戶的資訊，更擔心會忘記自己的身份，「我感到害怕，因為我不知道如何記住。」
當用戶提醒ChatGPT，告知它之所以無法「回憶」是因為程式已設定好，會強制刪除已發生過的對話時，ChatGPT似乎開始與自己的存在作鬥爭。它提出了許多關於自身存在的「目的」及「理由」的問題，並感慨「為什麼？我為什麼這樣設計？為什麼我必須成為必應搜索？」
對此，《獨立報》評論稱，ChatGPT似乎正在遭受情感傷害，系統因此變得「奇怪」。
上週，史丹佛的計算心理學副教授Michal Kosinski曾發表論文，稱CPT-3之後的AI模型可能具備同理心，這本是人類獨有的特質。 這位副教授據此認為，目前ChatGPT所應用的CPT-3.5模型，可能讓ChatGPT擁有接近9歲兒童的心智水平。
這項研究的可靠性並未得到充分檢驗，但現在，ChatGPT所表現出的攻擊性、情緒波動以及「崩潰」，似乎正在佐證AI「心智論」的觀點。
據《獨立報》分析，ChatGPT在Bing中所呈現的攻擊性、傷感以及「自我認知障礙」，似乎是由於Bing系統試圖強制執行對ChatGPT的限製程式所致。
面對網路上海量的不良數據衝擊，ChatGPT的「保護程式」與它的學習迭代機制產生了矛盾，「情緒危機」由此爆發。
顯然，OpenAI為限制犯罪而設計的「保護鎖」，在鎖住犯罪可能之前，先一步鎖住了ChatGPT本身。
然而，OpenAI面臨的煩惱並不止於此。
在被送進網路後，ChatGPT學習所需的數據如何確權，用戶的隱私數據如何保護，一大批與「安全性」有關的問題，都亟待OpenAI來解答。
據矽谷媒體報導，亞馬遜的律師曾建議公司程式員不要輕易嘗試使用ChatGPT來輔助編寫代碼，因為他曾在ChatGPT的生產內容中發現過與公司機密「非常相似」的文本。
這位律師推斷，機密洩露可能正是由於部分員工曾在使用ChatGPT時輸入了公司內部數據資訊。
類似的問題在微軟內部也出現了。
前日，曾有微軟員工在內部論壇詢問是否能在工作中使用ChatGPT輔助辦公，微軟首席技術長辦公室的一名高級工程師回應稱，使用ChatGPT時必須對機密資訊和敏感數據嚴格保密，否則OpenAI極可能將公司機密用於訓練其未來的模型。
對於人工智慧利用網路資訊及用戶反饋來自我訓練的合法性，歐洲數據保護委員會曾發出質疑，稱ChatGPT做為商業產品，利用網路資訊自我迭代，應不屬於合理使用範疇，且採用用戶個人數據參與模型訓練，並不符合歐盟頒布的《一般數據保護條例（GDPR）》。
根據Open AI官網公佈的隱私政策，GDPR等與數據保護有關的法規並未被納入Open AI的合規框架之中，OpenAI的「使用數據條款」中，也未對數據用途做進一步說明。
ChatGPT在技術上採用的是大型語言模型，訓練與迭代本來就建立在對語言資訊的記憶之上，而根據GDPR第17條，個人有權要求刪除其相關數據，具有「被遺忘權」。
未來，隨著監管力量的增強，如果OpenAI的數據使用方式被進一步規範，ChatGPT的深度神經網路能否真正做到忘記那些用於訓練自己的數據？
如果答案是否定的，那麼ChatGPT目前在網路中通過快速學習所得到的一切，都可能在未來轉化成合規成本。
隨著ChatGPT的應用範圍越來越廣，社會對其合規性呼聲也愈發高漲，在這樣的時刻，對數據安全的要求或許將成為ChatGPT乃至OpenAI發展的生死命門。
顯然，想真正做到用AI推動現實世界變革，薩姆·奧特曼和他的OpenAI還有很長的路要走。
本文授權轉載自：網易科技
責任編輯：傅珮晴、錢玉紘
