GPT-4掀起AI界高潮,ChatGPT之父卻怕了:我設了一個終止開關
GPT-4掀起AI界高潮,ChatGPT之父卻怕了:我設了一個終止開關
##### GPT-4變得更強了,ChatGPT之父在擔心什麼?

近日登場的GPT-4展現出強大的性能,它不僅在律師資格考贏過9成的對手、在美國SAT考試的各項成績也名列前茅。OpenAI共同創辦人兼執行長山姆・奧特曼(Sam Altman)表示,儘管人工智慧將改變經濟、勞動力不足和教育等方面,但也可能導致虛假資訊竄流和獨裁政權控制等問題。

《abcNEWS》報導,奧特曼在接受專訪時表示,雖然OpenAI開發了ChatGPT,近期推出的GPT-4更是連圖片都能解讀,為許多問題做出近似人類的擬答,點燃了新的AI熱潮。但這位被矽谷稱為ChatGPT之父的人卻表示,自家孩子的潛力令人「有點害怕」。

山姆·奧特曼與米拉·穆拉蒂接受《ABC》專訪的影片

奧特曼擔憂地表示, 在「勞動力、選舉和散播假訊息」這些方面,AI的影響力令人擔憂,有心人士也正在利用相關的技術來加強侵略力道 。ChatGPT已經成熟到可以拿來編寫具有攻擊性的程式碼,發動網路攻擊。雖然OpenAI已經在找尋相應的對策,但假如真的發生了,社會還需要很長一段時間去應對。

《CNBC》報導,雖然OpenAI是AI領域的領頭羊,但不是唯一。ChatGPT橫空出世後,GPT-4更是早在7個月前就完成,為了追趕差距,難保不會有人做出違反安全限制的事。他更提及普丁在烏俄戰爭發生的前幾年曾說過,「無論誰成為AI的領頭羊,他都將統治世界」,這樣令人不寒而慄的言論。

AI也可能被有心人士拿來發動資訊戰
圖/ shutterstock

雖然ChatGPT和類似的人工智慧尚未在選舉中產生影響,但奧特曼在專訪時表示,2024年的美國大選將會是公司的觀察重點。因為他擔心「這些模型可能被用來散步大規模的虛假資訊。」2016年的劍橋分析事件已經讓社會意識到資訊戰的影響深遠,而現在的人工智慧浪潮又讓人回想到當時的情況。

「總體來說,我認為社會反而應該為我們在這個階段,就已經產生微小的恐懼而感到高興。」奧特曼表示。

📍邀請您加入Web3+ Line社群,持續關注最重要的網路變革
👉 https://lin.ee/kItnyTh

##### ChatGPT的光譜兩端,是替代人類還是做人類的副手?

《PCMag》報導,根據OpenAI和賓州大學共同研究的論文顯示,ChatGPT和未來利用其所建立的各種應用,可能會影響美國至少19%的工作中的一半任務。同時,80%的勞動力中可能有近10%的工作內容會受到ChatGPT的影響。受影響最大職業包括翻譯人員、作家、公關行業、會計師、區塊鏈工程師與記者等等。但ChatGPT也會犯下像是捏造不實訊息這種明顯的錯誤,現階段還是需要人類的監督。

奧特曼認為AI取代部分工作的同時也會創造新的就業
圖/ pixabay

當站在旁觀者的角度看人們使用ChatGPT,奧特曼認為使用者的體驗是經歷了從懷疑到恐懼,再到最終成功幫助我們更好地完成工作的轉變。每當人類歷史上出現新科技時,總會有一些工作機會因此而消失,例如動力農機取代人力,同樣的產量只需要較少的農夫;電影動畫特效取代了許多實景拍攝,雖然許多原本產業的人失業,但也讓電影的品質提高,吸引更多人觀看,壯大產業的同時也帶動產業轉型,創造更多的工作機會。

奧特曼認為,「人工智慧將在未來接管許多工作,但同時也將帶來『更好』的工作。」因此要擔心的不是變化,而是變化的速度是否會快到讓人無法適應。
##### AI強大的同時仍有局限,ChatGPT的未來會達到什麼高度?

根據OpenAI的說法,GPT-4比起前一代有了巨大的改進,包括將理解影像畫面的能力。GTP-4可以描述冰箱的東西,解决謎題,甚至說明網路迷因背後的含義。

《ABC》報導,奧特曼與首席技術長米拉·穆拉蒂(Mira Murati)在訪問中皆表示,「正確的方式是去思考創建一個推理引擎,而不是事實資料庫,我們訓練模型,希望它們更具備推理能力,而不是記憶能力。」

奧特曼認為,在ChatGPT推出後,監管機構和社會應盡可能參與其中,並提供回饋,以幫助封鎖該技術可能對人類產生的潛在負面影響。此外,奧特曼也表示,他與政府官員保持著穩定的聯繫。

OpenAI 執行長山姆.阿特曼(Sam Altman)
奧特曼提到社會的回應、回饋對OpenAI來說至關重要

據瑞銀集團的數據顯示,在ChatGPT推出僅兩個月後,其月活躍用戶已經突破了1億,成為史上用戶增長速度最快的消費級應用程式。而隨著公眾持續使用,OpenAI也能在過程中發現哪些環節更需要去介入、保護。

《衛報》(The Guardian)指出,人工智慧目前僅能在接受人類輸入指令的情況下運作,是非常受人類控制的工具。 即使未來的某一天,ChatGPT的發展超過了人類的預期,奧特曼也說有個終止開關(kill switch),可以立即停止ChatGPT的運作。

📍邀請您加入Web3+ Line社群,持續關注最重要的網路變革
👉 https://lin.ee/kItnyTh

資料來源:ABC、The Guardian、CNBC、Business insider

責任編輯:陳建鈞、林美欣

往下滑看下一篇文章
台灣數位安全發展協會揭打詐盲點:截圖難當證據,AI加b-JADE讓數位足跡可驗證
台灣數位安全發展協會揭打詐盲點:截圖難當證據,AI加b-JADE讓數位足跡可驗證

重點一:數位詐騙生命週期極短,打完一波就轉移陣地,「下架」只處理了眼前的內容,處理不了事後追查。

重點二:台灣數位安全發展協會以AI蒐集、分類詐騙廣告,九成以上工作可由AI完成,最終判斷仍保留人工背書。

重點三:透過司法聯盟鏈b-JADE,只把資料的「數位指紋」上鏈存證,原始資料另行保存,目標是降低被害人的訴訟舉證成本。

一則可疑的投資廣告被檢舉、下架,帳號也停權了,多數人以為事情就此結束。真正麻煩的是,廣告消失的那一刻,追查詐騙集團的線索也可能跟著消失。

為了補上這個缺口,台灣數位安全發展協會正與司法聯盟鏈「b-JADE」合作,替詐騙相關資料做存證。b-JADE是一套以區塊鏈為基礎的司法存證機制,只有通過程序認證的單位才能提供上鏈服務;資料一旦上鏈,任何改動都會留下痕跡。白話說,就是替數位證據貼上「封條」,讓證據從蒐集到進入法庭,都能驗證有沒有被動過手腳。

詐騙廣告下架,為什麼還不夠?

原因在於數位詐騙的生命週期太短,下架只能處理眼前的內容。台灣數位安全發展協會理事長劉彥伯指出,傳統電話詐騙一套劇本可以拉長到半年、甚至一年;數位詐騙則像打游擊,一波結束就移往下一個平台,從廣告、社群到另一個App,一路跨平台引導被害人。

更大的問題是證據跟著斷線。被害人發現受騙時,可能已是半年後,手上通常只留得住最末端的匯款與聯絡紀錄,最初看過哪則廣告、點進哪個網站,早已消失。等到一、兩年後警方抓到詐騙集團,對方就能在法庭上反問「你怎麼證明我投過這則廣告?」劉彥伯以假設情境說明,一個集團原本可能詐騙了30億元,最後因證據不足,認定金額只剩幾千萬甚至幾百萬元。

不過,詐騙活動都會留下數位足跡,包括投放帳號、代理商、投放時間、運作國家與網址註冊紀錄,只要事先保存,日後調閱就「有憑有據」。

台灣數位安全發展協會
台灣數位安全發展協會理事長劉彥伯
圖/ 數位時代

AI都這麼強了,為什麼還要先做資料治理?

台灣數位安全發展協會的核心主張是:好的資料分析,從好的資料治理開始。所謂資料治理,就是把散落在各平台、格式不一的碎片資料,整理成來源清楚、格式一致、可以互相比對的資料。協會先確認每筆公開資料的來源、時間、權限、版本與隱私,再標上事件分類、風險評估、曝光平台、投放者與網址等標籤,才能找出彼此關聯、還原詐騙網絡。

根據協會的實證簡報,系統在一段監測期間內掃描309.5萬則廣告,通報62.8萬則(約占20%),投放當日偵測率達99.21%。劉彥伯也提到,協會與資安院、數位發展部在打詐通報查詢網的合作中,判斷率接近百分之百。

那還需要人嗎?答案是需要。現行法律仍要求有人為判斷結果背書負責,加上詐騙劇本會隨被害人的回應即時調整,因此協會讓AI處理九成多的工作,最後由人做判斷。

截圖不能當證據?b-JADE如何替詐騙證據貼上「封條」

在AI改圖越來越容易的今天,單純截圖很難在法庭上證明自己沒被竄改過。劉彥伯的比喻是:截圖比較像「我那天真的看過,還拍了一張照片」;可信存證則是把證物放進有封條、有時間、有編號、有保管紀錄的證物袋,「重點不是有沒有留下東西,而是未來能不能驗證這是不是當時那一份」。

這也是b-JADE派上用場的地方,但並不是把所有資料都放上區塊鏈。協會把原始資料與AI分析結果,保存在權限受管控的系統裡,只把每份資料的「數位指紋」交給b-JADE存證。數位指紋的特性是,內容只要有任何改動,指紋就會完全不同,因此能證明資料沒被動過;需要時,再經授權調閱原始資料,兼顧隱私與驗證。依b-JADE規範盤點,協會既有流程已符合19項要求,其餘7項缺口也逐步補強,例如存證時間改採具公信力的標準時間來源,不再依賴電腦本機。

防詐能從事後追查走向事前預警嗎?

可以,協會正把存證從被害人受騙後,往前推到「主動式上鏈」:AI判定高風險的內容,先一步蒐集存證,不必等到有人受害。

小農是第一個場景。許多消費者在網路上支持小農,錢最後卻流進冒名的詐騙集團。協會因此與農業部合作推出「農本人」系統,讓小農自行登錄銷售管道與社群帳號形成白名單,再結合AI蒐集的黑名單,一旦遭冒名就能第一時間發現並報案。這套模式未來也可延伸至網路霸凌、性私密影像等案件。

制度面也在加速。2026年8月,司法聯盟已開設認證專班,邀集司法院、法務部、高檢署、調查局與警政署相關人員受訓,相關存證應用預計明年正式推出,時程仍待聯盟拍板。

劉彥伯坦言,目前從蒐集、分案到下架的流程仍然冗長,技術正好能在保留人為背書的前提下縮短流程。他在《數位關鍵字》節目尾聲留給聽眾的一句話是:「數位安全不只是技術工具,也涉及資料的可信、法遵治理與跨領域合作。」當AI幫人更快找到線索,經得起驗證的資料,將讓每一位被害人在法庭上多一分底氣。

台灣數位安全發展協會
台灣數位安全發展協會理事長劉彥伯認為,可信存證的重點不是留下東西,而是未來能被驗證。
圖/ 數位時代

常見問答
Q1:詐騙廣告被下架後,還能當作證據嗎?
A:若事前沒有保存,下架後就很難追溯。台灣數位安全發展協會建議在內容消失前,保存投放帳號、代理商、投放時間、運作國家與網址等數位足跡,日後才能據以向平台請求調閱。

Q2:手機截圖可以當作詐騙證據嗎?
A:截圖只能證明「看過」,難以證明未被竄改。在AI改圖越來越容易的情況下,透過數位指紋與具公信力的時間紀錄進行可信存證,才能在日後驗證資料是否為當時的原始版本。

Q3:什麼是b-JADE司法聯盟鏈?
A:b-JADE是以區塊鏈為基礎的司法存證機制,只有通過程序認證的單位才能提供上鏈服務。台灣數位安全發展協會的做法是只將資料的數位指紋上鏈,原始資料另行保存在權限受管控的系統,兼顧隱私與驗證,目標是降低訴訟舉證成本。

Q4:AI可以完全取代人工判斷詐騙嗎?
A:目前不行。依台灣數位安全發展協會的做法,九成以上的蒐集與分類工作可由AI完成,但現行法律仍要求由人做最終判斷,並為結果背書負責。

Q5:小農要如何預防被冒名詐騙?
A:可登錄台灣數位安全發展協會與農業部合作的「農本人」系統,自行提交銷售管道、粉絲專頁與LINE帳號建立白名單,搭配AI主動蒐集的黑名單,遭冒名時能第一時間發現並報案。

完整對談請收聽《數位時代》Podcast《數位關鍵字》EP264。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓