GPT-4掀起AI界高潮,ChatGPT之父卻怕了:我設了一個終止開關
GPT-4掀起AI界高潮,ChatGPT之父卻怕了:我設了一個終止開關

近日登場的GPT-4展現出強大的性能,它不僅在律師資格考贏過9成的對手、在美國SAT考試的各項成績也名列前茅。OpenAI共同創辦人兼執行長山姆・奧特曼(Sam Altman)表示,儘管人工智慧將改變經濟、勞動力不足和教育等方面,但也可能導致虛假資訊竄流和獨裁政權控制等問題。

GPT-4變得更強了,ChatGPT之父在擔心什麼?

《abcNEWS》報導,奧特曼在接受專訪時表示,雖然OpenAI開發了ChatGPT,近期推出的GPT-4更是連圖片都能解讀,為許多問題做出近似人類的擬答,點燃了新的AI熱潮。但這位被矽谷稱為ChatGPT之父的人卻表示,自家孩子的潛力令人「有點害怕」。

山姆·奧特曼與米拉·穆拉蒂接受《ABC》專訪的影片

奧特曼擔憂地表示, 在「勞動力、選舉和散播假訊息」這些方面,AI的影響力令人擔憂,有心人士也正在利用相關的技術來加強侵略力道 。ChatGPT已經成熟到可以拿來編寫具有攻擊性的程式碼,發動網路攻擊。雖然OpenAI已經在找尋相應的對策,但假如真的發生了,社會還需要很長一段時間去應對。

《CNBC》報導,雖然OpenAI是AI領域的領頭羊,但不是唯一。ChatGPT橫空出世後,GPT-4更是早在7個月前就完成,為了追趕差距,難保不會有人做出違反安全限制的事。他更提及普丁在烏俄戰爭發生的前幾年曾說過,「無論誰成為AI的領頭羊,他都將統治世界」,這樣令人不寒而慄的言論。

AI也可能被有心人士拿來發動資訊戰
圖/ shutterstock

雖然ChatGPT和類似的人工智慧尚未在選舉中產生影響,但奧特曼在專訪時表示,2024年的美國大選將會是公司的觀察重點。因為他擔心「這些模型可能被用來散步大規模的虛假資訊。」2016年的劍橋分析事件已經讓社會意識到資訊戰的影響深遠,而現在的人工智慧浪潮又讓人回想到當時的情況。

「總體來說,我認為社會反而應該為我們在這個階段,就已經產生微小的恐懼而感到高興。」奧特曼表示。

延伸閱讀:GPT-4最終「邪不勝正」?實測能零門檻打造惡意軟體、還給建議,該怎麼防堵?

ChatGPT的光譜兩端,是替代人類還是做人類的副手?

《PCMag》報導,根據OpenAI和賓州大學共同研究的論文顯示,ChatGPT和未來利用其所建立的各種應用,可能會影響美國至少19%的工作中的一半任務。同時,80%的勞動力中可能有近10%的工作內容會受到ChatGPT的影響。受影響最大職業包括翻譯人員、作家、公關行業、會計師、區塊鏈工程師與記者等等。但ChatGPT也會犯下像是捏造不實訊息這種明顯的錯誤,現階段還是需要人類的監督。

奧特曼認為AI取代部分工作的同時也會創造新的就業
圖/ pixabay

當站在旁觀者的角度看人們使用ChatGPT,奧特曼認為使用者的體驗是經歷了從懷疑到恐懼,再到最終成功幫助我們更好地完成工作的轉變。每當人類歷史上出現新科技時,總會有一些工作機會因此而消失,例如動力農機取代人力,同樣的產量只需要較少的農夫;電影動畫特效取代了許多實景拍攝,雖然許多原本產業的人失業,但也讓電影的品質提高,吸引更多人觀看,壯大產業的同時也帶動產業轉型,創造更多的工作機會。

奧特曼認為,「人工智慧將在未來接管許多工作,但同時也將帶來『更好』的工作。」因此要擔心的不是變化,而是變化的速度是否會快到讓人無法適應。

延伸閱讀:ChatGPT怎麼改變職場?OpenAI研究:薪水高的工作反而衝擊更大

AI強大的同時仍有局限,ChatGPT的未來會達到什麼高度?

根據OpenAI的說法,GPT-4比起前一代有了巨大的改進,包括將理解影像畫面的能力。GTP-4可以描述冰箱的東西,解决謎題,甚至說明網路迷因背後的含義。

《ABC》報導,奧特曼與首席技術長米拉·穆拉蒂(Mira Murati)在訪問中皆表示,「正確的方式是去思考創建一個推理引擎,而不是事實資料庫,我們訓練模型,希望它們更具備推理能力,而不是記憶能力。」

奧特曼認為,在ChatGPT推出後,監管機構和社會應盡可能參與其中,並提供回饋,以幫助封鎖該技術可能對人類產生的潛在負面影響。此外,奧特曼也表示,他與政府官員保持著穩定的聯繫。

OpenAI 執行長山姆.阿特曼(Sam Altman)
奧特曼提到社會的回應、回饋對OpenAI來說至關重要

據瑞銀集團的數據顯示,在ChatGPT推出僅兩個月後,其月活躍用戶已經突破了1億,成為史上用戶增長速度最快的消費級應用程式。而隨著公眾持續使用,OpenAI也能在過程中發現哪些環節更需要去介入、保護。

《衛報》(The Guardian)指出,人工智慧目前僅能在接受人類輸入指令的情況下運作,是非常受人類控制的工具。 即使未來的某一天,ChatGPT的發展超過了人類的預期,奧特曼也說有個終止開關(kill switch),可以立即停止ChatGPT的運作。

延伸閱讀:AI的iPhone時刻來了,黃仁勳端出「核彈級」產品助攻!台積電2奈米也有AI

資料來源:ABCThe GuardianCNBCBusiness insider

責任編輯:陳建鈞、林美欣

關鍵字: #AI #Chatbot
往下滑看下一篇文章
五十年零售老店的 AI 轉型:良興攜手 Data-DI,打造專屬 AI Agent 賦能組織升級與知識傳承
五十年零售老店的 AI 轉型:良興攜手 Data-DI,打造專屬 AI Agent 賦能組織升級與知識傳承

1973 年,良興從台北光華商場一間 50 坪的電子零件行起家,半個世紀後蛻變為年營收破十億、毛利率 18% 的全通路 3C 品牌。不過,伴隨規模擴張帶來的不只是成長,還有日益加劇的管理摩擦。門市遍布全台、品項高達近萬筆,加上跨部門協作頻繁,行政耗損與知識傳承的缺口,成為這家老字號邁向下一階段的隱形天花板。

良興總經理賴志達回顧,從電子零件跨入電商、從線下擴張到 OMO 全通路、再到會員深度經營,作為 3C 零售業者,良興每一波轉型都走在同業前面。「現在輪到 AI 了。如何做到人機協作、AI 賦能,就是良興第五波轉型的核心命題。」

AI 自動化,從行政細節釋放組織戰力

轉型需要夥伴,而賴志達評估合作夥伴的標準很明確:技術能力是基本,產業知識(Domain Know-how)的深度是關鍵,回饋速度更是最終決定因素。2025 年的未來商務展上,良興選擇攜手 Data-DI,看重的正是其「策略諮詢 + AI 產品 + 落地陪跑」三軌並行的實施能力。

很快的,良興與 Data-DI 合作的第一個專案,就落在最耗費人力、卻最常被忽視的環節:會議記錄。「會議如果沒有產值、沒有效果,對企業很傷!」賴志達說,他每天參加許多會議,但跨單位協作的會議記錄長期依賴人工聆聽與逐字整理,常出現人名誤植、決策遺漏、行動項目無人追蹤,讓會議效果大打折扣。

數智聚(良興)_1.JPG
良興總經理賴志達
圖/ 數位時代

為了解決會議記錄的痛點,Data-DI 業務副總包威棣指出,在導入工具以前,團隊須先釐清三件事:場景是否具備落地價值、哪些流程節點適合 AI 介入,以及以終為始地掌握客戶真正想要的輸出樣貌。這些看似基本的提問,都決定 AI 能否精準落地。

確認方向後,良興與 Data-DI 成功導入 AI 會議記錄自動化系統,透過模糊比對技術校正語音辨識誤差,並將生成的雙版本報告直接回存至既有資料庫,不僅將行政人員從重複性作業中釋放,也為後續的 AI 應用奠定扎實的系統整合基礎。

賴志達分享,現在他去外部開會也會用這個工具,運用 AI 把錄音轉文字、再整理成簡報,很快就能完成,更令外部夥伴驚艷。「我認為這是很成功的案子!也提醒想做 AI 的老闆們,與其急著搞大架構,不如先從小工具讓公司嘗試 AI,建立理解和認同。」

AI 把資深員工大腦轉化為資產

補完行政效率的缺口後,良興接著切入更深層的營運核心:知識傳承。過去,頂尖銷售經驗長期鎖在少數資深員工身上,新人培訓耗時三個月,員工離職即帶走知識資本。與此同時,網路資訊發達,消費者進店前早已掌握基本規格,3C 通路門市人員要如何發揮更多價值?「我要門市的人不是死背規格,而是面對客人時,能用客人能理解的方式對話。」賴志達說。

為此,Data-DI 協助良興建置 AI 門市教育訓練系統。系統透過六大自動化關卡,串接教材生成、審核上架、AI 銷售對練與成績回報,主管僅需在核心節點審核;員工透過手機語音對練,系統依口吻、專業度、回應力等維度自動評分。賴志達表示,目標是將新人培訓期縮短至一個月,讓數十年累積的銷售智慧轉化為可複製、可傳承的企業資產。

然而,要讓這套系統真正運作,得先解決兩個根本問題:資料從哪裡來?以及訓練如何更準確?

「以前大數據時代,講的是資料要大、全、細、實;現在 AI 要做到的是準(準確)、合(合乎場景)。」包威棣說。良興不同廠商提供的素材品質參差不齊,Data-DI 除了整合內部資料,也補充加入外部市場評測內容以填補空缺,再透過人員審核機制過濾雜訊,搭配 agent 架構的多層步驟與知識限定,確保系統能精準提煉對應品類的訓練素材。

數智聚(良興)_2.JPG
Data-DI 業務副總包威棣
圖/ 數位時代

賴志達則看得更遠:「這些教育訓練的內容,也將成為公司未來訓練機器人很好的原料。」

Data-DI 陪跑型顧問,帶領企業 AI 轉型

良興與 Data-DI 合作的兩個專案中,雙方共同克服了長提示詞邏輯混亂、AI 幻覺污染知識庫、逐字稿讀取逾時等技術難題。邁向下一步,賴志達表示,公司各部門很早就建置 Power BI 報表,但數據豐富不等於決策清晰。「數據是土壤,如果沒有梳理,就沒有用了。」因此,他的下一個目標是活化數據資本、推動行銷自動流,以精實的人力持續驅動成長。

數智聚(良興)_3.jpg
良興攜手 Data-DI 推動 AI 落地,以小步快跑模式為企業創造變革。
圖/ 數位時代

包威棣則從顧問視角歸納兩個觀察:AI 導入需要高層認同、由上而下推進,像賴志達這樣持續引領良興走在業界前端的決策者,就是不可或缺的推手;而單點工具的價值,終究要累積成組織體質的轉變才算真正落地。「就像會議記錄改變了會議當責的結構,人員訓練改變了知識傳承的方式。從點狀應用走向企業變革,這種決策思路才是 AI 真正深入落地產生價值的關鍵。」

最後,對於仍在觀望AI應用的企業,他則建議:「未來 AI 導致的落差只會愈來愈大,人會變成超級工作者,企業會變成超級企業。開始做就對了,先做一個三個月的小任務,降低落差、再急起追上。」從痛點切入、小步快跑,讓組織在實作中累積對 AI 的理解與信任,這正是 Data-DI 的陪跑哲學。

有關更多 Data-DI 相關資訊,請查詢網站:https://www.data-di.com/

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
代理式商務連動百兆商機
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓