GPT-4掀起AI界高潮,ChatGPT之父卻怕了:我設了一個終止開關
GPT-4掀起AI界高潮,ChatGPT之父卻怕了:我設了一個終止開關

近日登場的GPT-4展現出強大的性能,它不僅在律師資格考贏過9成的對手、在美國SAT考試的各項成績也名列前茅。OpenAI共同創辦人兼執行長山姆・奧特曼(Sam Altman)表示,儘管人工智慧將改變經濟、勞動力不足和教育等方面,但也可能導致虛假資訊竄流和獨裁政權控制等問題。

GPT-4變得更強了,ChatGPT之父在擔心什麼?

《abcNEWS》報導,奧特曼在接受專訪時表示,雖然OpenAI開發了ChatGPT,近期推出的GPT-4更是連圖片都能解讀,為許多問題做出近似人類的擬答,點燃了新的AI熱潮。但這位被矽谷稱為ChatGPT之父的人卻表示,自家孩子的潛力令人「有點害怕」。

山姆·奧特曼與米拉·穆拉蒂接受《ABC》專訪的影片

奧特曼擔憂地表示, 在「勞動力、選舉和散播假訊息」這些方面,AI的影響力令人擔憂,有心人士也正在利用相關的技術來加強侵略力道 。ChatGPT已經成熟到可以拿來編寫具有攻擊性的程式碼,發動網路攻擊。雖然OpenAI已經在找尋相應的對策,但假如真的發生了,社會還需要很長一段時間去應對。

《CNBC》報導,雖然OpenAI是AI領域的領頭羊,但不是唯一。ChatGPT橫空出世後,GPT-4更是早在7個月前就完成,為了追趕差距,難保不會有人做出違反安全限制的事。他更提及普丁在烏俄戰爭發生的前幾年曾說過,「無論誰成為AI的領頭羊,他都將統治世界」,這樣令人不寒而慄的言論。

AI也可能被有心人士拿來發動資訊戰
圖/ shutterstock

雖然ChatGPT和類似的人工智慧尚未在選舉中產生影響,但奧特曼在專訪時表示,2024年的美國大選將會是公司的觀察重點。因為他擔心「這些模型可能被用來散步大規模的虛假資訊。」2016年的劍橋分析事件已經讓社會意識到資訊戰的影響深遠,而現在的人工智慧浪潮又讓人回想到當時的情況。

「總體來說,我認為社會反而應該為我們在這個階段,就已經產生微小的恐懼而感到高興。」奧特曼表示。

延伸閱讀:GPT-4最終「邪不勝正」?實測能零門檻打造惡意軟體、還給建議,該怎麼防堵?

ChatGPT的光譜兩端,是替代人類還是做人類的副手?

《PCMag》報導,根據OpenAI和賓州大學共同研究的論文顯示,ChatGPT和未來利用其所建立的各種應用,可能會影響美國至少19%的工作中的一半任務。同時,80%的勞動力中可能有近10%的工作內容會受到ChatGPT的影響。受影響最大職業包括翻譯人員、作家、公關行業、會計師、區塊鏈工程師與記者等等。但ChatGPT也會犯下像是捏造不實訊息這種明顯的錯誤,現階段還是需要人類的監督。

奧特曼認為AI取代部分工作的同時也會創造新的就業
圖/ pixabay

當站在旁觀者的角度看人們使用ChatGPT,奧特曼認為使用者的體驗是經歷了從懷疑到恐懼,再到最終成功幫助我們更好地完成工作的轉變。每當人類歷史上出現新科技時,總會有一些工作機會因此而消失,例如動力農機取代人力,同樣的產量只需要較少的農夫;電影動畫特效取代了許多實景拍攝,雖然許多原本產業的人失業,但也讓電影的品質提高,吸引更多人觀看,壯大產業的同時也帶動產業轉型,創造更多的工作機會。

奧特曼認為,「人工智慧將在未來接管許多工作,但同時也將帶來『更好』的工作。」因此要擔心的不是變化,而是變化的速度是否會快到讓人無法適應。

延伸閱讀:ChatGPT怎麼改變職場?OpenAI研究:薪水高的工作反而衝擊更大

AI強大的同時仍有局限,ChatGPT的未來會達到什麼高度?

根據OpenAI的說法,GPT-4比起前一代有了巨大的改進,包括將理解影像畫面的能力。GTP-4可以描述冰箱的東西,解决謎題,甚至說明網路迷因背後的含義。

《ABC》報導,奧特曼與首席技術長米拉·穆拉蒂(Mira Murati)在訪問中皆表示,「正確的方式是去思考創建一個推理引擎,而不是事實資料庫,我們訓練模型,希望它們更具備推理能力,而不是記憶能力。」

奧特曼認為,在ChatGPT推出後,監管機構和社會應盡可能參與其中,並提供回饋,以幫助封鎖該技術可能對人類產生的潛在負面影響。此外,奧特曼也表示,他與政府官員保持著穩定的聯繫。

OpenAI 執行長山姆.阿特曼(Sam Altman)
奧特曼提到社會的回應、回饋對OpenAI來說至關重要

據瑞銀集團的數據顯示,在ChatGPT推出僅兩個月後,其月活躍用戶已經突破了1億,成為史上用戶增長速度最快的消費級應用程式。而隨著公眾持續使用,OpenAI也能在過程中發現哪些環節更需要去介入、保護。

《衛報》(The Guardian)指出,人工智慧目前僅能在接受人類輸入指令的情況下運作,是非常受人類控制的工具。 即使未來的某一天,ChatGPT的發展超過了人類的預期,奧特曼也說有個終止開關(kill switch),可以立即停止ChatGPT的運作。

延伸閱讀:AI的iPhone時刻來了,黃仁勳端出「核彈級」產品助攻!台積電2奈米也有AI

資料來源:ABCThe GuardianCNBCBusiness insider

責任編輯:陳建鈞、林美欣

關鍵字: #AI #Chatbot
往下滑看下一篇文章
告別電動車過熱,增長儲能系統壽命!愛盛科技AI感測技術就在身邊
告別電動車過熱,增長儲能系統壽命!愛盛科技AI感測技術就在身邊

「電流過大,可能引發電池過熱甚至火災;而若無法精確偵測微小電流,則容易造成過充,進而影響電池的健康狀態與使用壽命。這樣的極端變化,正是電流感測技術面臨的核心挑戰。」愛盛科技董事長暨執行長賴孟煌破題點出這項挑戰。面對電動車或儲能系統的場域,電流偵測的量程與精度攸關安全與效能表現。愛盛科技選擇以臺灣為基地,憑藉新世代磁感測技術切入市場,成為全球少數能同時兼顧「大量程、高靈敏度」與「超低功耗」需求的感測晶片設計公司 。

從無人機到電動車,愛盛科技打造全方位感測方案

成立於2011年的愛盛科技,長期專注於新世代磁感測技術,在市場上也已累積多項專利技術,建立起堅實的技術與智慧財產權基礎。其核心優勢包含3D平面化的穿隧式磁阻(Tunneling Magnetoresistance; TMR)、異向性磁阻(Anisotropic Magnetoresistance; AMR)感測器、霍爾元件(Hall Effect Sensor)與高感度的磁通門感測器(Fluxgate Magnetometer),再搭配自研的ASIC訊號處理晶片(Application Specific Integrated Circuit; ASIC) 與AI演算法,構築出完整的感測解決方案。

簡單來說,愛盛科技的磁感測器就像電子世界的「耳朵」,能精準感應極微小的磁場變化,並即時轉換為電子訊號。

賴孟煌指出,磁感測技術最早應用於導航,例如電子羅盤,協助無人機與手機實現精確方位角。愛盛自2016年起打入無人機市場,憑藉優異的抗磁干擾設計,目前其電子羅盤感測器在全球無人機市場市佔率已達七成以上,穩居領導地位。隨後,團隊更將技術延伸至電流感測,透過間接偵測電流產生的磁場,有效掌握電池充放電狀態,應用遍及電動車的車載充電器(On-Board Charger ; OBC)和儲能系統,其nA等級的穿隧式磁阻電源開關使用於醫療裝置與智慧穿戴產品。此外,其微型角度感測器亦被國際品牌採用於手錶旋鈕、滑鼠滾輪與遊戲控制器,具備非接觸式操作與高耐用性,成功取代傳統機械式零件。

近年隨著電動車產業快速發展,對電動車的電池管理與馬達控制的精準度要求日益提升,電流感測技術的重要性也隨之攀升,愛盛科技也從中發掘了新的市場契機。賴孟煌指出,電動車系統中的電流變化極為劇烈,從待機時低至小於1安培的電流,到加速時可能瞬間飆升至400甚至600安培的峰值電流,這對傳統電流感測器來說,是極大的挑戰。「大量程與高靈敏度往往難以兼得。若設計用於偵測極小電流,便難以應對高電流的情境;反之,若強調大量程,則在微小電流的解析度上則可能不足。」他表示。

發現了市場上的痛點後,愛盛科技選擇以其獨特的「複合式感測器」架構搭配「AI演算法」來解決這個難題。他們將多個不同靈敏度的感測元件巧妙地整合成單一系統單晶片(System on Chip; SoC),並透過內建AI模組,即時判斷目前電流所處的狀態(大電流或小電流),動態切換不同感測元件的權重,進行參數的最佳化與即時調整。賴孟煌表示,這樣不僅可減少後端中央處理器(Central Processing Unit; CPU)的運算負擔與延遲,更能在毫秒間完成精準判讀,有效避免因電流異常導致系統失效或引發火災等關鍵問題 。

複合式電流感測器整合了多個高低靈敏度的感測元件以實現高精度和大量程電流測量。
圖/ 數位時代

打造「會思考的感測器」,解決車用高電流環境下的風險監控難題

「簡單來說,我們讓AI感測器就像有了智能一樣,會依電流強度自動切換最合適的感測模式,確保在各種動態情境下都能輸出最精準、最可靠的電流數據。」賴孟煌補充。也正因為長期在磁感測技術上的累積與持續創新,愛盛科技得以從既有產品線延伸,投入「電動車用人工智慧複合電流感測晶片」的開發,並成功獲得經濟部產業發展署「驅動國內IC設計業者先進發展補助計畫」(晶創IC補助計畫)支持。該計畫在國科會協調與經濟部及相關部會共同合作所提出「晶片驅動臺灣產業創新方案」的框架下,透過實質資源引導業者前瞻布局AI、高效能運算與新興應用等高值化關鍵技術,進一步強化臺灣 IC 設計產業的國際競爭力與整體韌性,也讓愛盛能加速AI複合式電流感測晶片研發,為下一代電動車與智慧能源系統奠定關鍵基礎。

然而,進入電動車與儲能系統後,愛盛科技也面臨全新挑戰:這些場域的電流變化範圍極大,從小於1安培到數百安培不等,對感測器的量測能力提出更嚴苛要求。這正是愛盛科技進一步思考「高解析度」與「大量程」能否同時兼得的起點,也為其AI電流感測技術的誕生鋪設契機。「我們不是從零開始,而是站在過去的客戶基礎上,把技術推進到下一個世代」賴孟煌強調。

愛盛科技此次申請晶創IC補助計畫的技術主軸,是一顆符合AEC-Q100車規認證、導入AI演算法的複合式電流感測晶片。賴孟煌說,這項產品整合多通道感測架構與即時AI判讀能力,目的是在車輛充電、動力轉換、電池管理系統(Battery Management System; BMS)等核心應用中,提供更穩定的電流監控能力,這不只是技術突破,更是企業在智慧能源領域的關鍵布局。

愛盛科技從既有客戶需求延伸,計畫將產品線擴展至車載充電器和儲能設備市場,積極擴大產品組合和市場空間,展現在半導體產業的深耕與宏大願景。
圖/ 數位時代

愛盛科技早已憑藉其漏電流感測晶片打入歐美、韓等多家車廠的供應鏈。這次的AI複合式電流感測器,正是從原有的客戶需求延伸而來,並計畫拓展至車載充電器(On-Board Charger; OBC)與儲能設備等市場,擴大產品組合與提升毛利空間。賴孟煌表示,之所以能快速推進研發與產品化,與臺灣強大的半導體供應鏈密不可分。愛盛科技善用在地資源加快量產速度,此外,也積極與台大合作取得穿隧磁阻技術的初期研發基礎,進一步開發出符合商用需求的產品。「臺灣有最強的製造環境,我們要做的,是把它變成自己的技術優勢,」賴孟煌說。

面對電動車、儲能、智慧工業與醫療等多元市場,愛盛科技將持續深化磁感測與AI的整合技術,朝更高精度、更高可靠性、模組化平台前進。

未來3到5年,愛盛預期電動車與儲能將是主要成長動能。其AI電流感測平台,也將進一步延伸至智慧能源管理系統、高階工業伺服馬達、甚至軍用與航空等高可靠場域。藉由持續強化SoC整合能力與AI模組設計,愛盛科技將力求在國際感測市場中,扮演能見度更高的角色。「我們的願景,是讓世界聽見臺灣感測技術的聲音,真正把感測做到『聰明又可靠』,推動淨零、智慧與永續的未來,」賴孟煌有信心的說。

|企業小檔案|
- 企業名稱:愛盛科技
- 創辦人:賴孟煌
- 核心技術:磁場感測晶片開發之領導廠商
- 資本額:新台幣3億元

|驅動國內 IC 設計業者先進發展補助計畫簡介|
由國科會協調經濟部及相關部會共同合作,所提出「晶片驅動臺灣產業創新方案」,目標在於藉由半導體與生成式AI的結合,帶動各行各業的創新應用,並強化臺灣半導體產業的全球競爭力與韌性。在此政策框架下,經濟部產業發展署執行「驅動國內IC設計業者先進發展補助計畫」,以實質政策補助,於113年鼓勵國內業者往 AI、高效能運算、車用或新興應用等高值化領域之「16奈米以下先進製程」或「具國際高度信任之優勢、特殊領域」布局,以避開中國大陸在成熟製程的低價競爭,並提升我國IC設計產業價值與國際競爭力。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
進擊的機器人
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓