防堵人工智慧失控!ChatGPT之父:AI很危險!他建議設下「三道紅線」
防堵人工智慧失控!ChatGPT之父:AI很危險!他建議設下「三道紅線」

📺 人物訪談、產業分析、記者第一手觀察!別錯過每週三、四晚間上片的「塊轉Web3」節目
👉節目資訊一次看 https://reurl.cc/9VMNLX

防堵失控的AI,ChatGPT之父建議三道紅線

ChatGPT掀起人工智慧浪潮,是科技發展的一大步,但也引發了更多隱憂。ChatGPT之父、OpenAI執行長奧特曼(Sam Altman)於5月16日與會美國國會的聽證會,呼籲人工智慧(AI)科技潛在的危險性,且認為政府應立法插手監管。

此參議院聽證會出席的成員包含了兩黨參議員,談論內容囊括失業率、智慧財產權、新聞正確、選舉等議題。奧特曼在發言時認可人工智慧的發展潛力,表示AI可以解決人類最大的問題,但他也警告,AI也可以強大到以難以預測的方式改變社會,「政府的監管干預是減少風險的關鍵。」

針對大型公司開發人工智慧,奧特曼提出的建議可以統合成三個部分:

  1. 建立新的政府部門,頒發大型AI模型的許可權,並有權撤銷不符合政府標準的公司,或模型的許可證。
  2. 建立AI模型的安全標準,評估其危險性。例如,這些模型必須通過一些安全測試,例如它們是否會「自我複製」或是「向外滲透」——也就是說,不受人類控制,開始自己行動。
  3. 要求專家對模型在各種指標上的表現進行獨立審核。

多位參議員也提出,AI現況可以和20年前社群網站興起情況類比,但當年政府選擇不干預社群網路的發展,造成近代大量問題,因此不希望再重蹈覆轍。

人工智慧
ChatGPT之父奧特曼認可人工智慧的發展潛力,但他也警告,AI也可以強大到以難以預測的方式改變社會。
圖/ Canva

🛎️延伸閱讀: ChatGPT之父「世界幣」爆紅!用虹膜當身分證、全人類都能獲得空投,為何被罵詐騙?

🛎️延伸閱讀: ChatGPT之父推「世界應用程式」!能作為AI時代人類證明?一次看懂怎麼用

要監管的是AI「潛在風險」,而非「技術發展」

這場聽證會由參議員Richard Blumenthal以一段的「假錄音」展開序幕;這段錄音是以ChatGPT來生成的文本,加上電腦合成Blumenthal的聲音所製作成的。這樣的開場方式意義再明顯不過了──人工智慧帶來的風險,以及人工智慧受到監管的必要性。

近幾個月,越來越多的科技巨頭加入人工智慧軍備競賽,而這有可能改變未來的工作、購物和互動模式,但也可能會破壞數百萬個工作崗位、傳播錯誤資訊以及有毒偏見。

奧特曼也在聽證會中特別強調,人工智慧被用來操縱選民和製造假新聞,是最令人擔憂的領域,尤其「我們(美國)明年將面臨選舉,而這些(人工智慧)模型也在不斷的優化」,明年美國選舉亂象恐怕難以預測。

ChatGPT
科技巨頭紛紛加入AI軍備競賽,而這有可能改變未來的工作、購物和互動模式,但也可能會破壞數百萬個工作崗位、傳播錯誤資訊以及有毒偏見。
圖/ shutterstock

除了奧特曼,與會成員還有IBM隱私長Christina Montgomery。她也警告AI的時代不該再是「快速行動、打破陳規」(“Move fast and break things”,Facebook 等矽谷巨頭長年以來的教條)。但她也告訴參議員們,「我們也還不必踩下創新的剎車」,意味接下來須謹慎行事,但也不必禁止技術發展。

奧特曼和Montgomery都表示,人工智慧可能會汰換掉一些職位,但也會創造新的工作。「這將會影響工作,」奧特曼認為,「這需要產業和政府之間的合作,但主要還是政府採取行動,來決定我們想要怎麼調和這種情況。但對於未來的工作會有多好,我非常樂觀。」

AI模型的許可權:設定關鍵能力的門檻

奧爾特曼呼籲,政府機構須要立定一些「關鍵能力的門檻」,讓超過這些門檻的AI模型系統需要註冊和許可權才可以使用。

Montgomery也認為,應該要求人工智慧產品在與使用互動時,保持透明和可信,同時她也強調,雖然國會尚未立定相關要求,但IBM內部已經組建了AI道德委員會。

獨立的監管部門、政策條例以及國際標準:為產業制定規則

一些參議員也主張,設立一個新的監管機構,把人工智慧在內的一些新興技術納入管轄。奧爾特表示對這一建議相當歡迎,認為這種方式有望讓美國本土的技術繼續保持領先。

奧特曼也表示,支持為人工智慧製定標準的國際組織,並表示世界各國政府在監管核武器方面都有先例,像是國際原子能機構等類似組織來為該產業製訂規則。

資料來源:CNNAxios華盛頓郵報

責任編輯:林美欣

往下滑看下一篇文章
AI 競爭全新戰場!美光 Mike Cordano:記憶體將成下一個企業戰略制高點
AI 競爭全新戰場!美光 Mike Cordano:記憶體將成下一個企業戰略制高點

從生成式AI訓練、推論,到代理式工作流程(Agentic Workflow)與未來的實體AI,資料流量正以指數級成長,讓記憶體從過去支援運算的配角躍升為決定AI效能與能源效率的關鍵角色。

全球知名的半導體與微電子技術分析機構TechInsights指出,AI競爭正逐漸從晶片算力擴展到記憶體架構設計能力,加速「Computational Memory」等新架構興起;在這波浪潮中,深耕記憶體與儲存技術數十年的美光科技,正與關鍵夥伴展開深度協同設計,包含攜手NVIDIA共同開發適用於新世代資料中心的低功耗記憶體技術,在AI基礎建設的新賽局中成為不可或缺的關鍵。

當GPU不再是唯一主角,記憶體為何躍上AI舞台中央?

過去,半導體的焦點多圍繞在晶片,例如CPU、GPU跟AI加速器等,市場普遍認為,晶片運算能力是左右科技產業發展速度的關鍵,但在進入生成式AI世代後,產業逐漸發現另一個事實:真正限制AI效能的瓶頸不是運算,而是資料能否快速被存取與傳輸。

從大型語言模型訓練,到AI推論、代理式工作流程(Agentic Workflow),甚至未來的機器人與自駕車,龐大的資料流量正持續推升對高頻寬、低延遲、高容量記憶體的需求,讓記憶體產業從過去相對標準化、以價格競爭為主的市場,逐漸轉變為AI基礎建設的重要核心。

「仔細觀察AI應用服務會發現,大多數工作負載都被頻寬限制。」美光科技全球業務執行副總裁Mike Cordano認為,記憶體是突破(頻寬)瓶頸的關鍵,也讓AI競賽從晶片算力升級到記憶體與儲存架構的系統級競爭。這樣的產業洞察,也正是Mike在歷經二十餘年的儲存產業資歷,加上四年半的創投生涯後,選擇加入美光的核心原因之一:在AI重塑產業結構的浪潮下,記憶體將成為這波成長最直接的動能所在。

美光 x 數位時代
美光科技全球業務執行副總裁 Mike Cordano
圖/ 數位時代

從零組件供應商到策略夥伴,記憶體共創時代來臨

AI的崛起,正在改變記憶體廠商與客戶的關係。

過去,記憶體產品多是標準化元件,客戶關注的是價格、供貨與規格;合作模式也偏向短期採購與交易導向。然而隨著AI系統規模愈來愈大,從資料中心、雲端平台到終端裝置,記憶體已經成為決定系統效能的重要關鍵,也因如此,越來越多企業將記憶體視為「策略性資產」,而非單純零組件。

Mike表示:「現在,我們跟客戶合作的時間跨度改變了,在產品正式上市前三到四年便開始合作,從系統架構階段就共同規劃未來需求。」例如,美光科技與NVIDIA共同研發的資料中心所使用的低功耗記憶體,便是雙方提前多年展開深度合作(co-design)的成果。

值得特別注意的是,美光科技除從技術層面與晶片製造商等夥伴共創產品,也在需求層面與客戶進行密切合作,例如,將過去較無約束力、期限僅一年的長期協議(LTA)轉變成為期五年、條款更具約束力的策略性客戶協議(SCA),藉此掌握客戶的未來需求,進而在技術層面做更深度的合作。Mike坦言,深度協同設計是高成本的投入,美光的做法是先廣泛進行市場感知,理解不同場域的需求方向,再與生態系統中的夥伴們展開客製化合作。

從裝置導向轉為Token導向,AI浪潮重寫記憶體成長模式

除了合作模式改變,更大的典範轉移是需求的改變。

Mike解釋,過去記憶體需求跟PC、手機跟伺服器出貨量息息相關,但在AI新世代,推動記憶體需求成長的核心不再是設備數量,而是AI模型所產生的運算與資料消耗量。「AI產業逐漸走向以『Consumption』或『Token』為主的新經濟模式,每一次的模型運算都需要消耗大量的記憶體跟儲存資源,這意味著,即使設備銷量成長趨緩,記憶體需求仍可能持續上升。」

更重要的是,AI應用正從資料中心外擴至手機、PC、自駕車與機器人等場域,儘管不同場域對記憶體的需求不盡相同,但是,Mike認為:所有AI裝置都存在三項共同需求:更快的速度、更大的容量,以及更高的能源效率。

正如Mike在受訪時提到的:「我們最大的挑戰,是如何與客戶和整個生態系保持高度一致,一方面創造供給與產能,另一方面持續推動技術創新。」可以預期,在接下來的五年,記憶體產業面臨的挑戰不僅僅是擴展產能,而是如何與客戶共同規劃需求、同步投入技術創新,而這也是美光科技積極經營AI生態體系的原因。

總的來說,AI帶來的改變,不只是算力提升,而是重新定義整個運算架構:過去,記憶體被視為支援運算的基礎元件;現在,則是決定AI效能、能源效率與創新速度的關鍵資源;當產業競爭從晶片性能延伸到資料流動效率,從裝置數量轉向Token消耗量,記憶體的重要性也將隨之水漲船高,對美光科技來說,這將是其從供應商走向AI生態系核心夥伴的關鍵角色轉變。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
代理式商務連動百兆商機
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓