GPT-4為何不開源？OpenAI聯合創辦人：當AI變得太強大，開源毫無意義|數位時代 BusinessNext

OpenAI 發佈了其自稱為「迄今為止最強大、校準最好的模型」GPT-4，但人工智慧社群的一部分人對「缺乏公共資訊」感到失望。他們的抱怨，凸顯了人工智慧世界中關於安全問題的日益緊張的形勢。

之前，OpenAI 發表了強大的 GPT-4，它是人們期待已久的下一代人工智慧語言模型。該模型的強大能力仍在評估中，但隨著研究人員和專家對其相關材料的仔細研究，一部分人對一個明顯的事實表示失望：OpenAI 發佈的 GPT-4，不是一個開放的人工智慧模型（not an open AI model）。

儘管 OpenAI 已經分享了大量 GPT-4 的基準和測試結果，以及一些有趣的示範，但基本上沒有提供用於訓練該模型的資料、能源成本，或用於創建該模型的具體硬體或方法的資訊。

人工智慧社群的一部分人批評了這一決定，認為它破壞了該公司作為一個研究機構的創始精神，並使其他人更難以複製其工作。也許更重要的是，一些人說，這也使人們難以制定保障措施來應對像 GPT-4 這樣的人工智慧系統所帶來的威脅，而這些抱怨是在人工智慧世界日益緊張和快速發展時顯現的。

OpenAI不再「open」，背後兩大原因

「我認為這一做法關閉了 'Open' AI 的大門：他們在介紹 GPT-4 的 98 頁論文中自豪地宣稱，沒有透露任何有關訓練集的內容，」 Nomic AI 資訊設計副總裁班·史密特（Ben Schmidt）在推特上表示。關於這一說法，史密特指的是 GPT-4 技術報告中的一段內容，如下：

鑒於像 GPT-4 這樣的大型模型的競爭狀況和安全影響，本報告沒有包含關於架構（包括模型大小）、硬體、訓練計算、資料集構建、訓練方法等方面的進一步細節。

在接受採訪時，OpenAI 首席科學家、聯合創辦人伊爾亞‧蘇茲克維（Ilya Sutskever）對這一做法進行了說明。他表示，OpenAI 不分享關於 GPT-4 的更多資訊的原因是「不言而喻的」——**害怕競爭和對安全的擔憂。 **

「在競爭格局方面－－外面的競爭很激烈，」蘇茲克維說，「GPT-4 的開發並不容易。幾乎 OpenAI 的所有人在一起花了很長時間才做出了這個東西，而且（目前）有很多很多公司都想做同樣的事情。」

「安全方面，我想說，還沒有競爭方面那麼突出。但它將會改變，基本上是這樣的。這些模型非常強大，而且會變得越來越強大。在某種程度上，如果有人想的話，很容易用這些模型造成很大的傷害。隨著（模型）能力的增強，不想透露是有道理的。」

當人工智慧過於強大，開源毫無意義

OpenAI 於 2015 年成立，創始人包括蘇茲克維、現任執行長山姆·阿特曼（Sam Altman）、現已離開 OpenAI 的馬斯克。在一篇部落格文章中，蘇茲克維等人表示，該組織的目標是「為每個人而不是股東創造價值」，並將與該領域的其他人「自由合作」。OpenAI 成立之初是一個非營利組織，但後來為了獲得數十億美元的投資（主要來自微軟）而變成了「利潤上限」。

當被問及為什麼 OpenAI 改變了分享其研究的方法時，蘇茲克維簡單地回答：「我們錯了。坦率地說，我們錯了。如果你像我們一樣相信，在某個時候，人工智慧/通用人工智慧將變得極其強大，令人難以置信，那麼，開源就是沒有意義的。這是一個壞主意...... 可以預料的是，在幾年內，每個人都會完全明白，開源人工智慧是不明智的。」

然而，人工智慧社群對此事的看法各不相同。值得注意的是，在 GPT-4 發表的幾周前，Meta 開發的另一個名為 LLaMA 的人工智慧語言模型在網上遭洩露，引發了關於開源研究的威脅和好處的類似討論。不過，大多數人對 GPT-4 的「封閉」模型的最初反應是負面的。

對此，史密特表示，由於無法看到 GPT-4 是在什麼資料上訓練的，人們很難知道該系統在什麼地方可以安全使用並提出修正。

「對於人們來說，要想對這個模型在什麼地方不起作用做出明智的決定，他們需要對它的作用以及其中的假設有一個更好的認識，」 Schmidt 說，「我不會相信在沒有下雪天經驗的情況下訓練出來的自動駕駛汽車；一些漏洞或其他問題，很可能會在真實情況下使用時浮現出來。」

Lightning AI 執行長、開源工具 PyTorch Lightning 創建者威廉·福爾肯（William Falcon）表示，人們可以從商業角度上理解這一決定。「作為一家公司，它完全有權利這樣做。」但 Falcon 也認為，這一做法為更廣泛的社群樹立了一個「壞先例」，並可能產生有害影響。

「如果這個模型出錯了，而且會出錯的，你已經看到它出現了幻覺，給你提供了錯誤的資訊，那麼社會應該如何反應？」福爾肯說，「倫理研究人員應該如何應對並提出解決方案，並說 ‘這種方式不起作用，也許可以調整它來做這個其他事情？’」

法律因素

一些人建議 OpenAI 隱藏 GPT-4 的構建細節的另一個原因是法律責任。

人工智慧語言模型是在巨大的文本資料集上進行訓練的，其中很多資料是從網路上直接獲取的，可能包括受版權保護的材料。同樣以網際網路內容為基礎訓練資料的人工智慧「文生圖」模型，正是因為這個原因而面臨法律挑戰，目前有幾家公司正被人類藝術家和圖片庫網站 Getty Images 起訴。

當被問及這是否是 OpenAI 沒有分享其訓練資料的一個原因時，蘇茲克維表示：「我對此的看法是，訓練資料就是技術（training data is technology）。它可能看起來不是這樣的，但它是。我們不披露訓練資料的原因與我們不披露參數數量的原因基本相同。」當被問及 OpenAI 是否可以明確表示其訓練資料不包括盜版材料時，蘇茲克維沒有回答。

Sutskever 確實同意批評者們的觀點，即開源模型有助於開發安全措施的想法是有「價值」的。他說：「如果有更多人研究這些模型，我們就能瞭解更多，那就太好了。」出於這些原因，OpenAI 向某些學術和研究機構提供了存取其系統的許可權。

關於共用研究的討論是在人工智慧世界發生狂熱變化的時候進行的，壓力在多個方面都在增加。在企業方面，像Google和微軟這樣的科技巨頭正急於將人工智慧功能添加到他們的產品中，往往將以前的道德問題擱置一邊。（微軟最近解雇了一個專門負責確保其人工智慧產品遵循道德準則的團隊）。在研究方面，技術本身似乎正在迅速改善，引發了人們對人工智慧正在成為一個嚴重和迫在眉睫的威脅的擔憂。

延伸閱讀：微軟才加碼投資OpenAI，轉身卻砍掉AI倫理團隊！監督責任落在誰身上？

The Centre for Long-Term Resilience 人工智慧政策負責人 Jess Whittlestone 說，平衡這些不同的壓力帶來了嚴重的治理挑戰——可能需要協力廠商監管機構參與。

「我們看到這些人工智慧能力發展得非常快，我擔心這些能力的發展速度超過了我們的適應能力。」她表示，OpenAI 不分享關於 GPT-4 的更多細節的理由是好的，但也可能導致人工智慧世界的權力集中化。

「不應該由個別公司來做這些決定，」 Whittlestone 說，「理想的情況是，我們需要把這裡的做法編纂成冊，然後讓獨立的協力廠商在審查與某些模型相關的風險以及向世界發表它們是否有意義方面發揮更大的作用。」

one more thing

在不滿 OpenAI 越來越「封閉」的人群中，自然少不了因「利益衝突」而離開 OpenAI 的馬斯克。這一次，他表達了自己的困惑：

本文授權轉載自：T客邦

責任編輯：傅珮晴

在全球數位浪潮席捲下，網路基礎建設已成為國家競爭力與社會進步的關鍵指標。中華電信HiNet於1995年服務正式商用營運以來，便以台灣數位發展的堅實後盾為目標，持續完善台灣的網路建設。如今正值HiNet服務屆滿30週年之際，中華電信特別舉辦「HiNet 30週年研討會」，以「迎接高速上網邁向AI智慧科技新世代」為主題，邀請數位發展部次長葉寧、國家通訊傳播委員會委員王怡惠及產官學研各界菁英，共同回顧台灣網路演進軌跡，並聚焦全光網路、AI應用與智慧生活等關鍵議題，勾勒未來智慧時代的網路藍圖。

中華電信HiNet三十週年研討會，聚集齊聚產官學界(由左至右分別為：中華電信個人家庭分公司總經理胡學海、台灣諾基亞通信公司總經理劉明達、國科會科技政策諮詢專家室主任蔡志宏、國家通訊傳播委員會委員王怡惠、中華電信董事長簡志誠、數位發展部次長葉寧、中華電信總經理林榮賜、DIGITIMES副總經理黃逸平、中華電信網路技術分公司總經理賈仲雍)

圖／數位時代

回顧30年歷程，看HiNet網路服務發展的3個10

中華電信董事長簡志誠以3個10來概括HiNet從過去到現在的發展。第一個10是指「30年如一日」的服務理念，從撥接網路時代開始至今，中華電信始終堅持提供最快速度、最好品質與最大涵蓋率的網路服務。

第二個10意味著「十足韌性」，透過整合海纜、光纖、行動網路、微波及低中高軌衛星，打造出海地星空的綿密網路架構，同時全力投入全光網路發展，確保個人、家戶與企業在各種環境下或面對外在各種變化時，皆能享有穩定連網服務。

第三個10則象徵「十分智慧」，中華電信以穩定可靠的網路建設為根基，積極拓展AI應用領域，推出Hami Video、防駭防詐等創新服務，為民眾生活與企業營運注入智慧動能，創造更便捷高效的數位體驗。

HiNet 30年，驅動台灣數位服務新未來

中華電信總經理林榮賜以「HiNet 30年：驅動台灣數位服務新未來」為主題進行報告，內容涵蓋HiNet三十年來的發展歷程、技術演進、網路韌性、數位應用推動、資安防護與前瞻佈局。

首先他回顧HiNet連網技術的發展歷程，從市話撥接、ADSL/VDSL寬頻上網、光纖到樓、光纖到府到目前發展中的全光網路，不僅讓骨幹頻寬成長150倍、連外頻寬增加了200倍，更有效縮減城鄉間的數位落差，使山區、偏鄉皆能享有完善的網路服務。這些關鍵建設讓台灣可以緊密連結全球，在數位競爭力與科技整備度等國際評比中始終名列前茅。

在推動台灣網路普及與高速化的過程中，中華電信也不忘與產業共榮共生的理念，藉由在地採購策略及終端設備領域優先選用台灣品牌的做法，讓本土設備商得以藉此機會測試與國際設備的互連能力，累積搶占國際市場的產品競爭力，進而加速台灣資通訊產業的蓬勃發展。

不斷強化網路韌性，提供不中斷的連網服務

除了完善網路基礎建設，中華電信近年來亦積極打造海地星空的網路架構，並導入雲端技術去強化網路韌性，以便更從容的因應極端氣候與地緣政治風險。

林榮賜說明，中華電信在「海地星空」網路架構的布局上不遺餘力，已投資超過30條國際海纜、於偏遠地區建置微波通訊系統，並與One Web、Astranis 等國際衛星通訊業者合作等，透過異質網路架構打造具強大韌性的通訊網路。在雲端技術應用上，中華電信導入網路功能虛擬化（NFV）的機制，將網路服務從硬體中抽離，達到快速延展、隨需部署及異地災備的目標，確保在各種情況下，網路服務仍能維持不中斷，全面強化台灣數位基礎建設的韌性與可靠度。

推動數位應用與智慧生活，引領智慧未來

中華電信以穩定可靠的網路建設為基礎，推動HiNet加值應用服務，包括MOD、OTT影音（如Hami Video）、數位音樂（KKBOX）、消費資安、Google One雲端空間及智慧醫療、智慧交通、智慧農業等企客應用，形塑全方位智慧生活生態圈。同時，中華電信也積極投入影視投資與元宇宙應用，推動文化創新，並協助企業數位轉型，例如透過多雲交換平台 CMCX無縫串接三大國際公有雲與中華電信雲平台hicloud，再結合資安、數據等專業顧問服務，協助企業上雲，目前雲與IDC部門已成為中華電信首個營收突破百億元的業務單位。

資安防護與數位信任

面對日益嚴峻的資安威脅及詐騙風險，中華電信建構7x24資安防護體系，不只推出相對應解決方案，從防駭守門員、偵測偽冒網站與國際詐騙電話，到建立多層防線與資安監控機制，全方位守護個人與企業的數位安全，更運用AI阻擋惡意連線、詐騙簡訊與駭客攻擊，2024年成功攔阻威脅數達數十億次，現更推動後量子密碼技術，強化數位信任與資料主權。

國科會科技政策諮詢專家室主任蔡志宏認為，中華電信提供從連網、雲服務、AI應用到資安的完整解決方案，使其在台灣AI發展上扮演著多元且關鍵的角色，加速從政府部門的公共服務AI化到百工百業的AI轉型。

未來10年，把握，6G、AI和全光網路3大重點

中華電信網路技術分公司總經理賈仲雍於高峰對談時展望未來，他表示6G、全光網路和AI是中華電信的3大發展重心，尤其全光網路高速傳輸的特性，讓企業可以把敏感資料留在地端，同時仍可運用遠端資料中心的GPU進行運算，這種資料與算力資源分離的架構，有效降低企業對資料安全的疑慮，進而提高導入AI的意願。

中華電信獨立董事杜奕瑾則從另一角度闡述全光網路的價值，他指出此技術讓AI不需直接存取原始資料，就能進行跨國、跨企業間的聯邦式學習，大幅提升AI系統的智慧化程度。

台灣諾基亞通信公司總經理劉明達亦建議，中華電信可攜手產業發展垂直產業的AI應用，並積極拓展國際市場，有效掌握未來AI時代的龐大商機。

賈仲雍總經理最終以「穩」、「韌」、「新」、「安」四字精闢總結HiNet未來10年的發展方向，也就是確保網路服務穩定可靠、提升網路韌性、持續引進創新技術及強化上網安全，期望能繼續為台灣寬頻網路建設而努力，讓台灣網路產業在全球數位經濟浪潮中持續發光發熱，共創智慧台灣的美好未來。

走進HiNet時光隧道，體驗AI智慧生活新境界

本次研討會場外精心規劃「HiNet 30週年回顧」與「AI智慧家庭新世代」兩大展區。前者帶領參觀者重溫HiNet三十年來的輝煌歷程，後者為智慧家庭創造無限可能，展區除攜手全球電信設備領導廠商Nokia，率先於國內完成 50G PON高速光纖接取技術及Wi-Fi容器化架構服務驗證，可全面提升家庭網路的速度、穩定性與延展性。展區同時展示智慧家庭應用與消費性資安解決方案，並設有互動問答與導覽模擬體驗，讓參與者能親身感受未來智慧生活的全貌。透過實體展示與沉浸式互動，中華電信不僅彰顯其於網路建設及 AI 應用領域的創新實力，更強化與大眾的溝通連結，展現推動數位轉型的決心與執行力。