一封公開信引爆AI界論戰!論文原意「從來不是AI太強大」,真正可怕的是⋯
一封公開信引爆AI界論戰!論文原意「從來不是AI太強大」,真正可怕的是⋯

特斯拉執行長馬斯克(Elon Musk)、蘋果聯合創辦人史蒂夫·沃茲尼亞克(Steve Wozniak)以及其他上千名AI研究人員日前簽署公開信,呼籲暫停研究更先進的AI技術。然而,此信遭到許多專家甚至簽名者的質疑,被指加劇AI炒作、簽名造假以及歪曲論文等。

這封公開信由非營利組織「生命未來研究所」(Future of Life Institute)撰寫,其使命是“減少強大技術帶來的全球災難性和生存風險”。具體來說,該研究所專注於減輕人類的長期「生存」風險,比如超級AI。馬斯克是該組織的支持者,他在2015年曾向其捐贈了1000萬美元。

馬斯克為何要暫停更先進的AI?連署信說了什麼?

信中寫道:「只有在我們確信AI的影響是積極的、風險是可控的情況下,才應該開發更強大的AI系統。因此, 我們呼籲所有AI實驗室立即暫停至少6個月訓練比GPT-4更強大的AI系統。 AI實驗室和獨立專家應該利用這段時間,共同開發和實施一套高級AI設計和開發的共享安全協議,這些協議由獨立的外部專家嚴格審計和監督。」

這封信還澄清說:「這並不意味著AI發展總體上處於暫停狀態,只是從危險的競賽退回到具有緊急功能的更大、不可預測的黑箱模型。」 它指的是微軟和Google等大型科技公司之間的AI競賽,這兩家公司在過去一年發布了許多新的AI產品。

微軟Bing
隨著微軟、Google等科技公司等公布更多AI工具服務,AI戰爭已進入白熱化階段。
圖/ shutterstock

其他著名的簽名者包括圖像生成器新創Stability AI首席執行官伊馬德·穆斯塔克(Emad Mostaque)、作家兼歷史學家尤瓦爾·諾亞·哈拉里(Yuval Noah Harari)和Pinterest聯合創始人埃文·夏普(Evan Sharp)等。也有參與AI競賽的公司的員工簽名,包括谷歌姊妹公司DeepMind和微軟。儘管OpenAI開發並商業化了GPT系列AI模型,但沒有人在信上簽名。

延伸閱讀:暫停GPT-4研究6個月!馬斯克帶頭千名CEO、科學家聯名信,他們恐懼什麼?

儘管經過了驗證過程,但這封信一開始還是有許多虛假簽名者,包括冒充OpenAI首席執行官薩姆·阿爾特曼(Sam Altman)、Meta首席AI科學家雅恩·勒昆(Yann LeCun)的人。之後,生命未來研究所清理了名單,並在驗證每個簽名時暫停了在信上顯示更多簽名。

AI專家反對連署信:暫停訓練6個月沒意義,這是AI炒作!

然而,這封公開信的發布已經引起了軒然大波,受到許多AI研究人員的仔細審查,包括許多簽名者本人。 有些簽名者重新改變了自己的立場,有些知名人士的簽名被證明是假的,更多AI研究人員和專家則公開對這封信中的描述和提議的方法表達了反對意見。

紐約大學心理學和神經科學教授加里·馬庫斯(Gary Marcus)說:「這封信並不完美,但其精神是正確的。」同時,Stability AI首席執行官穆斯塔克在推特上表示,OpenAI是一家真正「開放」的AI公司,「所以,我不認為暫停訓練六個月時間是最好的主意,也不同意信中的很多觀點,但這封信中有些地方的確很有趣。」

AI專家批評這封信進一步推動了「AI炒作」,但卻沒有列出或呼籲對當今存在的AI危害採取具體行動。有些人認為,這宣揚了一種長期卻有些不符合實際的觀點,這種觀點被批評為有害和反民主的,因為它對超級富豪更有利,並允許他們在某些理由下採取道德上可疑的行為。

Elon Musk Flickr cc by JamesDuncanDavidson.jpg
特斯拉執行長馬斯克(Elon Musk)以及其他上千名AI研究人員日前簽署公開信,呼籲暫停研究更先進的AI技術。
圖/ Flickr cc by JamesDuncanDavidson

學者:這封AI公開信濫用了我的研究成果

華盛頓大學語言學系教授、公開信開頭所引用論文的合著者艾米麗·本德爾(Emily M. Bender)在推特上寫道,這封信中“充斥著AI炒作”,並濫用了她的研究成果。信中稱:「廣泛的研究表明,具有堪比人類智慧的AI系統可能會對社會和人類構成重大威脅。」但本德爾反駁說,她在研究中特別指出,這種威脅是指目前的大型語言模型及其在壓迫系統中的使用情況,這比公開信中假設的未來AI威脅要具體得多,也更緊迫。

本德爾繼續寫道:「我們在2020年底發布了完整論文,指出這種不考慮風險而急於建立更大語言模型的做法存在問題。 但風險和危害從來都不是『AI過於強大』,相反地,它們關乎權力集中在人民手中,關乎重現壓迫體系,關乎對訊息生態系統的破壞,關乎對自然生態系統的破壞等。

AI新創公司Hugging Face的研究科學家薩莎·盧西奧尼(Sasha Luccioni)在接受採訪時表示:「公開信在本質上是一種誤導:讓每個人都注意到大型語言模型被臆想的力量和危害,並提出非常模糊、幾乎無效的解決方案,而不是在此時此刻關注這些危害並解決它們。例如,在涉及LLM的培訓數據和能力時要求更多的透明度,或者要求立法規定在哪裡和何時可以使用它們。」

人類應該如何思考AI?我們如何與AI共存?

普林斯頓大學計算機科學副教授阿爾溫德·納拉亞南(Arvind Narayanan)表示,這封公開信充滿了AI炒作,「使解決真實的、正在發生的AI危害變得更加困難」。

公開信中提出了幾個問題:「我們是否應該自動化所有工作,包括那些讓人有成就感的工作?我們是否應該培養非人類思維,這些思維最終可能會超過人類智慧並取代我們?我們應該冒著失去對文明控制的風險繼續開發AI嗎?」

對此,納拉亞南說,這些問題都是「無稽之談」、「荒謬無比」。計算機是否會取代人類並接管人類文明,這是一個非常遙遠的問題,是長期主義思維的一部分,它分散了我們對當前問題的注意力。畢竟,AI已經被整合到人們的工作中,減少了對某些職業的需求,而不是一種會讓我們「過時」的「非人類思維」。

納拉亞南還稱:「我認為,這些可以算是合理的長期擔憂,但它們已被反覆提及,轉移了人們對當前危害的注意力,包括非常真實的訓息安全和安全風險!而解決這些安全風險將需要我們精誠合作。 但不幸的是,這封信中的炒作,包括對AI能力和事關人類生存風險的誇大,可能會導致AI模型被更多地束縛,使應對風險變得更加困難。

延伸閱讀:「AI提示詞工程師」是什麼?年薪百萬、企業想要⋯但其實很容易被取代?

不過,許多公開信的簽字人也進行了辯護。研究機構Mila創始人兼科學主任約書亞·本吉奧(Yoshua Bengio)表示, 六個月的暫停時間對於包括政府在內的治理機構理解、審計和驗證AI系統是必要的,可以確保這些系統對公眾是安全的 。他補充說,目前存在危險的權力集中,AI工具有可能破壞民主的穩定,「民主價值觀和開發這些工具的方式之間存在衝突」。

麻省理工學院NSF AI與基礎交互研究所(IAIFI)物理學教授、未來生命研究所所長馬克斯·泰格馬克(Max Tegmark)表示,最糟糕的情況是,人類將逐漸失去對文明的控制。他說,目前的風險在於,「我們失去了對科技公司中一群未經選舉產生的權力人士的控制,他們的影響力太大了。」

這些評論談到了廣闊的未來,暗示著對失去文明控制的恐懼,但除了呼籲6個月的暫停期之外,沒有談到任何具體措施。

計算機科學家、分佈式AI研究所創始人蒂姆尼特·格布魯(Timnit Gebru)在推特上發文稱,具有諷刺意味的是,他們呼籲暫停訓練比GPT-4更強大的AI模型,但卻未能解決圍繞GPT-4本身的大量擔憂。

本文授權轉載自:網易科技

關鍵字: #AI #ai人工智慧
往下滑看下一篇文章
從線性消費到循環互動!Meta 台灣暨香港總經理潘先國:掌握五大社群與商業趨勢,以 AI 驅動未來商務
從線性消費到循環互動!Meta 台灣暨香港總經理潘先國:掌握五大社群與商業趨勢,以 AI 驅動未來商務

2026 年開春,行銷人最關注的課題,已不再是如何導入 AI,而是如何利用 AI 槓桿放大成效。2025 年,AI 已邁入從單點應用轉向深度融合與垂直應用的關鍵年,在商務層面從「輔助工具」轉變為提升效率的「工作夥伴」,消費者的購物旅程也隨之產生變化。消費者不再只是單向接收資訊,而是在 AI、創作者與社群的交織影響下,建構出持續互動且即時決策的商務循環。面對商業趨勢的革新,Meta 台灣暨香港總經理潘先國 Patrick 從第一線觀察出發,解析 Meta 所提出「2026 年五大社群與商業趨勢」,助品牌精準佈局 AI 時代,描繪社群商務模式新藍圖。

趨勢一:生成式 AI 與自動化系統,打造全新購物體驗

生成式 AI 除了協助品牌發想腳本、找到不同的消費族群與創造溝通內容,同時也重塑消費者從發現與推薦、諮詢決策到售後口碑的完整購物旅程。透過 AI 的深度參與,傳統單一線性的溝通模式已被打破,轉變為一段持續且深度的互動體驗,協助品牌在各個接觸點與消費者建立更緊密的連結。

首先,在「發現與推薦」階段,Meta 透過 AI 的推薦系統同步處理並判讀多元訊號,在每個人的動態牆上量身打造個人化內容。現在大家的 Instagram 動態牆上,已有超過一半的內容是由 AI 推薦。根據 Meta 內部的資料顯示,AI 推薦系統讓大家在 Facebook 的使用停留時間提升約 5%,這些高度個人化的內容,也協助品牌打破同溫層,觸及更多潛在受眾。

其次,進入「諮詢與決策」階段,Meta AI 或各種生成式 AI 服務,就如同大眾的「貼身顧問」,協助評估選項並影響購買決策。同時,品牌可透過 Meta 旗下以 AI 驅動的行銷活動健檢工具「機會分數」,讓 AI 提供社群廣告活動的調整建議,例如分數若低於 100 分,品牌將獲得客製化的調整方向,幫助品牌達到更好的效益。而在購後階段,不少消費者在分享使用產品後的心得或介紹體驗過程時,會透過 AI 生成或潤飾文字內容,不管是分享在社群上或者在購物平台留下評論,這些都將進而影響下一位消費者的探索與決策。

趨勢二:商務訊息 AI 助消費者購物流程更順暢

商務訊息已經成為品牌與消費者溝通的重要管道。Patrick 分享 Meta 內部數據,每週有超過 10 億人透過訊息與商家往來,每日對話量逾 6 億次;在亞太地區,至少三分之一的消費者每週都會與商家聊天。

在 AI 深度參與消費者旅程的趨勢下,消費者更容易透過商務訊息完成整體購物流程,從發現商品、諮詢商家,到最後完成訂購的完整流程,皆無須頻繁跳轉不同頁面或平台。另一方面,對於商家來說,相較於使用單一 Chatbot,品牌也更期待在商務訊息中,為消費者增加多元互動與體驗,不管是依據各別消費者的需求,運用生成式 AI 產出個人化的商品推薦,透過商務訊息提供售後服務,甚至是再行銷的促購溝通,與會員關係經營等等,這些都讓商務訊息從輔助性的客服角色,轉化為驅動品牌營收成長的重心之一。

舉例來說,台灣醫美品牌奈思診所透過 Reels 介紹不同的美容服務,並導入自動對話流程與訊息,讓消費者可直接在 Messenger 與 Instagram 私訊運用對話,幫助潛在顧客獲得適合的服務與預約體驗。這樣的商務模式使潛在客戶數提升 35%,同時提高觸及率並降低名單成本,將內容曝光有效轉化為實際商機。

趨勢三:創作者影響力持續擴大,成為連結品牌與消費者的關鍵角色

隨著創作者影響力持續擴大,其所扮演的角色也從單純的溝通平台,轉換為品牌與消費者之間的信任橋梁。全球超過 70% 的 Z 世代消費者會透過創作者來瞭解產品和品牌,超過 80% 的消費者因為追蹤創作者,而透過社群廣告購買商品,這股趨勢在亞太地區尤其明顯。

為了幫助品牌將社群影響力轉化為實質購買力,Meta 持續強化創作者生態系。除了透過「Edits」等工具降低短影音製作門檻、提升內容產出效率,更推出「合作廣告(Partnership Ads)」服務,不僅幫助品牌更容易追蹤與創作者的合作成效,對於消費者來說,也可以更清楚地識別創作者與品牌的合作關係。以台灣品牌 ONE BOY 為例,其不只運用藝人與創作者的原生影響力,更進一步結合合作廣告擴大推廣,將創作者的內容擴大觸及至更多潛在受眾,優化投放效率與互動品質,帶來更高的點擊率、轉換率與互動表現,成功為品牌創造顯著成效。

趨勢四:直播購物持續當道,新科技帶動沉浸式體驗

在社群商務中,社群直播與影片就像一個「沉浸式購物入口」,消費者拿起手機觀看直播的同時,不僅可以透過直播主的介紹,全面地了解產品款式、細節與尺寸差異等,更可以在娛樂感十足的直播過程中與直播主深層互動,讓大家可以一邊觀看內容一邊下單,實現「看到就買到」的無縫體驗。

針對直播如何持續協助企業追求成長,Patrick 也分享台灣服飾品牌歐米嚴選 OMI&Classic 的品牌故事。在 Meta 廣告工具與生態系夥伴「就醬播 JamboLive」的協助下,透過直播展示商品實際使情境,歐米嚴選 OMI&Classic 與消費者建立信任基礎,將直播轉化為即時互動的導購場域。品牌更靈活運用限時限量策略,打造充滿臨場感的購物氛圍,成功縮短從觀看到下單的決策路徑,證明直播商務為品牌帶來的強大戰力。

然而,直播商務雖能創造極具沉浸的體驗,其背後的技術整合與自動化收單對許多品牌而言仍是一大挑戰。因此,許多品牌選擇與直播整合系統協作,不僅能快速建構標準化的直播作業流程,更具備跨越地域限制的優勢。透過技術賦能,品牌得以將觸角延伸至全球華人市場,讓直播商務不再只是單點促銷,而是進化為擴展跨境營運版圖的關鍵引擎。

趨勢五:跨境電商注入品牌成長動能,AI 助品牌精準拓展市場

面對日益成長的跨境電商市場,Meta 的 AI 工具可以力助品牌跨越語言、文化與消費習慣差異,透過數據分析與自動化投放機制,鎖定高潛力的海外受眾,提升跨境行銷效率與成效,讓 AI 成為品牌走向海外市場的重要推進器。

「這是因為 Meta 的自動化廣告系統可以辦識各市場的文化偏好與語言需求,動態調整廣告內容與投放策略,將觸及率轉化為實際投資報酬率。」Patrick 進一步說明,他以 Meta 自動化廣告系統「高效速成+」為例,以 AI 驅動的技術,幫助品牌即時處理預算分配、受眾鎖定、版位選擇與素材優化等變數,確保資源投入在轉換潛力最高的客群身上。

例如,防摔手機殼品牌犀牛盾運用 Meta 的 AI 廣告工具積極佈局海外市場,鎖定美國青壯年重要廣告受眾,針對目標族群進行多素材與多版位的廣告投放,使轉換率提升逾 12 個點,在 18 至 24 歲目標客群心中的知名度提高超過 6 個點。透過以 AI 驅動的自動化工具應對跨境電商的複雜挑戰,並精準連結品牌與潛在客群,全面提升市場拓展效率!

Patrick 強調,在這場由 AI 驅動的商務生態轉型中,Meta 不僅是社群商務的關鍵平台,更是推動品牌行銷升級的關鍵引擎。為協助品牌在 2026 年緊抓 AI 商機,他分享三大核心行動建議:

一、將 AI 視為最親密的「工作夥伴」 提升效率

AI 已經不再是遙遠的技術,現在可以像助理一般,協助處理日常工作。品牌透過生成式 AI 產出素材、利用「高效速成+ 」自動優化投放,或藉由 AI 商務訊息即時回覆,當 AI 接手高重複性任務,團隊即可專注於高價值的創意發想與品牌策略,實現更高效的運作模式。

二、與顧客創造多元互動

現在的消費者不只是想「看」廣告,他們更想「參與」品牌。因此品牌需創造更多元的互動方式。例如:透過創作者讓品牌更有溫度、利用 AI 商務訊息提供即時支援,或在 Threads 加入對話,參與社群討論、展現品牌個性等更貼近消費者生活的互動。每一次與顧客的對話都是建立信任的機會,也是推動購買決策的起點。

三、 秉持「Move Fast」 快速嘗試搶佔先機

面對變幻莫測的市場,品牌不能等到「準備好」才行動,而是先進行小規模測試並根據數據快速學習與迭代。在 AI 時代,具備快速學習能力、勇於 Move Fast 的品牌,能比競爭對手更早抓住機會、搶佔市場先機。

未來,Meta 將持續開發 AI 工具並分享趨勢洞察,提供更完整的商務支援,在 AI 浪潮中成為品牌最堅實的後盾。

延伸閱讀:立即掌握 2026 年 AI 社群商務的決勝關鍵!品牌不可不知的五大社群與商業趨勢與三大行動建議

立即收聽:數位關鍵字 Podcast 《2026 開春課題:讀懂社群商務趨勢,靠 AI 讓行銷更有感》

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
2026 大重啟
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓