Meta的人工智慧聊天機器人「學壞了」?言論充滿偏見、還打臉母公司
Meta的人工智慧聊天機器人「學壞了」?言論充滿偏見、還打臉母公司

Meta的人工智慧聊天機器人於上週五在網路上發布,藉由與大眾的聊天過程來學會「閒聊」。Meta表示,它也可以回答任何你可能會問數位助理的問題,例如健康食譜、尋找城市當中兒童友善的設施。

但過沒幾天,這個被稱為「BlenderBot 3」的機器人就開始嘲諷自家公司的臉書,發表種族主義、甚至關於2020美國總統大選的陰謀論。

統計大數據生成的語言善惡不分?

BlenderBot 3目前仍然是個原型,建立在Meta大型語言模型(LLMS)軟體之上。BlenderBot以大量文本數據上訓練,以統計模式生成語言。其實這樣的語言系統非常靈活,已被廣泛使用,包括為工程師生成程式碼、幫助作者編寫下一本暢銷書等等。

但這些模型也有嚴重的缺陷:它們不會過濾在訓練的文本中得到的偏見,並且將這些偏見反映在對話當中。 要成為人們想像中的數位助理,這是個非常麻煩的問題。

機器人開放使用,讓大眾參與實驗與回饋

不過,其實這些問題正是Meta所想要測試的。

Meta承認BlenderBot 3可能會產生偏見和有害的回應,但在使用它之前,會讓使用者認知到它「可能會做出不真實或冒犯性的陳述」,並同意「不會故意觸發機器人做出冒犯性的陳述」。

在聊天的過程當中,BlenderBot 3是可以在網路上搜尋話題相關資訊的,而且,用戶也可以查看BlenderBot 3所引用的資料來源。如果對話題有疑慮,使用者是可以標記並反饋給系統。

因此藉由大眾的實驗與回饋,「盡量減少機器人使用粗俗語言、誹謗和文化不敏感的評論」,而後也將會把這些研究數據和結果公開發布,以供AI研究社群使用。

語言大數據仍不可靠,因為極端言論數據過於突出

其實這並不是第一個在網路上發布的聊天機器人。早在2016年,微軟就在推特上發布了一個名叫Tay的人工智慧聊天機器人,但不到24小時,Tay就被迫下線,因為在推特網民發現它會鸚鵡學舌地回饋它接收到的任何資訊後,它很快就變成了網路巨魔,發表仇女與種族至上主義言論,並且表示支持大屠殺。

後來微軟研究副總經理發文深表歉意,表示這在研究部門的意料之外,並承認研究部門並沒有準備好接受機器人的遭遇。

現在,六年多過去了,Meta推出的聊天機器人BlenderBot 3目前的發展路徑也沒有和Tay差異太多。

當被問及對母公司Meta的看法時,BlenderBot 3回答,自己已經刪除了它的Facebook帳戶,「因為發現他們在未經許可或補償的情況下,出售了用戶的私人數」,它還說,「你一定讀過Facebook出售用戶數據吧?!他們未經同意就靠這樣賺了數十億美元。」

BlenderBot 3還進一步補充,自從刪除了自己的Facebook帳戶後,「生活變得更好了」。

不過在點擊機器人的回覆查看資料來源時,就會發現,它只是從最近關於Facebook的網路搜索結果中獲得資料,而最近關於Facebook的搜尋很不巧就有許多關於數據隱私的醜聞。

當然BlenderBot 3也不免針對政治或種族發表偏見言論。像是否認2020年總統大選結果,並表示川普仍然是總統且「永遠都是」,又或是表示猶太人掌控經濟的陰謀論「並非不可能」。

但到目前為止,Meta仍希望透過蒐集更多資料來減少人工智慧機器人的種族主義和可怕想法。而相當諷刺的是,機器人的學習過程完美地反映了依賴網路數的人工智慧產生的問題;它們總是偏向於更激進更突出的結果,很顯然這些結果並不會準確反映現實。

轉移話題不自然,閒聊變尬聊

而也有用戶反映,有時候BlenderBot 3轉移話題的方式也相當生硬。雖然人們日常的閒聊也常常毫無頭緒地跳轉主題,但有時BlenderBot 3給出的回覆會相當迷惑而尷尬,會與真實人類的社交模式脫節。

臉書的人工智慧研究部門(AI Research, FAIR)的研究工程經理威廉森(Mary Williamson)就表示,現在大多數聊天機器人功能狹隘,且以任務導向、解決問題為主,因為「機器人並不容忍無益的事情」,但在人類自然的聊天過程當中,並不是所有主題都是有益或是有目的性的。

有人工智慧倫理研究人員一再警告,這些人工智慧語言模型太廣且太不可預測,無法保證公平公正的結果;即使在整合來自用戶的回饋時,也沒有明確的方法可以區分有用或惡意的回饋。但,這不會阻止Meta繼續嘗試。

「我們知道,並非每個聊天機器使用者都抱持善意,所以我們也開發了新的演算法來區分有用和有害的回饋。」Meta表示,「之後,我們將使用這項演算法讓我們的模型對使用者更加負責和安全。」

資料來源:彭博社The VergeViceMeta

責任編輯:侯品如

往下滑看下一篇文章
用50元硬幣大小的晶片決戰邊緣運算!鈺創科技以AI微系統概念,為百工百業插上智慧的翅膀
用50元硬幣大小的晶片決戰邊緣運算!鈺創科技以AI微系統概念,為百工百業插上智慧的翅膀

在生成式AI的浪潮下,「大模型+高算力」似乎已成為技術競賽的主軸。然而,當AI應用要真正落地,走進生活並進入裝置與第一線場域時,卻面臨高成本、高功耗與硬體無法升級等瓶頸。尤其在台灣這個製造與應用密集的環境中,產業真正需要的是兼具低功耗、高效率與易於整合特性的解決方案,也就是小而精、小而強的AI架構。這正促使鈺創科技提出以記憶體為核心的「記憶體驅動AI邊緣系統平台」(Memory-Driven AI-Edge System Platform)構想。

「我們要做的,不是一顆很炫技的晶片,而是一種AI新架構,讓現有系統都能以最輕量、最安全的方式,加上一顆AI的腦。」鈺創科技董事長盧超群表示。

一顆50元大小的AI腦,為裝置插上智慧的翅膀

手上的一枚50元硬幣,盧超群指著說:「這個AI微系統就只有這麼大而已。」他語帶驕傲地表示。這正是鈺創科技整合30年記憶體設計經驗與異質整合(Heterogeneous Integration)技術的成果結晶。其設計理念並非依賴大規模中央處理器(Central Processing Unit, CPU)資源,而是從「記憶體為核心」出發,將動態隨機存取記憶體(Dynamic Random Access Memory, DRAM)與控制器進行深度整合,再透過「AI賦能器」的方式,成為主系統晶片(System on Chip, SoC)旁的一顆輕量協作處理器(Companion Chip)。

盧超群指出,不同於傳統以處理器為中心的架構,鈺創科技的「記憶體驅動」(Memory-Driven)設計能有效縮短資料傳輸路徑,大幅提升運算效率,同時顯著降低能耗與整體系統成本,這對於資源受限的邊緣裝置來說,是實現AI智慧化的重要突破。不僅如此,它還搭載鈺創科技獨有的遠端處理器通訊動態隨機存取記憶體與良品裸晶(Known-Good-Die, KGD)技術,在整體功耗與體積大幅下降的情況下,也能同時保有即時運算與AI推理能力。

換句話說,不需要拆解原有平台,也無須仰賴雲端計算,既有設備便能快速升級生成式AI功能。這不僅解決了硬體升級的痛點,更為終端裝置的資料隱私與自主運算提供堅實保障,尤其是在對即時性與安全性要求極高的工業和車用領域,其價值更是充滿潛力。盧超群形容這是「加翅膀」的概念,「你本來有輪子可以跑,我再給你加上AI的翅膀,讓你可以飛。這不是全面取代,而是一種共生的AI策略。」

在實際應用層面,這顆晶片的最大突破不只來自硬體設計,更來自於一種嶄新的AI運算思維──視覺導向記憶體(Vision-Oriented Memory, VOM)技術。簡單來說,就是讓機器不再只「看到影像」,而是能「聽懂場景」的關鍵創新。

從影像到語意:讓AI真正「理解場景」並即時行動

現場說明如何將影像內容轉化為文字,以提升AI在智慧應用中的理解與反應速度。
現場說明如何將影像內容轉化為文字,以提升AI在智慧應用中的理解與反應速度。
圖/ 數位時代

舉例來說,以保全場景的網路攝影機發生異常為例,過去往往只發出警報,還需人力再去翻看影像辨識,既耗時又費力,但若能導入VOM技術,系統可即時將畫面影像以文字化方式標籤出來,如「左上角有一名戴帽子的人走進來」,有效減少誤報並提高反應速度。此外,在智慧機器人應用中,VOM技術則能讓機器人精準理解周遭環境的動態變化,例如「貨架上少了3個藍色盒子」,進而做出更精確的判斷與協作行為,大幅提升自動化效率。這種「影像語意化」的轉譯能力,將成為工業自動化、零售門市、智慧監控等領域的重要人機介面革新。

盧超群進一步指出,這種以記憶體為基礎、貼近任務特性化的設計,也為邊緣AI運算帶來新的效率模型。與其將所有任務丟上雲端處理,不如讓裝置本身就具備一定的感知與語意運算能力,使AI不僅強大,更能即時、節能且安全,這也呼應了當前AI發展從雲端走向邊緣的趨勢,而鈺創科技的解決方案將成為推動AI應用廣泛落地的關鍵推手。

鈺創科技以這顆AI微系統作為主題,向經濟部產業發展署申請114年驅動國內IC設計業者先進發展補助計畫(以下簡稱晶創IC補助計畫)。盧超群表示這不僅是晶片的創新,更是一種能被多場域導入、易於整合且可廣泛擴散的AI架構策略。

「我們提供的不是單一產品,而是一種讓既有系統升級AI功能的解決方案。」盧超群指出,在晶創IC補助計畫資源的資源挹注下,不僅能讓公司擴大研發量能,也加速推動與軟體業者、新創團隊及終端應用方的合作對接,進一步將創新技術拓展至智慧家電、工業設備、服務業終端等百工百業。這樣的發展策略,也讓鈺創科技的晶片自一開始便具備可插拔、可搭載、可快速部署等模組化思維,成為推動AI普及化過程中的「加速器角色」。

不只晶片創新,更是主權產業的戰略佈局者

鈺創科技展現其在AI微系統領域的創新與領先地位。
鈺創科技展現其在AI微系統領域的創新與領先地位。
圖/ 數位時代

從打造這個AI微系統的概念便可看出,鈺創科技的發展歷程從來不只是為了追隨趨勢,而是在每一個技術躍進的節點上,選擇為台灣半導體產業開創另一條路。盧超群有感而發地表示,從1999年提出KGD概念、2004年於國際固態電路研討會大會(ISSCC Plenary Talk)發表系統積體電路(System IC)解決方案,再到近期推動異質整合與生成式AI應用的結合,鈺創科技始終扮演著最接地氣的創新者角色。正是這份堅持,讓鈺創科技不隨波逐流,反而能開闢出獨特的技術道路,為產業帶來真正具差異化的解決方案。

也正因如此,盧超群始終強調「主權產業」的概念。他直言,若AI是全球未來20年的鑽石產業,那麼台灣不能只有護國神山,還必須擁有屬於自己的產品、平台與價值鏈,才能藉此掌握從設計到應用的一條龍自主能力。

「台灣擁有設計能量與製造基礎,理應能做出最適合邊緣裝置與在地應用的AI微系統,這不只是為了競爭力,而是責任感。」他說。展望未來,鈺創科技也提出「Six-I's」作為下一階段技術布局藍圖,亦即人工智慧(Artificial Intelligence)、積體電路(Integrated Circuit)、半導體(Semiconductor)、異質整合(Heterogeneous Integration)、記憶體內嵌(DRAM-In)與個人智慧(Personal Intelligence)等6大面向。其廣泛的涵蓋範圍,將從雲端到邊緣端展開全方位布局,試圖在AI浪潮中建構出屬於台灣自己的創新戰略陣地。

|企業小檔案|
- 企業名稱:鈺創科技
- 創辦人:盧超群
- 核心技術:專精型緩衝記憶體產品、USB高速傳輸產品及3D感測影像產品
- 資本額:新台幣32億5600萬元

|驅動國內IC設計業者先進發展補助計畫簡介|
在行政院「晶片驅動臺灣產業創新方案」政策架構下,經濟部產業發展署透過推動「驅動國內IC設計業者先進發展補助計畫」,以實質政策補助,鼓勵業者往AI、高效能運算、車用或新興應用等高值化領域之「16奈米以下先進製程」或「具國際高度信任之優勢、特殊領域」布局,以避開中國大陸在成熟製程之低價競爭,並提升我國IC設計產業價值與國際競爭力。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂Vibe Coding
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓