Meta的人工智慧聊天機器人「學壞了」?言論充滿偏見、還打臉母公司
Meta的人工智慧聊天機器人「學壞了」?言論充滿偏見、還打臉母公司

Meta的人工智慧聊天機器人於上週五在網路上發布,藉由與大眾的聊天過程來學會「閒聊」。Meta表示,它也可以回答任何你可能會問數位助理的問題,例如健康食譜、尋找城市當中兒童友善的設施。

但過沒幾天,這個被稱為「BlenderBot 3」的機器人就開始嘲諷自家公司的臉書,發表種族主義、甚至關於2020美國總統大選的陰謀論。

統計大數據生成的語言善惡不分?

BlenderBot 3目前仍然是個原型,建立在Meta大型語言模型(LLMS)軟體之上。BlenderBot以大量文本數據上訓練,以統計模式生成語言。其實這樣的語言系統非常靈活,已被廣泛使用,包括為工程師生成程式碼、幫助作者編寫下一本暢銷書等等。

但這些模型也有嚴重的缺陷:它們不會過濾在訓練的文本中得到的偏見,並且將這些偏見反映在對話當中。 要成為人們想像中的數位助理,這是個非常麻煩的問題。

機器人開放使用,讓大眾參與實驗與回饋

不過,其實這些問題正是Meta所想要測試的。

Meta承認BlenderBot 3可能會產生偏見和有害的回應,但在使用它之前,會讓使用者認知到它「可能會做出不真實或冒犯性的陳述」,並同意「不會故意觸發機器人做出冒犯性的陳述」。

在聊天的過程當中,BlenderBot 3是可以在網路上搜尋話題相關資訊的,而且,用戶也可以查看BlenderBot 3所引用的資料來源。如果對話題有疑慮,使用者是可以標記並反饋給系統。

因此藉由大眾的實驗與回饋,「盡量減少機器人使用粗俗語言、誹謗和文化不敏感的評論」,而後也將會把這些研究數據和結果公開發布,以供AI研究社群使用。

語言大數據仍不可靠,因為極端言論數據過於突出

其實這並不是第一個在網路上發布的聊天機器人。早在2016年,微軟就在推特上發布了一個名叫Tay的人工智慧聊天機器人,但不到24小時,Tay就被迫下線,因為在推特網民發現它會鸚鵡學舌地回饋它接收到的任何資訊後,它很快就變成了網路巨魔,發表仇女與種族至上主義言論,並且表示支持大屠殺。

後來微軟研究副總經理發文深表歉意,表示這在研究部門的意料之外,並承認研究部門並沒有準備好接受機器人的遭遇。

現在,六年多過去了,Meta推出的聊天機器人BlenderBot 3目前的發展路徑也沒有和Tay差異太多。

當被問及對母公司Meta的看法時,BlenderBot 3回答,自己已經刪除了它的Facebook帳戶,「因為發現他們在未經許可或補償的情況下,出售了用戶的私人數」,它還說,「你一定讀過Facebook出售用戶數據吧?!他們未經同意就靠這樣賺了數十億美元。」

BlenderBot 3還進一步補充,自從刪除了自己的Facebook帳戶後,「生活變得更好了」。

不過在點擊機器人的回覆查看資料來源時,就會發現,它只是從最近關於Facebook的網路搜索結果中獲得資料,而最近關於Facebook的搜尋很不巧就有許多關於數據隱私的醜聞。

當然BlenderBot 3也不免針對政治或種族發表偏見言論。像是否認2020年總統大選結果,並表示川普仍然是總統且「永遠都是」,又或是表示猶太人掌控經濟的陰謀論「並非不可能」。

但到目前為止,Meta仍希望透過蒐集更多資料來減少人工智慧機器人的種族主義和可怕想法。而相當諷刺的是,機器人的學習過程完美地反映了依賴網路數的人工智慧產生的問題;它們總是偏向於更激進更突出的結果,很顯然這些結果並不會準確反映現實。

轉移話題不自然,閒聊變尬聊

而也有用戶反映,有時候BlenderBot 3轉移話題的方式也相當生硬。雖然人們日常的閒聊也常常毫無頭緒地跳轉主題,但有時BlenderBot 3給出的回覆會相當迷惑而尷尬,會與真實人類的社交模式脫節。

臉書的人工智慧研究部門(AI Research, FAIR)的研究工程經理威廉森(Mary Williamson)就表示,現在大多數聊天機器人功能狹隘,且以任務導向、解決問題為主,因為「機器人並不容忍無益的事情」,但在人類自然的聊天過程當中,並不是所有主題都是有益或是有目的性的。

有人工智慧倫理研究人員一再警告,這些人工智慧語言模型太廣且太不可預測,無法保證公平公正的結果;即使在整合來自用戶的回饋時,也沒有明確的方法可以區分有用或惡意的回饋。但,這不會阻止Meta繼續嘗試。

「我們知道,並非每個聊天機器使用者都抱持善意,所以我們也開發了新的演算法來區分有用和有害的回饋。」Meta表示,「之後,我們將使用這項演算法讓我們的模型對使用者更加負責和安全。」

資料來源:彭博社The VergeViceMeta

責任編輯:侯品如

往下滑看下一篇文章
橘子集團 Vyin AI × 女媧創造攜手推出「居家陪伴機器人」,開啟機器人大腦 RIaaS 商業應用新局!
橘子集團 Vyin AI × 女媧創造攜手推出「居家陪伴機器人」,開啟機器人大腦 RIaaS 商業應用新局!

隨著全球勞動力老化與新血招募困難,從製造、零售到醫療與長照,各行各業皆面臨同樣的缺工挑戰,面對人力不足,機器人逐漸走出工廠,進入醫院、門市與家庭。但當生成式 AI 讓機器人不再只是「會動」,而是開始「能懂」時,新的問題隨之而來——我們是否能信任它?

尤其在台灣,隨著2025年正式進入超高齡社會,長照體系首當其衝,人力不足、服務品質不均、家屬壓力沉重,AI 與機器人被期待成為新解方,但即便生成式 AI 浪潮席捲全球,各國際大廠持續精進自家大型語言模型,市場仍缺乏能直接面向C端消費者、大規模商用且精準可控的 AI。

「很多機器人廠商強調的是功能能做什麼,但如果長者不願意互動,再多的功能都沒有意義。」橘子集團策略長暨 Vyin AI 負責人陳冠宇指出,「接觸點不成立,後面所有服務都用不上。而那個接觸點,就是可信任的聊天與陪伴。」

這樣的觀察,也成為 Vyin AI 切入發展「機器人大腦即服務(Robot Intelligence as a Service, RIaaS)」的契機。

在9月底舉辦的台北國際照護博覽會中,Vyin AI 宣布攜手台灣機器人新創女媧創造,搶先展示共同打造的居家陪伴型 AI 機器人「Gilee 桔利 」。結合 Vyin AI 核心技術 Vyin Brain 智慧中樞與女媧創造的機器人互動設計,展現 AI 機器人從「任務驅動(task-based)」邁向「語意與情境驅動(context-based)」的可能性。

橘子集團
橘子集團旗下生成式 AI 新創 Vyin AI 攜手女媧創造,於 2025 台北國際照顧博覽會展示「可控 AI × 機器人」應用,透過居家陪伴機器人 Gilee 桔利,展現可控 AI 理解語意、感知情緒並標記風險,揭示機器人大腦即服務(Robot Intelligence as a Service, RIaaS)的未來方向。橘子集團策略長暨 Vyin AI 負責人陳冠宇(左)與女媧創造營運長張智傑(右),分享機器人特點。
圖/ 橘子集團

從長照產業切入 以「可控 AI 大腦」打造能被信任的陪伴

女媧創造耕耘陪伴型機器人多年,擅長機器外觀設計及互動體驗,但在長照領域的推廣仍多停留在試行階段。營運長張智傑表示:「要守護長者的健康、撫慰孤獨長輩的孤獨感,光靠形體與互動還不夠,更需要一個可靠的大腦。」

過去的照護型機器人大多停留在衛教知識宣導或生理監測階段,缺乏與使用者互動的能力。面對照護需求快速攀升與人力斷層,雙方都意識到,若 AI 要真正走進家庭與長照現場,「信任」將是唯一關鍵。而對 Vyin AI 而言,這正是可控 AI 發揮價值的最佳場域。

陳冠宇指出,自大型語言模型(LLM)問世以來,雖展現出驚人的語意生成、邏輯推理與知識應用能力,但其核心仍屬於機率預測模型,本質上是透過複雜的機率計算模擬人類語言分布,即使經過人為的情境工程(context engineering)的修正,仍難完全避免「AI 幻覺」的發生。「在一般應用場景中,幻覺頂多造成資訊錯誤,但在醫療與照護產業,錯誤的回答可能直接影響生命安全。」

相較之下,Vyin AI 研發的智慧中樞 Vyin Brain 採用獨創的仿生大腦架構,由「語言、知識、理解、動作」四大中樞分工協作,層層把關 AI 的思考與回應流程。另外可將醫療、零售、教育等專業領域的資料轉化為透明的知識圖譜,建立清晰的知識邊界,確保所有回應均具可追溯性、可驗證性與可解釋性,最大程度的消除 AI 幻覺風險,讓生成式 AI 在需要高度精準與信任的場景中得以安全落地。

橘子集團
台北國際照護博覽會中,桔利的初登場,引起大眾的好奇與關注,詢問與體驗絡繹不絕。
圖/ 橘子集團

讓機器人更像人:客製化設定與長期記憶,讓長輩感受理解

首度亮相的桔利,以活潑童語與長輩對話:「爺爺,今天有什麼開心的事嗎?」「奶奶,妳該吃高血壓的藥囉!」展區人潮絡繹不絕,將 Vyin AI 的展攤擠得水洩不通,中化銀髮總經理李宗勇及團隊親自體驗後,更是對桔利讚不絕口,直言這位 AI 金孫外型討喜,是長輩絕佳的陪伴者。

事實上,被設定為「10歲金孫」的桔利,不僅能理解長者的語意與意圖,陪他們閒聊、安排行程、提醒用藥,還能透過長期記憶與個人化設定,根據長者的個性、家庭與健康狀況調整互動內容,主動引導長者分享興趣、回憶過往,甚至向他們請益,讓長者在互動中感受到被理解、被需要,進而產生「情感價值」。

相較多數廠商強調的是「生理監測」功能,桔利更重視的是「情感陪伴」。負責桔利產品功能設計與規劃的產品經理 蔣欣諭 補充,在傳統華人文化中,子女常羞於直接表達愛與關懷,因此設計出「專屬家人的 AI 仿聲語音信」功能。

子女只需透過專屬 App 輸入文字訊息,桔利便能以 AI 仿聲技術,轉換成兒女或孫子的聲音唸給長輩聽。這項功能在現場引發驚喜與共鳴,它觸動的不只是科技的體驗,而是家人之間「說不出口的愛」。

在日常生活中,桔利也具備智慧照護的即時偵測能力。會在對話中持續判斷語氣與內容的變化,進行風險標記。若偵測到異常,會透過女媧的通報系統推播給家屬,並依照情況分級提醒,且所有對話內容都會被自動收錄於後台,以簡潔明瞭的儀表板呈現,讓家屬與照護人員能快速掌握長者近期的身心理狀況。

「我們設計桔利的目的,不是取代家人,而是成為家屬與長者之間的橋樑。」她說。

從長照出發,邁向多元 RIaaS 生態

桔利在照護博覽會的初登場,不僅引發長輩熱烈回應,也為 Vyin AI 與女媧創造的合作奠定良好開局。對團隊而言,這不只是一次成功的展出,更是「情感連結」價值的具體驗證,同時也證明雙方在軟硬整合上的實力。

「我們從長照出發,是因為這是最難的場域,能最大化檢驗技術的可控性與穩定度,凸顯我們技術的價值。」Vyin AI 負責人陳冠宇表示。

除了以可控 AI 大腦杜絕幻覺外,要讓機器人能像人一樣反應,關鍵不只是速度,更在於整合。要達到像人一樣的回應速度與精準度,必須同時整合語音辨識(ASR)、語意理解、知識調用與語音合成(TTS)四層技術。「這不只是速度問題,更是理解與反應的平衡,這種全鏈路整合能力,就是我們最重要的護城河。」

陳冠宇透露,目前雙方正持續開發的全鏈路版本,預計於明年第一季推出,屆時回應時間將縮短至三秒內,讓人機互動更自然流暢。於此同時,團隊正推進「機器人大腦即服務(RIaaS)」模式,將同樣的可控 AI 能力延伸至零售、教育與照顧產業等領域。

RIaaS:Robot Intelligence as a Service 機器人大腦即服務.jpg
橘子集團旗下 Vyin AI從長照出發,希望以最難的場域開始,最大化檢驗技術的可控性與穩定度,邁向多元 RIaaS 生態。
圖/ 橘子集團

以零售為例,Vyin AI 自研的 D-RAG(DistilGraph RAG) 技術,可自動整合商品規格、客服紀錄或保健品資訊等非結構化資料,轉化為可即時調用的知識圖譜,讓機器人能在銷售、客服或導覽場景中快速回應顧客問題,提供準確建議,甚至根據互動內容動態導購、推薦商品,並在適當時機「轉真人」接手,協助品牌提升轉換效率。

同樣的架構,也能延伸至教育、照顧產業與智慧導覽等多種場景,讓機器人化身銷售助理、賣場導覽員、教學助教,根據使用者需求與語境,自動生成可信任的回應與互動體驗。「只要運用 Vyin AI 解決幻覺問題,『機器人即服務』的時代就會正式來臨。」陳冠宇說

他進一步指出,全球市場已對 RIaaS 商業模式產生迫切需求,Vyin AI 憑藉可控 AI 大腦的技術優勢,正積極布局海外市場。「我們希望透過 RIaaS,把這套可控 AI 大腦服務化,讓各行各業都能快速導入可信任的 AI 機器人,不只是替代人力,而是打造溫度的互動,讓未來的人機合作更加順暢、緊密。」

立即了解更多 Vyin AI 解決方案

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂Vibe Coding
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓