Meta的人工智慧聊天機器人「學壞了」？言論充滿偏見、還打臉母公司|數位時代 BusinessNext

Meta的人工智慧聊天機器人於上週五在網路上發布，藉由與大眾的聊天過程來學會「閒聊」。Meta表示，它也可以回答任何你可能會問數位助理的問題，例如健康食譜、尋找城市當中兒童友善的設施。

但過沒幾天，這個被稱為「BlenderBot 3」的機器人就開始嘲諷自家公司的臉書，發表種族主義、甚至關於2020美國總統大選的陰謀論。

統計大數據生成的語言善惡不分？

BlenderBot 3目前仍然是個原型，建立在Meta大型語言模型（LLMS）軟體之上。BlenderBot以大量文本數據上訓練，以統計模式生成語言。其實這樣的語言系統非常靈活，已被廣泛使用，包括為工程師生成程式碼、幫助作者編寫下一本暢銷書等等。

但這些模型也有嚴重的缺陷：它們不會過濾在訓練的文本中得到的偏見，並且將這些偏見反映在對話當中。 要成為人們想像中的數位助理，這是個非常麻煩的問題。

機器人開放使用，讓大眾參與實驗與回饋

不過，其實這些問題正是Meta所想要測試的。

Meta承認BlenderBot 3可能會產生偏見和有害的回應，但在使用它之前，會讓使用者認知到它「可能會做出不真實或冒犯性的陳述」，並同意「不會故意觸發機器人做出冒犯性的陳述」。

在聊天的過程當中，BlenderBot 3是可以在網路上搜尋話題相關資訊的，而且，用戶也可以查看BlenderBot 3所引用的資料來源。如果對話題有疑慮，使用者是可以標記並反饋給系統。

因此藉由大眾的實驗與回饋，「盡量減少機器人使用粗俗語言、誹謗和文化不敏感的評論」，而後也將會把這些研究數據和結果公開發布，以供AI研究社群使用。

語言大數據仍不可靠，因為極端言論數據過於突出

其實這並不是第一個在網路上發布的聊天機器人。早在2016年，微軟就在推特上發布了一個名叫Tay的人工智慧聊天機器人，但不到24小時，Tay就被迫下線，因為在推特網民發現它會鸚鵡學舌地回饋它接收到的任何資訊後，它很快就變成了網路巨魔，發表仇女與種族至上主義言論，並且表示支持大屠殺。

後來微軟研究副總經理發文深表歉意，表示這在研究部門的意料之外，並承認研究部門並沒有準備好接受機器人的遭遇。

現在，六年多過去了，Meta推出的聊天機器人BlenderBot 3目前的發展路徑也沒有和Tay差異太多。

當被問及對母公司Meta的看法時，BlenderBot 3回答，自己已經刪除了它的Facebook帳戶，「因為發現他們在未經許可或補償的情況下，出售了用戶的私人數」，它還說，「你一定讀過Facebook出售用戶數據吧？！他們未經同意就靠這樣賺了數十億美元。」

BlenderBot 3還進一步補充，自從刪除了自己的Facebook帳戶後，「生活變得更好了」。

不過在點擊機器人的回覆查看資料來源時，就會發現，它只是從最近關於Facebook的網路搜索結果中獲得資料，而最近關於Facebook的搜尋很不巧就有許多關於數據隱私的醜聞。

當然BlenderBot 3也不免針對政治或種族發表偏見言論。像是否認2020年總統大選結果，並表示川普仍然是總統且「永遠都是」，又或是表示猶太人掌控經濟的陰謀論「並非不可能」。

但到目前為止，Meta仍希望透過蒐集更多資料來減少人工智慧機器人的種族主義和可怕想法。而相當諷刺的是，機器人的學習過程完美地反映了依賴網路數的人工智慧產生的問題；它們總是偏向於更激進更突出的結果，很顯然這些結果並不會準確反映現實。

轉移話題不自然，閒聊變尬聊

而也有用戶反映，有時候BlenderBot 3轉移話題的方式也相當生硬。雖然人們日常的閒聊也常常毫無頭緒地跳轉主題，但有時BlenderBot 3給出的回覆會相當迷惑而尷尬，會與真實人類的社交模式脫節。

臉書的人工智慧研究部門（AI Research, FAIR）的研究工程經理威廉森（Mary Williamson）就表示，現在大多數聊天機器人功能狹隘，且以任務導向、解決問題為主，因為「機器人並不容忍無益的事情」，但在人類自然的聊天過程當中，並不是所有主題都是有益或是有目的性的。

有人工智慧倫理研究人員一再警告，這些人工智慧語言模型太廣且太不可預測，無法保證公平公正的結果；即使在整合來自用戶的回饋時，也沒有明確的方法可以區分有用或惡意的回饋。但，這不會阻止Meta繼續嘗試。

「我們知道，並非每個聊天機器使用者都抱持善意，所以我們也開發了新的演算法來區分有用和有害的回饋。」Meta表示，「之後，我們將使用這項演算法讓我們的模型對使用者更加負責和安全。」

資料來源：彭博社、The Verge、Vice、Meta

責任編輯：侯品如

看好人工智慧技術對產業與世界帶來的改變，中華電信早在2016年即展開相關研究，鎖定客服、聲控、分析、安防、助理與新興應用領域探討人機協作的各種可能性，隨著生成式人工智慧與代理人工智慧技術的出現與逐漸成熟，中華電信不僅與時俱進的以AI優化產品服務能量，更因應產業客戶的不同需求提供可信可控且支援在地客製的智慧服務。

以AI綠能機房滿足客戶的多元運算需求

研究機構IDC預測，全球人工智慧基礎設施（AI Infrastructure）市場規模自2019年以來一直呈現雙位數的成長趨勢，預估將在2028年創下超過2,000億美元的規模，看好該市場，中華電信整合AI綠能機房專業顧問團隊以及20餘年的機房營運經驗，以單一窗口提供涵蓋規劃、設計、施工與專案管理的一站式客製AI綠能機房服務，讓企業客戶可以無後顧之憂地聚焦於核心業務，同時，以高效能、低碳排與永續的機房營運發揮企業AI應用的最大成效。

AI技術的推陳出新不僅改變了運算架構，如AI伺服器與機櫃功耗從3kW、10kW到150kW，冷卻系統、電源管理與備援機制也大不相同，為滿足不同類型的企業客戶需求，中華電信除攜手百餘家產業鏈夥伴，以模組化產品服務滿足客戶需求，如浸沒液冷、直接液冷、水冷背板與風牆等AI綠能機房高電力密度解決方案，更提供資訊科技與通訊科技整合服務，以及在地客製化服務，確保企業客戶可以因應業務彈性需求、敏捷擴展AI綠能機房。

除協助企業客戶打造接軌國際的AI綠能機房，中華電信也很重視產業需求，除推出有助於提升企業營運效率的AI服務，更透過AI賦能的安全防護機制提升營運韌性。

以AI賦能的智慧客服協助超過30家企業優化營運效率並持續擴展應用場域

中華電信的智能客服方案發展得十分成熟，不僅與時俱進的以辨別式AI、生成式AI與代理AI優化與推出新產品功能，如智慧客服機器人（文字/語音/外撥）、機器人後台管理系統、值機應答助理、訂位助理、掛號助理與客戶心聲分析等，協助來自餐飲、旅宿、電商、製造、媒體、金融、物流等超過30家企業客戶優化營運績效，更連續多年獲得國家級大獎殊榮，如第十九屆國家品牌玉山獎最佳產品獎、TCCDA-CSEA最佳智慧客服系統應用獎以及台灣創新技術展覽會專利金/銀獎等。

有別於其他AI智能客服，中華電信不僅掌握核心技術、重視平台開放性與提供客製化服務，更積極深化對數位虛擬人物與多國語言的支持，如提升台語跟越南語的精準度等，藉此擴大智能客服的應用場域，更好協助企業提升客服中心的員工生產力與營運績效。

透過AI技術優化「放心接」隱碼平台與資安防詐，助企業有效控管安全與詐欺風險

面對層出不窮的電話騷擾與冒名詐欺事件，中華電信推出AI賦能的「放心接」隱碼平台服務，運作方式是由系統將雙方實際號碼隱藏、轉以「代表號碼+訂單/識別號碼」的方式讓雙方進行溝通，通話或活動結束後代表號碼即失效，不僅能杜絕個人資料外洩或遭第三方竊取，還可以有效避免事後聯繫、濫用與詐欺風險，十分適合需要密切與消費者聯繫的應用場景，如物流配送、外送平台、線上叫車、房仲與人力派遣等，有利於強化消費者對品牌的信任度。

值得特別注意的是，除透過「放心接」隱碼平台協助企業降低個資外洩與詐欺風險，中華電信更進一步透過系統工具協助企業從源頭降低安全風險，以及透過群策群力的方式偵測與防範釣魚或詐騙網站對企業品牌的影響：

首先是為政府機關與企業打造的，以零信任架構為核心的「xTrust零信任網路系統」，透過連通國家資通安全研究院驗證的方式，以身分識別（生物識別）、設備鑑別與信任推斷的方式，如從使用者登入時間、設備、情境與網路等多元因素相互推斷，強化使用者與設備的認證與授權，並透過AI 行為剖析與異常登入模型即時計算風險分數，在後端系統建立「資訊系統分級表」，落實差異化授權，全面提升企業存取環境的安全性與韌性。目前已有逾20個政府機關導入，接下來，將透過與企業環境跟雲端服務整合等方式強化遠距管理能力，協助更多企業提升安防能力。

其次是透過生成式AI提供個人版與企業版防詐守衛服務，個人版服務的運作方式是中華電信的用戶將可疑網頁的網址輸入，AI Agent會透過白名單、黑名單、短網址偵測還原、網域WHOIS資訊、網站文字OCR、詐欺語意分析、網站SSL憑證可靠度分析、偽冒域名偵測模組、本土化域名偵測等十多項技術來辨識該網頁是否為詐欺或釣魚網站，並回饋給使用者，藉此保護使用者帳戶與資產安全。