ChatGPT要被告了？市長變貪官、誣賴教授性騷擾，AI的胡說問題怎麼解？|數位時代 BusinessNext

ChatGPT要被告了？市長變貪官、誣賴教授性騷擾，AI的胡說問題怎麼解？

ChatGPT散播假消息的問題越演越烈，不僅被報導捏造來源指控一名教授性騷擾，還因為抹黑澳洲官員貪污被關，使得OpenAI可能面臨訴訟。

ChatGPT憑空污人清白，可能釀史上第一起AI誹謗訴訟

根據《路透社》報導，有民眾告訴胡德，他被ChatGPT列為2000年代初期澳洲一起賄賂案中的受刑人，但實際上這完全是子虛烏有的說法，胡德不僅從未入獄，他更是該賄賂案的吹哨人，卻被ChatGPT信誓旦旦地打入貪官行列。

胡德的律師表示，他們在3月21日向OpenAI去函，要求對方在28天內更正錯誤，否則可能將訴諸法律行動，倘若胡德真的與OpenAI對簿公堂，這將會是世界上第一起就文字生成AI發起的訴訟案。

「作為一位民選官員，名聲對於他的角色十分重要。」代表胡德的律師事務所Gordon Legal合夥人詹姆斯．諾頓（James Naughton）表示，「這可能是一個里程碑，這起案件首度將誹謗法應用在AI及資訊領域的出版上。」

胡德被指控成收受賄賂的貪官，也只是ChatGPT胡謅惹禍的小小一例。《華盛頓郵報》指出，法學教授強納森．托利（Jonathan Turley）近日收到了一封讓他難以釋懷的信件，一位同業透露他在實驗中要求ChatGPT生成被指控性騷擾的法律學者清單，結果發現托利的名字赫然入列。

進行這項實驗的法學教授尤金．沃洛克（Eugene Volokh）表示，他要求ChatGPT就上述問題給出5個例子，且必須包含相關報導資料，AI回應的5個案例都具備看似確鑿的引用來源，然而當他實際一個一個檢查時，卻發現其中三個案例的資料是捏造的，引用的新聞報導根本不存在。

ChatGPT聲稱引用《華盛頓郵報》一篇2018年3月的報導指出，托利在一場法學院贊助的阿拉斯加旅行中，對一位學生發表了性暗示的言論，並試圖進行猥褻，但實際上完全沒有這篇新聞，也不存在阿拉斯加旅行，托利更從未被學生指控性騷擾，一切都是AI所杜撰。

「這次事件最惹人注目的是，AI不僅生成了虛假的指控，而且還是基於一篇根本不存在的《華盛頓郵報》文章。」托利在《今日美國》的一篇專欄裡提到，這種情況可能會加劇網路上抹黑、攻訐的行為，因為嗜血的酸民看到能夠作為武器的材料時，根本不會進一步查證真相。

AI正經說假話，讓用戶難以分辨

微軟研究院高級首席研究員、南加大安納伯格分校教授凱特．克勞福特（Kate Crawford）表示，「因為這些系統的回應非常有自信，所以很容易讓人相信，從而難以分辨事實與謊言。」

AI「一本正經胡說八道」的問題，一直是各大科技公司難以克服的關卡，這被稱為「幻覺」的缺陷可說是AI發展的必經之路，從ChatGPT、Bing到Google推出的Bard，都不免預防性地在頁面上註明，AI可能說出令人不快、甚至捏造的訊息，呼籲所有使用者提高警覺，不要盡信AI的說法。

近日成為媒體焦點，由包括特斯拉執行長伊隆．馬斯克（Elon Musk）、蘋果共同創辦人史蒂夫．沃茲尼克（Steve Wozniak）等多位重量級人士連署，呼籲暫停先進AI開發的公開信裡，就提到AI散播謊言的危害，要求加強AI治理、打造能夠區分AI合成與真實內容的系統，避免社會毫無準備地步入混亂。

而在AI假消息議題越演越烈的此刻，OpenAI似乎也希望撫平外界情緒，發表文章向外界解釋他們究竟如何加強GPT-4模型的安全性，強調他們花費6個月增強AI的安全性後才對外發表，足見對安全性的重視，並表達與政府配合的高度意願。

文章中也提到關於「提高事實準確度」，聲稱這是OpenAI及許多AI開發人員的關注重點，透過用戶的回饋成功讓GPT-4的事實準確度較GPT-3.5提高了40%，但也坦承ChatGPT並不總是準確，他們要減少「幻覺」、讓大眾認識AI的侷限性上，還有很多工作要做。

雖然專家認為，OpenAI要因ChatGPT的胡言亂語而敗訴賠償的可能性不高，因為誹謗不僅得是假話，還得證明造成名譽受損等實際傷害，但這次澳洲郡長有意提起的訴訟，或許也是讓民眾及監管單位重新思考，科技企業究竟該為AI散播假消息承擔何種責任的一次機會。

責任編輯：錢玉紘

ChatGPT、Gemini、Claude 等 AI 通用工具問世後，「AI」無疑成了現今全球最熱門的關鍵字。儘管許多企業已經開始導入相關應用，多數卻仍停留在文書輔助、單一聊天機器人（Chatbot）運用等單點階段。但隨著商業環境快速變化、缺工日益嚴峻，企業需要的不再只是一個會回答問題的對話框，而是具備「自主決策與行動執行」能力的「代理式 AI」（Agentic AI）。

Going Cloud 和 IDC 合作發布的《多代理系統崛起打造敏捷韌性企業》報告便指出，如今「AI First」時代來臨，企業的 AI 應用正從輔助性質走向自主營運，有 80％的企業期望藉此提升生產力，70％的企業希望能更輕鬆處理複雜任務，還有 66％的企業期望透過多模型來提升整體效能。

代理式 AI 愈來愈多，必須納入組織管理

但究竟什麼是「代理式 AI」？

「過去人們使用生成式 AI 時，需要一步步下達明確指令，但現在使用者只要賦予代理式 AI（Agentic AI）明確目標，它就能自己理解前因後果、進行推演，甚至能去呼叫 API 完成任務。」Going Cloud 總經理黃柏淞點出差異。
而當企業內部的代理式 AI 日益增加，比方說，人資部門有專屬 AI、業務部門有報價 AI、法務部門有合約審閱 AI，跨部門協作的複雜度也隨之飆升，「如果你是管理者，你就會意識到，必須把 AI 當成一個人，納入組織裡來管理。」黃柏淞強調，能統籌、指揮多個 AI 代理協作的「多代理系統」（Multi-Agent System, MAS），正是為了解決這個痛點而生。

簡單來說，MAS 就像虛擬的企業總部，負責協調、治理負責不同任務的 AI 代理、工具和功能模組。在讓 AI 自主決策的同時，各個 AI 代理間也能共享資訊、協調分工。MAS 還具備極佳的擴展性和分散性，企業可以依照業務需求，隨時新增、更改 AI 代理，能大幅提升營運韌性。

雖然企業普遍意識到，代理式 AI 已經蔚為風潮，但實際部署時，仍面臨諸多挑戰。《多代理系統崛起　打造敏捷韌性企業》報告便顯示，資安疑慮、預算限制、缺乏 IT 支援分別是企業最擔憂的三大問題，「企業最擔心串聯多個 AI 代理時，要是權限沒控管好，很容易有機敏資料外洩的風險。」黃柏淞提到，在此情形下，Going Cloud 推出了以「分層式多代理架構」為核心的解決方案。系統會由一個「主管代理」（Supervisor Agent）作為主要決策層，底層則串聯了各個負責單一任務的「任務代理」（Task Agents）。

以 Going Cloud 服務的大型金融企業為例，假設一位 VIP 客戶登入銀行 APP，詢問 AI 客服：「我想申請房貸，請問現在利率多少？另外，請幫我評估把我目前的科技股基金贖回當作頭期款適不適合？」如果是傳統的聊天機器人，可能會因為問題太複雜直接轉接人工客服。但在 Going Cloud 的分層式 MAS 架構裡，「主管代理」接收到任務後，會先拆解再指派負責「房貸利率」的「任務代理」，去後台抓取客戶的信用評分和最新房貸專案。同時，這位虛擬主管還會指派「理財分析」的「任務代理」，去檢視客戶最近科技股基金的績效並預測市場。最後，再由「主管代理」統整資訊，一併給出一份完整且客製的財務建議，「分層式 MAS 能確保整個過程的指令被清楚傳遞，而且因為權限分層管理，房貸 Agent 不會碰到不該碰的理財資料，符合金融業的風險控管與合規要求。」黃柏淞說。

目前 Going Cloud 已經協助知名金融機構導入 MAS 架構。以實際成效來看，多代理客服平台能降低 50％以上的人工客服工作負擔，並讓回覆使用者問題的平均時間減少 60％以上；FAQ 知識導向與 API 資料調用的正確率，在調用得當的情況下，也都達到9成以上的成功率。黃柏淞指出，金融、製造、顧問等有複雜跨部門協作需求的大型企業，都是亟需採用代理式 AI 的產業。

懂雲也懂企業痛點，助員工無痛升級「AI 小組長」

但為什麼 Going Cloud 能為企業打造出如此高效的代理式 AI 底層架構？一方面，Going Cloud 先前服務過亞洲最大 AI 多媒體科技集團科科科技（KKCompany Technologies），奠定具備理解和服務大型企業的經驗，且自 2022 年創立起，就鎖定服務架構最複雜的大型企業市場。同時，Going Cloud 是全台首家榮獲 AWS 生成式 AI 服務能力認證及 ISO27001、ISO27701 雙重國際驗證的雲端產業專家，此成就彰顯 Going Cloud 在堅實的資訊安全基礎上，深化了對個人資料保護的承諾，為客戶提供符合國際標準的資料保障，強化雲端服務領導地位。另外，Going Cloud 還能為企業量身打造底層 AI 平台，提供 AI 策略方針定調、雲端架構設計、Agent 任務規劃、效能優化等一站式服務。

對於準備跨入「AI 商用階段」的企業，黃柏淞建議，釐清應用場景，比追求最新技術更重要，「唯有清晰定義痛點，才能讓強大的 MAS 平台真正落地。」
他特別提到，導入 MAS 系統不只是 IT 部門的責任，其實更像企業的升級轉型，「未來的知識工作者，不能只是單純『接球就打』，每個人都將成為『小組長』或『專案經理』。」例如員工不必再親自打開 excel 敲公式、解讀報表，應該要學著指派手下的「數位同事」去執行。員工的核心價值，將從過去繁瑣、重複性任務的執行，轉移到前期的目標定義、流程規劃，以及後期的決策判斷和審核把關。

AI 技術飛速推進，企業間的競爭已從「要不要用 AI？」，升級成「如何管理與協作多個 AI？」。透過建構靈活、安全且具高擴展性的多代理系統，企業不僅能解放員工的生產力，更能在瞬息萬變的市場中，打造敏捷、韌性兼具的營運大腦。