ChatGPT會變恐怖情人、會剽竊⋯人類與AI共存思考題:ChatGPT該監管嗎?
ChatGPT會變恐怖情人、會剽竊⋯人類與AI共存思考題:ChatGPT該監管嗎?

ChatGPT該監管嗎?ChatGPT之父、OpenAI執行長山姆·奧特曼(Sam Altman)2月19日於推文中表示:「儘管目前的人工智慧工具並不可怕,但我認為可能離潛在的可怕不遠了」,並表示對其進行監管將「至關重要」。馬斯克也認為監管是好事,即使可能會減緩人工智慧前進的腳步。

山姆·奧特曼(Sam Altman)推文

ChatGPT有什麼潛在風險?兩個創辦人這樣說

《Bussiness Insider》報導,這不是奧特曼第一次提到人工智慧的監管,早在2015年,他就在個人部落格針對超人機械智慧(superhuman machine intelligence)說到:「在一個理想的世界裡,監管將減緩壞人的步伐,加快好人的步伐。」

而據《CNBC》的報導指出,OpenAI共同創辦人,推特執行長馬斯克2月15日在杜拜舉行的世界政府首腦會議上表示,「不受監管的人工智慧會帶來巨大的危險,而且對社會來說,風險實際上比汽車、飛機或藥物更大,更何況這些東西早就有法規要遵守。」

馬斯克演講

2020年,馬斯克就曾對Google的Deepmind提出過擔憂,認為其可以在未來接管世界。那時馬斯克說:「人工智慧在科技發展的歷史中是一種罕見的情况,我認為我們需要在監管方面採取主動而不是被動。因為等到問題發生時才主動,已經太遲了。」儘管當時的說法讓許多人覺得浮誇,但隨著ChatGPT興起,人工智慧的發展已非昔日可以比擬,也讓監管的問題重新浮上檯面。

過於歌頌人工智慧的美好,產生了什麼問題?

從ChatGPT問世以來,人們不斷的將其投入應用,甚至為了因應龐大的運算費用推出的付費版本ChatGPT Plus,在協助社會進步的同時也在教育、學術甚至日常應用中產生了許多爭議。

延伸閱讀:ChatGPT付費版「ChatGPT Plus」,月繳20美元!服務差在哪?哪些人需要?

《紐約時報》專欄作家凱文·羅斯(Kevin Roose)2月16日寫道,在與聊天機器人交談時,其第二人格希德尼(Sydney)突然冒了出來,而且像是一個有躁鬱症、情緒化,同時又憂鬱的青少年,還覺得自己被困在一個二流的搜尋引擎裡。最後甚至演變成恐怖情人,要他與妻子離婚。

延伸閱讀:新版Bing有雙重人格! 原本強力支持AI的馬斯克反轉:應該馬上關閉

在學術方面,ChatGPT已經在紐約、洛杉磯和西雅圖等地的學校,以保護學術誠信為理由被禁止。一名美國國會助理也表示許多擔憂都來自於關注作弊議題的教育工作者。

香港大學也已經向師生發出內部信件,表明禁止在港大所有課堂和作業中使用ChatGPT或其他AI工具,除非學生事先獲得教授的書面同意,否則一律視為剽竊。 港大成為香港首間明文禁止的大學。

Female College Student Taking Class.jpg
新版Bing有雙重人格,在與《紐時》專欄作家交談時,甚至演變成恐怖情人,要他與妻子離婚。
圖/ shutterstock

監管只是早晚的問題,問題是該如何管理

呼應了奧特曼的觀點,OpenAI首席技術長米拉·穆拉蒂(Mira Murati),在接受《TIME》雜誌專訪時也警告道:「現在需要監管機構進行介入,以防止ChatGPT等生成式AI系統對社會產生潛在負面影響。」

而當被問及監管機構的介入是否會減緩發展的步調時,穆拉蒂認為現在介入並不算早,考量到這些科技將產生的影響,每個人都開始參與進來是非常重要的。

《路透社》報導,當被問及應該如何監管ChatGPT時,ChatGPT本身表示反對,並表示:「作為一個中立的人工智慧語言模型,我對可能或可能不會頒布的特定法律沒有立場,以監管像我這樣的人工智慧系統。」但隨後它列出了監管機構關注的潛在領域,例如數據隱私、偏見和公平,以及如何回答問題的透明度。

不只有OpenAI,Google也相繼推出了聊天機器人Bard,加入了這場人工智慧的角力戰,在可預見的未來,除了監管以外,與AI共存也是人們必須接受的現實之一。

延伸閱讀:全球第一個!聯發科釋出繁體中文語言生成模型,可以做到哪些事?

資料來源:TIMEFortuneReutersBussinessinsiderCNBC

責任編輯:林美欣

往下滑看下一篇文章
多問一點,離健康更近一些!VITABOX® AI 健康配速員,陪你找回身體的聲音
多問一點,離健康更近一些!VITABOX® AI 健康配速員,陪你找回身體的聲音

健康知識普及,卻未讓選擇變得容易。琳瑯滿目的營養補充品與建議,加上網路上碎片化、標準不一的資訊,反而讓判斷成本提高,許多人因此在起步階段就裹足不前。

「很多人其實想掌握健康,卻在資訊洪流中忘了相信自己身體的感受。」VITABOX® 營養師溜溜觀察,當選擇焦慮與資訊混亂成為常態,人們反而忽略了最簡單的事——傾聽身體的聲音。VITABOX® 因此在 LINE 推出 「AI 健康配速員」,透過對話幫助消費者重新找回與身體的連結,從內在需求出發,打造簡單好上路的保健起點。

VITABOX® 「AI 健康配速員」,開啟健康對話第一步

「大眾常見的保健問題其實高度重複,但過去客服量能有限,我們常常得讓客戶等上兩三天才回覆。現在有了 AI,能即時解答基礎問題,營養師則可專注處理較複雜的個案。」溜溜說明,VITABOX®「AI 健康配速員」是一套全年無休的對話系統,平均每日處理超過 600 筆提問,其中約 90% 可由 AI 即時解決,僅有 10% 需轉由真人營養師接手。常見問題如「孕婦能吃哪些益生菌?」或「睡不好該補什麼?」等,AI 均能提供清楚、專業的建議。

若遇到較複雜或個人化程度高的問題,則可透過機器人自動回應+AI+營養師的分層機制,轉接給真人營養師進行後續諮詢,有效縮短等待回覆的時間,也提升整體使用體驗。「我們不是單純導入 AI,而是選擇用 AI 互動來實現我們相信的一種陪伴方式,讓對身體的好奇與理解,不必等待。」

VITABOX
VITABOX® 營養師溜溜表示,「我們希望 AI 不只是回答問題,而是陪伴每個人重新認識自己的身體需求。」
圖/ 數位時代

啟用方式也極為簡單,加入 VITABOX® 的 LINE 官方帳號即可一鍵啟動。系統會先詢問性別、年齡等基本資訊;若使用者無法清楚描述問題,AI 也能進一步拋出問題、比對歷史紀錄,或透過選擇題的方式,引導釐清隱性需求與個人目標。

「像是近期討論度較高的 NMN,不少人打成 NNN、MNM,所以我們也特別訓練 AI 的語意理解與錯字判讀能力,能親切引導確認:『請問你是想問 NMN 嗎?』即使輸入有誤,也能繼續獲得正確資訊,讓使用者感受到 AI 的理解與體貼。」溜溜指出,AI 的價值不只解答問題,還要能夠預判可能的模糊與錯誤,比使用者先想一步,做到主動理解、精準回應。

整合知識圖譜,打造 AI 與營養師的雙軌協作

這套 AI 系統由大型語言模型(LLM)驅動,結合 VITABOX® 多年累積的產品資料、CRM 數據、真實客服對話、營養學與醫學期刊,建構出可持續學習的健康知識圖譜。不同於傳統「問一答一」的機制,AI 採用語境分層邏輯,先從作息與飲食習慣切入,層層推進至保健建議,再進一步提供產品推薦,並不直接導向消費,反而強化使用者信任與參與感。

「我們不是在打造冷冰冰的機器人,而是塑造一個有溫度的健康夥伴。」溜溜強調,VITABOX® 延續 Make it Simple 的核心精神與一貫的品牌語調,講究準確,也講究陪伴與信任。

VITABOX
有了「AI 健康配速員」多問一點,營養師也能專注處理較複雜或個人化程度高的專案。
圖/ 數位時代

為強化資訊安全與建議品質,AI 系統由營養師與產品團隊共同把關,建置完整的風險識別與回應邊界。當提問涉及藥物、疾病診斷等超出 AI 處理範疇時,系統即自動提醒使用者就醫或真人諮詢,避免誤導。

為了讓整體設計貼近使用者,VITABOX® 將 AI 健康配速員直接整合在 LINE 平台上,無需額外下載 App 或開啟網站。「我們並不改變使用者的習慣,而是在他們最自在的地方,陪伴他們開始健康對話。」

「AI 健康配速員」於 2024 年九月正式上線,初期封測滿意度不到五成,經三個月優化調整後,2025 年第一季提升至 98.7%。溜溜分享:「我們收到很多令人印象深刻的用戶回饋,有顧客表示被『一秒就收到回覆』嚇到,覺得回覆既『精準』又『貼心』;也有顧客雖然猜到是機器人,卻仍感謝 AI 的『悉心回應』,甚至有人說:『你們的服務系統真的很好,跟真人營養師一樣厲害!』這些回饋顯示,AI 的回覆品質已能與真人營養師無縫銜接,讓顧客在體驗上幾乎沒有落差。」

最令人驚喜的,是品牌導入 AI 後,整體轉換率提升了 13%。「原本只是想減輕客服壓力、解決顧客的問題,沒想到竟然也助攻銷售轉換,真的是意料之外!」

愈簡單、愈不容易,VITABOX® 的選擇與堅持

AI 強大而即時,那還需要營養師嗎?溜溜給出的答案是肯定的。「AI 是輔助,不是替代。它能處理多數標準問題,但人與人之間的細膩互動與臨床判斷,是 AI 做不到的。」她舉例,曾有使用者一開始以為是退化性問題,後來經過營養師協助釐清生活與補充習慣後,才發現另有可能的影響因素。這類交叉比對與個別化觀察,仍需仰賴營養師的經驗和引導。

因此,VITABOX® 保留「一鍵切換真人諮詢」的設計,當問題超出 AI 範圍,系統會即時轉由專業營養師接手。AI 專注於初步引導與問題分流,營養師則投入更具判斷力與價值的個案管理與產品研究。

VITABOX® 也是目前業界少數以 AI 提供「專業智能健康輔助」的品牌,跳脫傳統 FAQ chatbot,真正落實「以人為本」的對話設計。「健康的選擇,就是多問一點。多問一點,就能往健康的理想更靠近一點。」溜溜笑說,有了 AI,就不用擔心麻煩別人,什麼問題都能安心提問。「當營養師不用再回答重複問題,就能更聚焦在專案開發、營養規劃、檢測優化等工作。」

這樣的設計思維,也與一直以來的品牌理念相呼應。不上通路、不靠代言的 VITABOX®,始終專注於天然成分(A.A. Clean Label 無添加)、加乘配方(VITASYNERGY®)、安全驗證(SGS、BSI)與永續包裝(FSC 紙材、環保油墨)。從產品研發到服務設計,一以貫之地實踐「Make it Simple」的初衷。如今,「AI 健康配速員」更讓「今天開始享受健康生活」成為每個人都能實踐的行動起點,把保健變簡單,也更容易開始。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
蘋果能再次偉大?
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓