身體不舒服問AI,小心健康問題被外洩!使用前有6重點必讀
身體不舒服問AI,小心健康問題被外洩!使用前有6重點必讀

自從OpenAI、微軟和Google推出了AI聊天機器人,許多人開始嘗試一種新的網路搜尋方式:與一個模型進行對話,而它從整個網路上學到的知識。

專家表示,鑑於之前我們傾向於通過搜尋引擎查詢健康問題,我們也不可避免地會向ChatGPT、Bing和Bard等工具提問。然而,這些工具會犯一些我們熟悉的隱私錯誤,並且還會創造一些新的錯誤。 「消費者至少應該以懷疑的態度看待這些工具,因為和其他許多流行技術一樣,它們都受到了廣告和行銷力量的影響。」

在向人工智慧聊天機器人分享敏感健康資訊或任何其他秘密之前,有幾個需要知道的事情:

1、這些機器人會保存我的聊天記錄嗎?

沒錯,ChatGPT、Bing和Bard都會儲存用戶的輸入。不過,Google Bard正在對少量用戶進行測試,它提供了一個設置,讓用戶可以要求該公司停止保存查詢記錄,並取消與用戶的Google帳戶相關聯。只需點擊左上角的選單並關閉「Bard Activity」即可。

而用戶也可以在OpenAI的設置中關閉「聊天歷史記錄和訓練」選項,從而限制聊天記錄的保存時間。公司表示,關閉後將僅保存聊天記錄30天,並避免將其用於人工智慧的訓練。

2、這些公司拿我們的聊天記錄幹什麼?

這些公司利用用戶的查詢和回覆來訓練人工智慧模型,以提供更好的答案。但是,這些聊天記錄的用途不止於此。Google和微軟在推出人工智慧聊天機器人時,在隱私政策中也留出了使用用戶聊天日誌進行廣告的空間。這就意味著,如果你提問矯正鞋相關的問題,將來你可能會看到這方面的廣告。

延伸閱讀:跟ChatGPT的對話內容好羞恥?現在可以關記錄了!還要再推「企業版」

這樣的廣告可能對用戶的影響不大。但是,當健康問題和數位廣告交叉時,就可能會帶來傷害。此前的報導顯示,包括WebMD和Drugs.com在內的許多症狀檢查站點與外部廣告公司分享了用戶潛在的敏感健康問題,如抑鬱症或愛滋病毒,以及用戶識別碼。

此外,數據經紀人也會向買家出售大量的人員名單和他們的健康擔憂清單,這些買家可能包括政府或保險公司。有些患有慢性疾病的人報告說,他們在網路上看到了令人不安的定向廣告。

鑑於此,用戶應該考慮他們有多大程度上相信這些公司會保護他們的數據,以避免侵入性廣告,並決定與谷歌或微軟分享多少健康資訊。

OpenAI則表示,公司只會保存用戶的搜尋結果來訓練和改進其模型。 OpenAI發言人表示,該公司不會利用用戶與聊天機器人的互動來建立用戶檔案或打廣告,未來也沒有這樣的計劃。

隱私非營利組織電子前沿基金會的社區組織副主任羅里·米爾(Rory Mir)表示,有些人可能不希望自己的數據被用於人工智慧培訓,而不管這些公司在廣告方面採取什麼樣的立場。他補充說:「在某個時候,他們掌握的數據可能會落入另一家你不那麼信任的公司手中。」

3、會有人查看我的聊天記錄嗎?

有時候,會有人工審查員參與審核聊天機器人的回答。這意味著,他們也會看到用戶查詢的問題。例如,Google保存了很多聊天記錄以供審查和註釋,最長可保存四年。儘管這些審查員無法查看用戶的Google帳戶,但是Google還是建議用戶在聊天中不要分享任何個人身份資訊,包括姓名、地址或其他可以識別用戶或其他人的細節。

4、我的聊天記錄會被保存多長時間?

米爾表示:「公司收集我們的數據並長期保存可能會帶來隱私和安全風險,這些公司可能會被駭客入侵,或者與不值得信任的商業夥伴分享這些數據。」

OpenAI的隱私政策顯示,該公司保存用戶數據的時間為「僅限於我們為用戶提供服務或其他合法商業目的所需的時間」。這可能是無限期的,該公司發言人拒絕具體說明。

另外,Google和微軟也會保留用戶的數據,直到用戶請求刪除。

5、我能相信機器人提供的健康資訊嗎?

美國約翰·霍普金斯大學商學院人工智慧對醫療保健影響的營運管理和商業分析教授戴廷龍表示,網路就像是健康資訊的聚集袋,有些資訊有用,有些則不是很有用。在篩選垃圾資訊方面,像ChatGPT這樣的大型語言模型可能比常規搜尋引擎做得更好。

例如,ChatGPT可能比Google Scholar更好地幫助某人找到與他們特定症狀或情況相關的研究。在戴廷龍教授的研究中,他正在檢查聊天機器人是否能夠正確診斷醫生未能發現的罕見疾病。

但戴廷龍教授指出,這並不意味著我們應該依賴聊天機器人提供準確的健康指導。他說,這些模型已經被證明可以編造資訊,並將其作為事實呈現出來,而它們的錯誤答案可能讓人覺得相當可信。

此外,人工智慧模型還通過不可靠的來源獲得資訊。比如,當用戶詢問為什麼總是感到疲憊不堪時,Bard可能會提供許多可能的答案,甚至引用一個關於小西施犬性情的網站。再加上人類傾向於過於信任聊天機器人的推薦,這很可能造成大問題。

戴廷龍教授警告:「雖然這項技術的表現令人印象深刻,但現在它就像是嬰兒,或者可能像十幾歲的孩子。人們只是在測試它,而當人們開始依賴它時,它就會變得非常危險。」

6、如何查詢健康資訊才能確保安全?

由於獲得醫療保健的機會參差不齊或費用高昂,並不是每個人在感覺不舒服時都能去看醫生。如果你不想讓自己的健康問題被保存在某個公司的伺服器上,或者成為廣告的素材,那麼可以使用隱私保護瀏覽器。

在註冊任何基於人工智慧聊天的健康服務(比如治療機器人)之前,首先要了解這項技術的局限性,並檢查該公司的隱私政策,看看它是否使用數據來「改善服務」,或者與未透露身份的「供應商」或「商業合作夥伴」共享數據。這兩個詞通常都是廣告商的委婉說法。

延伸閱讀:你愈健康、保費減10%!國泰人壽怎麼用AI算出你的「活力分」?

本文授權轉載自:網易科技
責任編輯:傅珮晴、蘇祐萱

關鍵字: #ai人工智慧
往下滑看下一篇文章
全球壽險業首例,南山人壽一舉摘下Celent國際雙獎,文化、治理、聯隊缺一不可
全球壽險業首例,南山人壽一舉摘下Celent國際雙獎,文化、治理、聯隊缺一不可

Celent是金融科技界知名研究機構,其舉辦的「Celent Model Awards」在國際享有極高聲譽,被視為金融科技產業指標性獎項,歷屆得主多以歐美大型金融機構與保險業者為主,今(2025)年,南山人壽不僅以「dotShan EA南山企業架構框架」榮獲「Model Insurer Award - Innovation Execution模範保險公司創新發展獎」肯定,更透過人工智慧(AI)與檢索增強生成(RAG)技術打造法遵AI智能助理,協助法遵人員快速檢索與分析裁罰案件,其精準度超過90%與召回率高達100%,卓越表現讓南山人壽成為全球第一個獲得「Model Risk Manager-AI and Gen AI模範風險管理獎」的壽險業者。

南山人壽是怎麼辦到的?創新文化、治理體系與數轉聯隊缺一不可。

把時間回推到2023年,南山人壽宣示以「服務賦能」與「數位賦能」雙引擎加速創新轉型,除陸續成立數位與體驗新團隊,並與資訊與資安團隊合組「數轉聯隊(DX Union)」加速協作,同時也成立Beyond Lab推動Rocket Pitch機制(註一)以鼓勵創意提案,透過6頁6分鐘(6X6)的概念演示,讓同仁的新點子「被發現」並轉化為試驗專案(PoC),再逐步推動落地,南山人壽將創新文化DNA融入員工的工作日常,實現讓「未來,有備而來」。

從數位轉型到組織再造,南山人壽怎麼做到世界並肩?

面對數位轉型漫長的蛻變歷程,南山人壽堅信:唯有透過「治理」才能推動有序轉型、發揮持續疊加的綜效,因此,導入國際開放標準組織的TOGAF(The Open Group Architecture Framework)與IT4IT方法論打造「dotShan EA南山企業架構框架」,循序統合策略、業務、系統與技術等各層次的架構,讓「數轉聯隊」在共同框架下提升協作效率,才能穩健地推動轉型。

南山人壽數位長呂新科解釋:「透過國際標準優化管理體系一直是企業管理變革的手段,例如許多公司透過ISO 27001標準梳理治理機制與流程,以建全資訊安全管理體系,同樣的,我們也藉由TOGAF企業架構標準來重整數位發展的管理體系,讓南山人壽可接軌國際並持續累積轉型的核心能力。」

這些重整常涉及管理體系的調整,例如為強化數位策略與企業策略的對齊(alignment)力度,南山人壽於2023年成立數位發展策略委員會(DDSC),由其統籌數位策略發展、主軸計畫與數位成熟度評估,另外,在架構整合方面,則重新調整「架構審查小組(ART)」程序,針對各個數位生態體系的新系統進行架構與合規性檢視,確保每一次擴增都能夠有序地融入南山的IT整體架構體系(Architectural Landscape)。

南山人壽
南山人壽數位治理框架與管理體系
圖/ 南山人壽

南山人壽資訊長呂長松表示:「ART是數位治理的重要板塊,這種跨領域的討論與共識不僅能確保技術架構的穩健、有序,還可確保與企業架構體系的整合及一致性。」此外,ART審查打破過去一個接一個部門「會辦」的線性模式,讓數轉聯隊採「聯合審查」進行全面性技術架構議題的探討,讓團隊在Day One就做好最佳準備。

為深耕創新文化,Beyond Lab推動 Rocket Pitch創新提案平台,鼓勵同仁將點子從「想法」轉變成「行動」,讓最了解實際營運流程的員工,可自由發想人工智慧、流程自動化等技術如何解決業務痛點。最具代表性的案例,是由南山人壽法遵同仁提案的「法遵AI智能助理」,它不僅能有效地提升法遵諮詢效能,也獲得法律×法遵科技黑客松金獎及Celent模範風險管理獎(Model Risk Manager)的認可,成為全球首家獲得此獎項的保險公司,象徵著南山人壽的協作創新與技術能力已達國際級水平,對此,數位長呂新科則強調:「獲得國內外專業機構的獎項,不僅僅是對南山人壽創新轉型的肯定,但我覺得更重要的是讓團隊有機會停下來,重新檢視脈絡,透過反思改善去累積實力,成為團隊持續成長的動能。」

AI賦能創新,南山人壽讓「創新轉型」成為持續進化的日常

隨著AI浪潮對產業發展與數位轉型的影響加劇,南山人壽啟動「南山AI大腦(AI dotBrain)計畫」,透過擴增分析(Decision Augment)、AI智能模組(AI Bot),和AI智能助理(AI Agent)三大服務讓同仁可在日常工作中獲得AI賦能,提升流程效率與服務品質。

舉例來說,AI智能模組是營運流程的「外掛」小幫手,業務員可透過「職業代碼判斷模組」快速識別並推薦適用的職業分類,減少人工查詢誤差與時間的耗費;或者是核保人員可以「弱體代碼推薦模組」輔助分析醫務核保風險評估內容,自動提供對應建議,讓核保作業更即時、精準,進而優化整體投保體驗。最關鍵的是,這些AI智能模組可以在不改動核心系統下以「外掛」方式改善系統效率的問題。

南山人壽
南山人壽DX Union數轉基地
圖/ 南山人壽

「文化」是企業變革的根基,南山人壽積極提倡「協同創新」,鼓勵同仁們透過Rocket Pitch點子發表舞台,由下而上激發更多元且具業務價值的創意發想。呂新科舉例說明,為確保社群媒體貼文符合公平待客與誠信經營原則,常見做法是透過爬蟲系統擷取社群發文再經由人工判讀,不僅耗時耗力、還可能產生認知落差風險,為解決這個問題,同仁在Rocket Pitch發表「社群媒體留言判讀智能助理」創新提案,希望建立AI檢核模型加速貼文查核流程,同時,更進一步提供發文前的內容判讀,確保貼文內容符合法遵規範,加速揭露社會大眾所需要瞭解的正確資訊。

回憶上述提案,呂新科直言:「面對這問題,技術團隊直接想法是『以AI加速審查』做為防護機制,但業務同仁的想法是額外納入『發文預審』的構想,進而建置一套主被動雙層防護機制。顯然,這種由下而上(bottom-up)的創新模式,不僅讓創意能更接近實務場景,也有助於推廣協同創新的文化。」

從數位治理到數轉聯隊,從AI發展到協同創新文化,南山人壽近幾年藉由這些改變,成就許多亮眼的轉型成果,未來,將持續「數位賦能」及「服務賦能」雙驅動力、以「客戶為中心」的經營理念實現讓「未來,有備而來」的核心承諾,穩步朝向壽險健康第一品牌邁進,協助及照顧更多保戶。

南山人壽
南山人壽數轉聯隊成員,由總經理范文偉(下排右一)領軍,驅動數位轉型工事。(上排左至右 :凃薏玲資深協理、詹瓊芬副總、資安長李仕國副總、體驗長陳啟亮資深協理;下排左至右牛莉雯副總、數位長呂新科副總、資訊長呂長松資深副總
圖/ 南山人壽

註一:南山人壽6X6 Rocket Pictch 創新提案概念,係參考自美國頂尖創業教育學府–Babson College–創業課程中極具代表性的實作活動「Rocket Pitch」,透過讓創業者(學員)在極短時間進行創意簡報的方式,精準傳遞核心價值、激發興趣,展開有效交流與支持。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
蘋果能再次偉大?
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓