將道德判斷推給AI,恐失去人性自主權!有哪些隱性威脅?如何與AI劃清界線?
將道德判斷推給AI,恐失去人性自主權!有哪些隱性威脅?如何與AI劃清界線?

把需要道德判斷的決策外包給 AI 特別不妙,但現在卻有愈來愈多人這麼做。

在某些情況下,把事情指派給 AI 似乎很合理,譬如決策速度必須很快,人類可能跟不上的事情。在網路安全、內容推薦系統和高頻股票交易方面,確實會有這種需求。

但漸漸地,卻也有人依據相同的思路,以決策速度「必須和機器一樣快」為理由,把 AI 用到其他領域,像是武器系統和困難的醫療決策。到了第 12 章,我們會深入探討自主武器系統的風險,現在則先聚焦於讓 AI 代替人類進行道德決策,會產生什麼問題。

我們愈沒機會練習同理、做出道德判斷,這方面的能力就會愈差。目前的聊天機器人和即將問世的 AI 助理與教練,主要都是提供開發人員所說的「決策支援」(decision support),譬如AI幫忙寫出文件草稿,但最後要修改到什麼程度仍取決於使用者。

不過在認知上,人類很容易受「自動化偏誤」(automation bias)影響,也就是明明知道資訊有矛盾不合理之處,卻還是會想跟隨自動化系統。

在2016年,喬治亞理工學院(Georgia Tech)曾舉行相關實驗,模擬火災發生,機器人為受試者指引疏散通道,但方向明顯和火災出口標誌的亮燈相反,結果大家卻還是很快就跟著機器人走──而且機器人先前在實驗中就已顯露不可靠的跡象,不僅將眾人帶到錯誤的會議室,還說自己故障。

受試者根本沒什麼理由要信任機器,但在生死交關之際,卻還是選擇相信。在自動化偏誤的影響下,決策支援型 AI 和全自動系統之間,其實可能沒有那麼大的差別。

守住大腦與靈魂

AI 最嚴重也最險惡的影響,大概就是威脅到人類的智力、書寫能力、思考力、同理心和判斷力了。大眾往往忽略了這些風險,但其實我們還是可以採取行動,防範自己落入最壞的下場,其中,劃清界線是一大重點。 我們必須確立何時可用 AI 自動完成任務或徵求建議,何時又應該使用自己的大腦,並跟隨內心的道德羅盤。

社會也必須設下界線,確立如何教育孩童。在第 7 章,我們會深入探討 AI 與教育,但如果要先簡要說明的話,重點就是即使在這個充斥 AI 助理的新時代,我們仍須教導孩子批判性思考、邏輯推理、解決問題,以及倫理觀念,最重要的是一定要教寫作。

至於像我這種已經脫離學生身分的人,則應該思考如何使用 AI 技術才能變聰明,而不是導致自己智力退化。對於生活中的大小事務,你可能都會很想用 AI 處理,但如果眼前的應用方式會侵蝕智力與道德,你就應該抵抗 AI 的誘惑。

美國加州聖塔克拉拉大學(Santa Clara University)的AI倫理學家布萊恩.格林(Brian Green)表示,這基本上就是「還想不想保有人類自主性」的問題,畢竟如果每件事都自動化,人類就什麼都不用做,那這樣活著還有什麼意義呢?我們必須自行定義哪些事可以自動化,不要讓開發 AI 的公 司替所有人決定。

從許多層面來看,劃清使用 AI 的界線,其實和選擇使用社群媒體的方式很類似。在社群平台上,我們仍保有使用上的決策權,儘管科技公司可以竭盡全力把產品打造得非常令人上癮,我們還是能自主行動,可以限制螢幕時間、關閉應用程式,或是直接放下手機。

同樣地,雖然在職場上可能必須使用 AI,但回到私人生活後,你還是可以自行決定要不要用,以及該如何使用。趁人類還有智慧時,我們必須做出明智的選擇。

延伸閱讀:AI雷包橫行!史丹佛揭40%職員曾接手「無腦AI產出」:AI降本增效口號響亮,誰在收拾殘局?

本文授權轉載自《AI來了,你還不開始準備嗎?》,Jeremy Kahn著,寶鼎出版

AI來了, 你還不開始準備嗎?
圖/ 寶鼎出版社
往下滑看下一篇文章
終於出現「看得懂的保險」!國泰人壽以「保險視圖」引領資訊透明革命
終於出現「看得懂的保險」!國泰人壽以「保險視圖」引領資訊透明革命

在台灣,多數人的第一份保障來得很早,可能來自父母,或是出社會後自行投保。然而,直到今天仍有許多人即使手握數張保單,仍說不清自己到底保了什麼。條款繁複、名詞艱澀,導致投保當下似懂非懂,過一陣子就全忘了。保險資訊的不透明,讓風險管理變成了一場全憑印象、依賴業務員的信任遊戲。

自從國泰人壽推出 App 3.0,以「陪伴」重塑保戶與保險的關係,下一步,更要讓資訊變得透明、易讀、好上手。於是,「保險視圖」誕生了—由國泰人壽戰情室 diLab(Digital Insurance Lab)領軍打造的這個平台,試圖翻轉保單難懂的問題,將散落於規範、條款與系統的資訊重新整理、轉譯與可視化,讓保戶終於能「一圖看懂」保障全貌。

「我們希望做到的不只是查詢工具,而是讓保戶真正理解風險、開始做決定。」diLab 經理林蔚安說,這項專案從發想到上線歷時多年,可說是完成了連同業都不敢想像的艱鉅任務。這場透明革命如何開始?國泰人壽又如何讓這個看似困難的挑戰落地?

資訊透明:讓保險回到能被理解的語言

「保險商品本身就很複雜,很多人買了保險,打開保單還是看不懂。」林蔚安指出,國泰人壽累積 800 萬保戶,團隊在梳理客戶旅程時發現,即使擁有多年的資歷與服務經驗,卻未能讓保戶更清楚自己的保障;大多僅在與業務員討論時略有概念,事後又陷入陌生感。因此,「保險視圖」的構想,就是要讓保戶能在同一平台掌握所有保障與資產資訊。

數位時代
diLab 經理林蔚安與團隊歷時打磨領先業界的保險視圖,幫助保戶一次看懂保障。
圖/ 數位時代

第一步,是處理「看不懂」這件事。diLab 從資料盤點開始,依照生涯階段與保障屬性,將保單內容重新分為「我的健康照護」、「我的保險資產」、與「我的壽險傳承」三大方向,讓保戶以更貼近日常的邏輯理解保障結構,例如「住院時有哪些保障?」。

「調研時發現,國內幾乎沒有成熟案例可參考,國外雖有概念但差異極大。」林蔚安表示,圖表複雜,反而增加理解負擔,因此團隊反覆推敲呈現方式,「要放什麼、怎麼放、放到什麼程度,光這個架構就討論了數個月!」每一個看似微小的改變,背後都是無數次的反覆測試與訪談,「我們帶著不同版本的草稿詢問保戶,在沒有業務員引導下是否看得懂。」最終,團隊定調以金字塔結構建構視圖基礎,從保戶自己的健康保障,到未來可運用的累積資產,最終到照顧家人的壽險傳承。沒有看似花俏的圖表,只希望讓多數保戶好理解的簡單呈現。

但挑戰不只在前端設計,還有保險條款轉譯。傳統保單以商品邏輯分類,與使用者思考「何時會用到」的方式完全不同。為了讓資訊更貼近生活情境,「保險視圖」不再以條款分類,而以場景情境作為基準。例如保戶生病住院時,介面會按照基礎醫療、意外、癌症、重大疾病、長照與壽險等六大結構分層呈現,先呈現核心,再逐層深化,視覺化整體保障全貌,並同步提供現金價值與現金流資訊,形成一套完整的理解脈絡。

風險洞察:AI協助人們看清保障缺口

國泰人壽
視覺化保障達成率,一眼了解保障缺口。
圖/ 國泰人壽
國泰人壽
提供熱門推薦與更加個人化的AI推薦,喚醒補強意識。
圖/ 國泰人壽

當保險資訊透過直覺式的設計變得透明,下一個挑戰就是讓保戶理解「自己目前的保障夠不夠」。

因此「保險視圖」也導入保障目標試算功能,保戶只需回答幾題簡單問題,如:住院希望住單人房或雙人房、對疾病治療的費用承受度等,系統即可推算個人的保障目標。接著,AI 會即時計算保障達成率與缺口比例,將複雜的理賠與條款結構轉換成直覺的百分比。「醫療保障達成率 60%」、「癌症保障達成率 45%」,藉由直觀的數字圖表呈現,讓保戶能一眼看出自己保障的完整程度。

此外,平台不只呈現差距,還會以情境推估可能的支出。例如住院五天、手術一次的費用與實際理賠差異,讓保戶真正感受到風險的具體樣貌。「保戶不再是聽到『癌症住院很貴』這種抽象說法,而是看得到具體數字。」透過以場景為基礎的推算,使保戶終於能對模糊的風險概念有畫面,並對理賠內容有更直觀的理解。

平台也提供「熱門推薦」與「 AI 推薦」兩種建議模式。前者以性別、年齡作為分析基礎,後者則依個人資料與既有保單做更客製化的配置。保戶可在平台初步理解現況後,再與業務員討論,透過數位賦能、與有溫度的人性服務建立互補機制,也讓業務溝通更聚焦、更有效率。

領航轉型:戰情室以創新實踐「以人為本」

保險視圖歷經多次迭代上線,雖仍在推廣階段,但初步成效已浮現。以今年 4 月關稅議題為例,資產型保單查詢需求明顯攀升,保戶登入次數從每週平均 4 萬次提升到 5 萬 6 千次,大幅成長40%。以往查詢保單價值需透過業務員協助或臨櫃辦理,如今登入平台即可取得資訊。

國泰人壽
保險視圖一次呈現保戶的整體保險資產,建立更清晰的財務健康圖像。
圖/ 國泰人壽

此外,視覺化呈現保障缺口後,有保戶回饋「看到達成率 70%,就想補到 100%」,顯示視覺化真正促進了主動管理的行為轉換。

數位時代
diLab 戰情室跨商品、設計與數據協作,以使用者為中心反覆驗證,用心設計保險資訊呈現方式。
圖/ 數位時代

能完成一份視覺化介面不難,但能把 60 多年累積的保險商品結構、條款邏輯與資料系統重新整合再轉譯,背後極度仰賴組織文化。尤其,保險視圖的誕生,從構想到落地,專案歷時 4 年,期間國泰以「區塊化堆疊」的方式逐步發展服務功能,包括資產總覽、健康與壽險視圖、缺口試算與 AI 推薦,每一步都需要長時間協作與反覆推敲。

林蔚安形容:「戰情室就像加速器。」其角色是串聯商品、數據、數位、UI與UX設計、開發工程與行銷等多個團隊,以使用者中心作為共通語言,讓跨部門能在同一個目標下推進。「大家的專業不同,但只要目標一致,就能共同前進!」

數位時代
專案歷時多年,團隊成功以敏捷方式快速迭代,實現保險資訊透明化。
圖/ 數位時代

展望未來,透明化只是起點。林蔚安指出,下一步是讓更多保戶願意使用平台,使行為軌跡形成數據基礎,再透過個人化推播與 App 串接,發展國泰人壽保戶更完整的數位體驗。「這條路很難,但值得做。」他分享,有一次泰國人壽數位團隊來台交流,第一眼看到保險視圖就說:「這真的很不容易。」但也因此,更突顯國泰人壽勇於創新、以人為本的服務精神。同時,保險視圖也不會是終點,卻會是打開未來保險模式的一把關鍵鑰匙。國泰人壽以具體行動落實「Better Together 共創更好」,在每一項細節中重塑保險服務的日常價值。

保險視圖:https://cathaylife.tw/VoeoOdb

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
進擊的機器人
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓