是福還是禍?當AI能夠操控你的情感,卻也能用來預防犯罪
是福還是禍?當AI能夠操控你的情感,卻也能用來預防犯罪

本文摘自:《情感運算革命》,商周出版

日常環境中感應器的使用日益增加,也就是通稱的物聯網(Internet of Things,IoT),結合了大數據分析的預測能力,正在改變我們與世界的關係。只是並非都是好的方面,隱私、自主權,甚至是自我決定等問題,在討論這些侵入性科技時都會一一浮現。儘管這些聽起來就夠令人忐忑了,但是如果結合能快速讀取、理解我們的情緒反應並做出回應,就更讓人惴惴不安了。

購物者顯然常被說服,而購買超出原先計畫,甚至不符合自己最佳利益的東西,但是這種可即時與我們的基本感覺互動的能力,讓局勢朝著更受操弄的方向轉變。彼此關係從相對平衡的狀態,變成更像是掠奪者與獵物的關係。

從消費、談判到面試的應用

廣告主和行銷人員已經開始擁抱情感運算。假以時日,隨著情感運算愈來愈容易取得且方便使用,將會應用在任何電腦可以與人互動的地方。

仍在初期階段的情感運算已被當成行銷研究工具使用,時間一久,隨著處理能力、頻寬及演算法改善,將有新的情緒覺察系統提供商家愈來愈容易使用的功能。

到了最後,假設有利可圖的話,這些功能將會轉化成服務系統,目前通常稱為「軟體即服務」。公司可以合理費用使用這些整合服務執行各種任務,不必自行開發軟體和資料庫。這類服務可以擷取並自動執行許多較為複雜的臉部辨識、3D掃描、情感運算及擴增實境,讓企業能快速而即時地吸引消費者,就像你我寄發電子郵件,或是對文件進行拼字檢查那麼輕鬆簡單。

我們應該對此感到憂心,因為情緒操控的可能性將無法抵擋,而且會大幅改變零售商與消費者關係的平衡。只需要想像一下,在汽車展示間裡有一個能幹的銷售人員。你想買一輛車,但是顯然不想為這筆已經頗為重大的投資再付出更多的錢。你和銷售人員討價還價,企圖說服彼此。

如果進行這場談判的一方,是能以光速與超高準確度解讀你的非語言信號,並且加以回應的機器呢?你真的認為自己在走出展示間時,荷包能完好無損嗎?我打賭不會。

無生命的詐騙犯

至於社會中比較脆弱的成員呢?老年人通常會淪為詐騙的受害者,而那些騙局可能會讓比較年輕,也更精明的人搖頭。針對老化神經科學的研究顯示,老年人會對信任相關的跡象敏感度降低,也不能忽略他們對生存的這個新世界缺乏理解。平均而言,一般人對於成長期間使用的科技,會比父母和祖父母更加熟悉,也更遊刃有餘,他們和這些科技打交道時的常識也一樣。展望情感運算之類的科技,我們可以想像老年人在接觸那些互動或交易時會比他們的子女單純生疏。詐騙集團有辦法快速讀取並理解他們的感覺,就可以趁機大肆利用自動化。販售一些不可靠的投資給退休人士,快速榨乾他們的銀行帳戶,並且操控寂寞老人寫下遺囑,都可能還只是冰山一角。

沒有人知道究竟有多少聊天機器人滲透到約會網站與社群媒體網站,但是專家同意,數量大概在100萬以上。近幾年來,這些程式的數量和成熟程度進步十分可觀。根據2014年的一份調查估計,56%的網際網路流量是由機器人程式產生,這些程式是設計來執行高度重複性的作業。調查指出,這些流量大約有一半來自好的機器人,但是約30%則是由惡意機器人產生,如網路爬蟲(web scrapers)、駭客工具、垃圾郵件發送器,以及模擬身分程式(impersonator)。

如此看來,隨著人工智慧愈來愈成熟,也愈來愈能理解並回應情緒及非語言信號,所有人類將會變得何等脆弱?

隨著情感運算科技普及,並且在不同領域中找到應用方式,我們可能也要面臨許多發展期的困難。當成工具用於執法工作或蒐集情報可能成效卓著,因為有了解及預測罪犯與嫌疑人行為的需要。但是,這些科技會如何改變,或是加深公務員對公民自由的潛在侵害?似乎是再稀鬆平常不過的情況。

真假難辨的謊言與真實

一份針對206份文件與24,483份法官紀錄進行的大規模整合分析研究結果顯示,即便是警察和法官,所有人在評估一個人是否說謊時,成績並沒有比碰運氣高出多少。平均而言,只有54%的機會能判斷出正確的實話/謊話。有意思的是,儘管多數人的行為有事實偏誤,但是執法人員卻偏向另一個方向,帶著一點謊話偏誤。不過,哪一種方法明顯都沒有比另一種更準確。

另外一項針對509人的研究,其中包括美國特勤局、中央情報局、聯邦調查局、國家安全局,以及緝毒局執法人員在內,只有特勤局在偵測目標人物是否說謊時的表現明顯比碰運氣來得好,然而即使如此,特勤局觀察人員的成功率也只有64%。

難怪世人尋求可靠方法偵測詐騙的歷史悠久。十九世紀末,人們開始將科學方法應用在訊問時是否說謊。測謊器可同時記錄並列出受試對象的脈搏、血壓和呼吸次數的測量變化,經過多次修正改良後,二十世紀末時演算法和軟體都開發到可更進一步分析測謊儀數據。時至今日,測謊儀測試依然是我們驗證事實和偵測欺騙時,最好也是唯一的科技方法。

然而,測謊儀的功效依然頗受質疑。由於測試結果的不一致,引發相當多爭議。此外,還無法區分說實話者與真正說謊者的生理喚起反應(arousal response)。更複雜的是,有些人確實可以訓練自己在說謊時不會有身體的自發反應出賣他們,藉此欺瞞機器。基於種種原因,許多法庭和司法單位並不把測謊結果列為足以採納的證據。

從犯罪防治的觀點來看,還有另外一個問題就是,測謊儀不能用在遠距離的對象,而是必須將裝置直接連接到受試對象的身上才能運作。

隨著情感運算的出現,情況大致上很快就有了改變。支援技術如臉部辨識,已經在城市廣為使用,無論是實體商店、廣告牌、體育館及街道上都有閉路攝影機。有些城市的數位顯示器已經能夠根據觀眾的性別、族裔和年齡層,顯示客製化廣告。由浸入實驗室(Immersive Labs)之類的公司開發的數位顯示器,能在25英尺外就判定這些細節,一次可判讀多達25人。搭配微軟Kinect或網路攝影機的智慧電視與系統,可以設定為無論誰坐或站在它們前面,都能判斷人口結構和其他細節,並且得以同時客製化內容與廣告。

政府對情緒辨識科技的應用與濫用

隨著電腦處理能力日益強大且無所不在,簡單的臉部辨識將被即時情緒辨識取代,一如所有模式識別科技,也將在短時間內快速改進。

執法人員早就需要工具輔助他們準確判讀情緒,並且偵測謊言。這麼多年來,這項科技已經向前躍進一大步,切實可行。執法人員會熱情擁抱它嗎?還是會因為美國公民自由聯盟和電子前哨基金會等團體必定會提出基於隱私與公民自由疑慮而拒絕使用呢?至少在一開始時,有可能會是前者。

提到個人安全問題時,大眾屢屢證明如果確定能夠帶來更完善的保護,他們願意犧牲一點公民自由。從九一一事件之後毫無爭議地通過美國愛國者法案(USA Patriot Act),以及後來根據2006年恐怖分子監聽法(Terrorist Surveillance Act)而擴大監聽,可見一斑。但是,正如常見的情況,這類工具不免遭到濫用,而等到濫用時將會引起民眾反彈。

能夠遠端解讀情緒的工具可用來操控行為,應該引發嚴重關切。為了取得電腦系統認為有罪者的口供,訊問人員願意做到什麼程度?然後就是錯誤記憶(false memories)的問題。研究顯示,記憶形成的過程也複雜地包含情緒,尤其是負面情緒顯然更容易受到錯誤記憶形成的影響;換句話說,就是讓人相信他們記得某件其實根本不曾發生的事。為了在達成如招供等目標的過程中解讀情緒,設計的系統有可能會形成一種回饋循環,若是沒有足夠的防衛,隨著每個非語言回應而來的一連串質問,可能在無意中灌輸了錯誤記憶,最後導致坦白供認。

儘管許多民主國家都有保護公民自由的防護措施,但是濫用這類監視與訊問方法的風險仍然極大。如果發生這種狀況,最後有可能會引發強烈的反彈。輿論的轉變可能導致完全禁止這方面的用途。但屢見不鮮的是,禁用科技通常只會將科技逼入幾乎不存在管理規範,卻充斥濫用可能性的陰影之中。

關鍵字: #數位書選
往下滑看下一篇文章
國泰人壽業務平台升級 助攻業務行銷數位力
國泰人壽業務平台升級 助攻業務行銷數位力

國泰人壽持續推動數位轉型,第四屆數位業務發表會近日登場,發表AI創新應用及數位工具升級成果。會中亮點包括升級業務行銷工具「新業務平台 NAP 3.0」(New agent Platform, NAP)導入三大 AI 功能,並率先試辦「全場景人臉辨識計畫」,以提升業務通路服務效率與專業能力;並特地邀請新加坡保險同業MDRT(百萬圓桌會員)業務菁英參加,同台分享跨世代客群溝通與數位轉型實務經驗,泰國人壽更派出策略創新長等高階主管來台參與盛會,期能攜手海外同業彼此交流,為國壽業務部隊經營開創新視野。本次發表會活動吸引逾400位業務人員到場,另有2萬人透過線上直播參與,創下發表會收視人數歷史新高。

國泰人壽自2022年起每年舉辦數位業務發表會,透過新技術、新應用發表,協助業務人員更掌握科技趨勢與善用工具提升工作效率。國泰人壽總經理劉上旗於發表會中表示:「國泰人壽的數位工具不斷進化,NAP從5年前戰情室藍圖規畫,現已成為業務同仁日常工作不可或缺的工具,落實了效率工作與輕鬆生活的承諾,期許進入AI時代,國壽同仁以更堅實的底氣疾風前行。」強調保險服務已邁入智慧新時代,作為台灣保險業數位轉型的先驅,國泰人壽持續投入創新科技,為業務夥伴打造全方位的數位工作環境。

國泰人壽
國泰人壽副董事長李長庚(左3)及總經理劉上旗(右3)率領高階主管,出席數位業務發表會,展現公司對數位轉型的高度重視。
圖/ 國泰人壽

此次發表的「新業務平台NAP 3.0」導入三大AI新功能:一是「文件智慧識別」,透過AI大型語言模型(LLM)輔助智慧字元辨識技術(Intelligent Character Recognition,簡稱ICR),當業務夥伴為客戶進行保單健檢時,不需手動輸入,就能透過ICR拍照將資料正確帶入相關欄位;二是「自動生成圖文」,讓業務夥伴運用AI自製賀卡轉傳給客戶,利用生成式AI技術產生各類情境圖文,讓業務員有源源不絕的話題可以拜訪客戶;三是「AI COACH口袋教練」,能協助業務人員模擬真實銷售情境,透過話術指導與即時修正建議,提升與客戶溝通的精準度與專業服務水準。再搭配「FitBack健康吧」增進與客戶的互動,提供完整且深度的保險資訊,成為業務人員的最強後援。

國泰人壽
國泰人壽NAP「AI COACH口袋教練」協助業務人員模擬真實銷售情境,透過話術指導與即時修正建議,提升與客戶溝通的精準度與專業服務水準。
圖/ 國泰人壽

「新業務平台NAP 3.0」平台使用率已達到100%,深獲業務人員肯定,今(2025)年國泰人壽更率先實現試辦「全場景人臉辨識計畫」,應用於投保、保單變更、保費付款授權、理賠申請及據點臨櫃辦理等五大保險服務流程,業務夥伴可協助客戶使用NAP平台完成人臉註冊,暢行國泰人壽全服務平台,除了讓客戶能享受快速、安全且便利的數位服務,亦能強化業務通路的服務效率,預計年底前將全面推行。

在培育業務人員專業能力方面,國泰人壽優化「C-Learning」內部學習社群平台,以遊戲式的學習模式,提供教育訓練及時事分享,提升學習動能;更透過「集團全攻略」匯聚人壽、產險、金融及健康四大核心服務素材,讓業務人員能夠開拓例如企業主、新手爸媽、超跑車主、銀髮族等不同客戶族群,並透過工具獲得實質的銷售幫助。未來,國泰人壽將持續落實集團「BETTER TOGETHER共創更好」的品牌精神,深化AI技術應用,打造「人機協作」的最佳典範,優化數位服務功能,攜手業務夥伴開創保險服務的新局,為客戶創造更多價值。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
蘋果能再次偉大?
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓