【書摘】會拍馬屁的電腦,照樣奉承到你
【書摘】會拍馬屁的電腦,照樣奉承到你
2011.09.23 | 科技

 

對於逢迎拍馬的研究,是我第一次利用電腦,來探索那些引導人類和電腦適當行動的社交法則。我設計一套叫做「20個問題」(Twenty Questions)的電腦遊戲程式。

這個遊戲是這樣玩的:由電腦來「想像」一隻動物,而受測者必須猜測出電腦想的是什麼動物。受測者要向電腦提出一些「是」或「否」的問題,慢慢排除一些錯誤的可能。在提出十個問題之後,受測者就要提供猜測答案。在受測者回答後,電腦並不會揭示答案正確與否,僅會告訴受測者,他們剛剛提出的問題對於猜測答案是否有用。之後,電腦會再想像另一隻動物,再由受測者來提問和猜測。我們如此設計遊戲基於幾點理由:雙方的互動受到控制且專注(不必用到人工智能的技術);遊戲規則簡單且容易理解;這樣的遊戲由人和電腦來玩,顯得很平常。

設定好基本情節後,我們現在可以開始來研究逢迎拍馬到底有沒有用。當受測者進入實驗室裡,我們會安排他們坐在一台電腦前面,然後解釋遊戲的進行方式。

針對第一組受測者,我們會說電腦對於他們的提問將提出非常精確的回饋,因為這套系統是根據多年「探究科學」(science of inquiry)的研究發展出來的。對第二組受測者,我們會說電腦將針對他們的提問效果做出評價,但這套系統還未完善,因此他們可能會收到跟提問無關的隨機評論;換句話說,電腦可能會提供基本上毫無意義的評論,在這種狀況下,第二組受測者完全有理由不理會電腦會說出什麼話。第三組受測者則不會接收到電腦的任何回饋,只會被要求再提出十個問題,來猜測下一隻是什麼動物。

電腦給予第一組及第二組的評論,內容完全一樣,就是在實驗中給予熱情地讚揚。電腦會說受測者的答案「非常精巧」、「極富見解」、「聰明極了」等,每一回合都能得到一些正面的回饋。

這兩組的差別在於,第一組受測者以為自己得到「精確的」讚揚,第二組受測者則認為自己得到的讚揚只是奉承之語,跟他們的實際表現毫無關聯。等到遊戲做完之後,我們會詢問受測者,他們有多喜歡這台電腦?他們認為自己的表現如何?他們認為電腦的表現如何?以及他們是否喜歡這個遊戲?

假如阿諛奉承拍馬屁是不好的策略,受測者對於拍馬屁的電腦應該會感到強烈的厭惡,而且對於他們的自我評價應該不會有任何影響。不過,假如阿諛奉承有用的話,那些被拍馬屁的受測者在這個過程中必定會感到陶陶然,覺得做這個遊戲相當愉快,而且對那台拍馬屁的電腦也會有良好的觀感。

 

 結果及其意義

結果,馬屁組說他們喜歡那台會拍馬屁的電腦(儘管那些阿諛奉承之詞都是隨機亂給的),其程度就跟精確組一樣。為什麼人們會喜歡阿諛奉承的人,即使知道他只是在拍馬屁呢?

我們知道受測者高興地接受馬屁電腦的讚揚,因為之後的問卷調查顯示,那些正面回饋提高了受測者對於自我表現的評價,不管那些回饋是「精確的」或者只是隨機亂給。第二組受測者甚至認為,那台馬屁電腦跟「精確的」電腦一樣聰明,儘管我們之前就對受測者說那套系統裡根本沒有評價功能!

難道是因為馬屁組的受測者忘了電腦回饋是隨機亂給的嗎?

當我們詢問受測者是否會注意或關心馬屁電腦給予什麼評語時,他們的回答都是「不會」。有些受測者甚至在回答「不會」之後,仍意猶未盡地在旁邊寫道:「這種跟實際表現無關的評語,只有白痴才會受到影響吧!」奇怪的是,這群受到影響的「白痴」全是電算科學的研究生呢!儘管他們都知道那些阿諛奉承毫無意義,但潛意識仍然自動地接受了,而且還反過來誇獎那台馬屁電腦。

這個實驗結果告訴我們這條社交法則:就算你不知道是否合宜,也要毫不遲疑地給予讚揚!接收者不但會對此感到樂陶陶,還會因為你注意到他們的不凡之處──不管有沒有──而覺得你這個人認真細心、聰明睿智。

 

書名:你會對你的電腦說謊嗎?:從人和電腦的互動,了解如何成功經營人際關係

出版社:財信出版社

 

作者:克里佛.納斯(Clifford Nass)

史丹福大學講座教授,主持人際溝通與互動媒介實驗室,人類與科技互動的相關主題研究專家,媒體經常引用他關於心智多工運作的研究成果。

 

買書去

 

往下滑看下一篇文章
代理式商務來襲:萬事達卡與NCCC攜手產業打造信任新基礎
代理式商務來襲:萬事達卡與NCCC攜手產業打造信任新基礎

隨著代理式 AI(AI Agent)的快速普及,其在商務交易中的應用也從智慧搜尋、商品比價一路延伸至自主下單,逐步形塑出全新的代理式商務(Agentic Commerce)模式。為因應此一趨勢,萬事達卡攜手聯合信用卡處理中心(NCCC)於 15 日舉辦「 AI 時代支付安全與數據信任高峰會」,匯聚產官學界專家共同交流,深入探討代理式商務下的支付授權與驗證機制,以及 AI 時代金融監理的演進與詐欺防治重點。

萬事達卡台灣區董事總經理陳懿文表示,無論交易是由人或代理式 AI 發起,都應該在安全可信的環境中完成,萬事達卡將持續強化支付安全的把關能力,不僅著眼於風險控管,更期望將「信任」轉化為未來創新的基礎與成長動能。聯合信用卡處理中心董事長桂先農則認為,面對 AI 浪潮,支付安全已不再只是技術問題,更要在消費體驗、數據運用與隱私保護之間取得動態平衡。金融監督管理委員會主任委員彭金隆表示,金管會未來將持續秉持安全與發展並進的原則,致力於打造可信賴、穩健且具有包容性的環境,加速金融 AI 應用的發展。

Mastercard-02.jpg
金融監督管理委員會主任委員彭金隆特別出席,表示金管會核心理念為「負責任創新」,並於2025 年成立『金融科技產業聯盟』,期待結合金融周邊單位與金融機構的力量,打造可信任及穩健的AI 金融應用環境。
圖/ 數位時代
Mastercard-03.jpg
萬事達卡台灣區董事總經理陳懿文(左)攜手聯合信用卡處理中心董事長桂先農(右)致詞不約而同提到:面對 AI 浪潮,支付安全將會是如何在消費體驗、數據運用與隱私保護之間取得動態平衡的治理課題。
圖/ 數位時代

AI Agent 重新定義消費旅程,萬事達卡提 4 大要素保障支付安全

Google Cloud 台灣技術總經理林書平認為,代理式商務正在重新定義消費旅程,而 Universal Commerce Protocol(UCP)則是支撐這場變革的關鍵。他表示,UCP 就好像電商界的 Type-C 接口,可以串聯不同代理式 AI 與電商平台後台系統,讓代理式 AI 可以根據消費者需求,自主完成商品搜尋與推薦、比價到下單的交易流程,打造更即時、更個人化的消費體驗。

在此情況下,支付不再只是交易流程中的最後一步,而是串聯個人化服務、授權機制、風險控管與信任的核心環節。萬事達卡數據與顧問服務部資深副總裁戴輝瑾指出,要確保代理式商務下的交易安全,必須具備 4 個關鍵要素,包括可驗證代理式 AI 身份、明確的使用者授權、確保代理式 AI 執行的任務沒有超出授權範圍,以及在發生爭議時,能透過公開透明且可追溯的機制進行處理,確保各方權益。

此外,他也強調,風險管理不應侷限於付款當下,需從交易前、交易中、交易後到持續性的監控,建立端到端的治理架構。為此,萬事達卡推出多元解決方案強化整體防護能力,包括以 Identity Solution 強化數位身分驗證、以 Decision Intelligence Pro 提升即時風險判斷能力、透過 Ethoca 優化爭議處理流程,以及藉由 Recorded Future 提供即時網路威脅情報,全面覆蓋交易生命週期,打造更完整的支付安全生態系。

AI 監理邁入新階段,以信任為核心的監管新框架

從監理角度來看,AI 所帶來的變革也同步改寫治理思維。金管會銀行局局長童政彰指出,監理機關不僅要加強國際合作,更應深化與金融業及科技業的對話,建立更開放且具前瞻性的監理模式。進一步針對代理式商務來看,政大金融AI創新中心主任王儷玲認為,金融監理重心應由模型與資料管理,轉向代理式 AI 安全,尤其當 AI 可以代理消費者進行支付時,如何確保代理式 AI 在授權範圍內執行交易,將成為未來的監理重點。

在國際監理趨勢方面,萬事達卡數據與顧問服務部副總裁 Audrey Wong 分析亞太與全球支付生態並指出,AI 時代的監管核心已轉向「以信任為基礎」,金融業在應用 AI 時,必須具備可解釋性、可問責性與可稽核性,確保決策透明且可追溯。同時,隨著詐騙與洗錢行為跨境化,監理機制也應向外延伸,確保跨境一致性,並透過如 ISO 20022 等標準強化資料透明與治理能力。

回到金融機構實務面,國泰世華銀行數據長梁明喬表示,代理式 AI 將對既有支付與風控機制帶來結構性改變,以信用卡支付為例,過往的驗證重點在於是否為本人,但在代理式 AI 情境下,則轉變為驗證 AI 的身份、授權來源與行為意圖。未來,隨著代理式 AI 的普及發展,授權與權限管理將變得更加重要。

Mastercard-04.jpg
關鍵對談以「AI 時代的資安監管趨勢與企業應對策略 」為題,左起邀請:數位時代總編輯 王志仁主持及重磅與談人國立政治大學金融 AI 創新中心主任 王儷玲、國泰世華銀行數據長 梁明喬及萬事達卡數據與顧問服務部副總裁 Audrey Wong與會。
圖/ 數位時代

AI 詐騙升級,聯防機制成新關鍵

最後,本場研討會亦聚焦討論 AI 造成詐欺風險升級的議題。台灣大哥大資訊長蔡祈岩觀察,詐騙已從單一管道演變為跨平台、跨場景的複合型攻擊,尤其是假冒「代理式 AI 」的詐騙手法,透過對話引導消費者提供個資與支付資訊,正成為新興且高風險的威脅來源。

萬事達卡 Franchise Innovation 副總裁Dennis Koh 進一步歸納出 3 大詐欺發展趨勢。第一,Deepfake 服務化使詐騙門檻與成本大幅降低。第二,詐欺行為跨境化與遠端化,已經突破地理限制、走向全球攻擊。第三,社交工程從大量投放釣魚信件,轉為高度個人化、難以辨識的精準攻擊。

面對詐欺手法持續演進,聯合信用卡處理中心風險管理部資深協理李錦堯表示,聯卡中心正透過區塊鏈與FIDO生物識別技術,打造無密碼的數位身分認證系統,並結合AI數據模型提升TRACE風險預警系統的效能。未來,聯卡中心將持續優化模型,並建立跨機構資料共享的聯防機制,整合發卡機構與國際組織資源,以提升整體防詐能力,對抗日益複雜的詐欺攻擊。

代理式商務將為消費者帶來更好的消費與支付體驗,但同時也對安全、治理與信任造成更大的影響,促使產業必須從單點防護走向跨機構、跨生態系的整體治理思維。在此趨勢下,萬事達卡將持續扮演關鍵推動者角色,攜手監理機關與產業夥伴,強化支付安全標準,推動台灣支付產業的監管框架與創新發展,打造兼顧效率與信任的數位商務環境。

Mastercard-05.jpg
回應AI 代理經濟下的詐欺防制與個資挑戰,本論壇特別邀請台灣大哥大資訊長 蔡祈岩、聯合信用卡處理中心風險管理部資深協理 李錦堯、萬事達卡Franchise Innovation副總裁 Dennis Koh交流趨勢觀點。
圖/ 數位時代

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
AI全球100+台灣20
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓