[曹家榮] 特斯拉撞車了!「誰」的責任?
[曹家榮] 特斯拉撞車了!「誰」的責任?
2016.07.21 | 科技

今年五月,發生了特斯拉自動駕駛汽車上路至今首起死亡車禍。特斯拉官網部落格於七月初表示,美國高速公路安全管理局正在調查這起不幸事件。不意外地,這個消息也再次引發人們對於自動駕駛車的疑慮與討論。

根據特斯拉官網的資訊,這起不幸事故的肇因為:「在強烈的日照條件下,駕駛者和Autopilot都未能注意到拖車的白色車身,因此未能及時啟動剎車系統。」至於拖車為何沒有被偵測到,特斯拉的解釋是:「由於拖車正在橫穿公路,且車身較高,這一特殊情況導致Model S從拖車底部通過時,其前擋風玻璃與拖車底部發生撞擊。」

過去我曾就自動駕駛車是否可行,以及其涉及的倫理問題提出過一些看法。這篇文章則打算更深入討論倫理責任面向的問題。我認為,特別是在現今這個過渡階段,我們需要更深入理解「自動駕駛車進入人類生活」意味著什麼。我們是否對其有錯誤的想像與認識?又或者,它的出現能夠讓人看到什麼過去無法看見的?


(照片來源:Andy Rusch

幾個爭論問題

自動駕駛車上路最常引發的爭論就是:在危急時刻,我們該將操控權交給自動駕駛系統嗎?例如,在先前那一篇文章中,我們就討論過一種極端情況,也就是在危急情況下,自動駕駛車該不該為了避免大量人員傷亡,選擇傷害駕駛人的撞車方式?

這個極端問題背後其實指向一個根本問題:我們該將「決策權」委任給自動駕駛系統嗎?或者說,我們該委任「多少」決策權力給系統?進而,可以繼續追問的是:自動駕駛系統能夠為事故「負責」嗎?

如果你有注意到特斯拉官網的說明,可以發現現階段特斯拉其實以某種形式「謝絕委任」。他們是這樣說的:「我們需要指出的是,⋯⋯Autopilot是一項輔助功能,要求駕駛者雙手始終握住方向盤⋯⋯準備隨時接管。」先不論這是不是卸責的說法,但很明顯地,特斯拉(至少現階段)並不打算讓其系統扮演全權決策者。駕駛人必須隨時接管、隨時承擔起駕駛決策的責任。

回到剛剛的問題。對於某些反對者來說,我們也不該將決策權委任給駕駛系統。因為,他們認為只有「人類」才是車子真正的操控者、才真的能承擔駕駛決策責任。換言之,反對者認為,像是上述那種極端的道德困境中,只有人類才能因應不同脈絡做出判斷,因此人類才能(需)負責、才有決策權。車子,只是工具。

看起來有點矛盾卻其實很巧妙地,特斯拉「謝絕委任」的說詞裡所暗示的,與反對將決策權委任給駕駛系統的觀點,兩者有著很強烈的親近性。簡言之,不論目的為何,他們歸根究柢都是在說:「人」才是該負責、能負責的那一方。

然而,真的是如此嗎?我認為這又讓我們可以繼續拉出另一個可爭論的問題:作為駕駛的人類真的能負責嗎?或者,當我們說駕駛人該負責時,他該負責的到底是什麼?

「人」的責任?

撇開大家都知道的法律問題,當我們說「駕駛人需負責」時,其實這裡面暗示的是:因為是「人」在操控車子,所以人需要負責。換言之,我們是從歸因的角度,認為「人」是那個讓車子移動或撞車的動力因,所以應歸責於他。

但是這樣的觀點其實有一個沒有說出來的預設:只有「人」可被歸因,或者說,人有著不同於車子、機器的地方,而這個不同之處使其成為「唯一」的操控者,控制著車輛、機器。

關於這個預設,有一個經典的例子可以進一步說明。過去在槍枝管制的爭論中,人們也常這麼說:槍本身不會殺人,真正殺人的是拿槍的那個人。與歸責於汽車駕駛人的觀點類似,在這裡人們預設了只有「人」才是動力因,而槍乃是與車子一樣中性的工具。

讓我們用「人類中心式」的觀點來指稱上述這樣的歸因模式。這樣的觀點其實是我們長久以來的思考習慣。在華人傳統中,我們也有「人定勝天」這種類似的信念。許多樂觀的科技主義背後也是以這種人類中心思想為核心。

但是,如果我們嘗試用另一種角度來思考:如果「人」不是唯一可歸因的對象呢?或者說,如果需負責的那個「誰」,其實是一個由「人與機器」組成的行動系統呢?

這裡,讓我用「關係式」的觀點來指稱這種不同的歸因模式。同樣以槍枝為例,從關係式的觀點來看,當槍被人拿在手上時,不管是槍或人都改變了。人與槍此時共同構成了具暴力威脅性的行動系統。

開車也是如此。駕駛人與汽車共同構成了可高速行駛的行動系統。因此,雖然看起來是人在操控著車輛,但實際上人只是整個行動系統的一部分。不僅人的行動能力因此放大(可以移動得更快),人接收到的資訊也改變或化約了(像是視野變得侷限)。

換言之,從關係式的觀點來看,當發生撞車事故時,歸因的對象並不是「人」。因為人只是整個行動系統的一部分。或者說,例如,不是「人」看不見突然從路邊跳出來的鹿,而是在這個行動系統中,機器加速與視野侷限的化約導致「跳出來的鹿」無法被即時處理。

從「關係式」的觀點來思考,並不是要卸責。相反地,關係性的思考讓我們首先看見:「人」從未如其所想像的那樣操控著機器。自動駕駛車之所以帶來爭論、焦慮,某程度來說其實源自於「人類中心」式的觀點。如果我們能改用關係式的思考方式,問題也就不會是「是否該信任、委任機器(自動駕駛車)」,而是在承認我們無法完全操控的前提下,更深刻地思考在每一個環節,我們委任了什麼給機器,而這又會對人自身帶來什麼影響。

機器並不無辜

同時,從關係式的觀點來看,讓人撞車的自動駕駛系統的確並不無辜。它有其責任。

荷蘭科技哲學家Peter-Paul Verbeek曾經以產檢超音波為例,說明為何機器有其責任。當醫生透過超音波儀器向胎兒的父母解釋可能的問題時,實際上醫生並不是獨立地進行診斷,超音波儀器也參與整個行動:它將其探測到的狀況轉換為視覺資訊呈現。

因此,人們是透過超音波才看見了子宮裡胎兒的狀況,這個機器實際上參與了人們做決策的過程。它也必須為可能的錯誤負責。

自動駕駛車系統也是如此。當我們開啟了自動駕駛系統,等同於將某些偵測外在資訊、或甚至是操控的行動委任給它,它因此參與了關於如何開車的決策過程。進而,當事故發生時,它也就絕非僅是「被使用」的無辜機器。

當然,這樣的說法也許會引發如下的反彈:機器有責任?那又該如何究責?「懲罰」機器?抑或者歸罪設計者、工程師?前者似乎有點荒誕,而後者恐怕會被視為是阻礙科技發展的保守主義。

我認為正好相反的是,這並非保守主義,而是開始對過去樂觀到失控的科技至上主義重新進行審視。換言之,我們該問的是,何以在「(科技)發展」的大旗下,這些推動者的責任就能夠被免除?

過去人類相信「理性」可以解決一切。因此,代表著理性的科學與科技就神不知鬼不覺地有了「充足的理由」做任何事。直到晚近二、三十年,才有人開始反省並意識到:「理性」無法解決一切問題。相反地,理性所推動的科學與科技實際上產生了許多後果嚴峻的問題。

沒有人可以自外於科技文明帶來的問題,也沒有人再可以免責於其行動。自動駕駛車撞車了,位於「車輛行駛」這一行動系統中的自動駕駛裝置與駕駛人同樣都有責任。而自駕裝置本身背後所牽連的一整個由企業體、設計者與工程師、甚至政策推動者所構成的網絡都必須負責。

《數位時代》長期徵稿,針對時事科技議題,需要您的獨特觀點,歡迎各類專業人士來稿一起交流。投稿請寄edit@bnext.com.tw,文長800至1000字,兩天內會回覆是否採用,文章會經編輯潤飾,如需改標會與您討論。
往下滑看下一篇文章
國泰人壽業務平台升級 助攻業務行銷數位力
國泰人壽業務平台升級 助攻業務行銷數位力

國泰人壽持續推動數位轉型,第四屆數位業務發表會近日登場,發表AI創新應用及數位工具升級成果。會中亮點包括升級業務行銷工具「新業務平台 NAP 3.0」(New agent Platform, NAP)導入三大 AI 功能,並率先試辦「全場景人臉辨識計畫」,以提升業務通路服務效率與專業能力;並特地邀請新加坡保險同業MDRT(百萬圓桌會員)業務菁英參加,同台分享跨世代客群溝通與數位轉型實務經驗,泰國人壽更派出策略創新長等高階主管來台參與盛會,期能攜手海外同業彼此交流,為國壽業務部隊經營開創新視野。本次發表會活動吸引逾400位業務人員到場,另有2萬人透過線上直播參與,創下發表會收視人數歷史新高。

國泰人壽自2022年起每年舉辦數位業務發表會,透過新技術、新應用發表,協助業務人員更掌握科技趨勢與善用工具提升工作效率。國泰人壽總經理劉上旗於發表會中表示:「國泰人壽的數位工具不斷進化,NAP從5年前戰情室藍圖規畫,現已成為業務同仁日常工作不可或缺的工具,落實了效率工作與輕鬆生活的承諾,期許進入AI時代,國壽同仁以更堅實的底氣疾風前行。」強調保險服務已邁入智慧新時代,作為台灣保險業數位轉型的先驅,國泰人壽持續投入創新科技,為業務夥伴打造全方位的數位工作環境。

國泰人壽
國泰人壽副董事長李長庚(左3)及總經理劉上旗(右3)率領高階主管,出席數位業務發表會,展現公司對數位轉型的高度重視。
圖/ 國泰人壽

此次發表的「新業務平台NAP 3.0」導入三大AI新功能:一是「文件智慧識別」,透過AI大型語言模型(LLM)輔助智慧字元辨識技術(Intelligent Character Recognition,簡稱ICR),當業務夥伴為客戶進行保單健檢時,不需手動輸入,就能透過ICR拍照將資料正確帶入相關欄位;二是「自動生成圖文」,讓業務夥伴運用AI自製賀卡轉傳給客戶,利用生成式AI技術產生各類情境圖文,讓業務員有源源不絕的話題可以拜訪客戶;三是「AI COACH口袋教練」,能協助業務人員模擬真實銷售情境,透過話術指導與即時修正建議,提升與客戶溝通的精準度與專業服務水準。再搭配「FitBack健康吧」增進與客戶的互動,提供完整且深度的保險資訊,成為業務人員的最強後援。

國泰人壽
國泰人壽NAP「AI COACH口袋教練」協助業務人員模擬真實銷售情境,透過話術指導與即時修正建議,提升與客戶溝通的精準度與專業服務水準。
圖/ 國泰人壽

「新業務平台NAP 3.0」平台使用率已達到100%,深獲業務人員肯定,今(2025)年國泰人壽更率先實現試辦「全場景人臉辨識計畫」,應用於投保、保單變更、保費付款授權、理賠申請及據點臨櫃辦理等五大保險服務流程,業務夥伴可協助客戶使用NAP平台完成人臉註冊,暢行國泰人壽全服務平台,除了讓客戶能享受快速、安全且便利的數位服務,亦能強化業務通路的服務效率,預計年底前將全面推行。

在培育業務人員專業能力方面,國泰人壽優化「C-Learning」內部學習社群平台,以遊戲式的學習模式,提供教育訓練及時事分享,提升學習動能;更透過「集團全攻略」匯聚人壽、產險、金融及健康四大核心服務素材,讓業務人員能夠開拓例如企業主、新手爸媽、超跑車主、銀髮族等不同客戶族群,並透過工具獲得實質的銷售幫助。未來,國泰人壽將持續落實集團「BETTER TOGETHER共創更好」的品牌精神,深化AI技術應用,打造「人機協作」的最佳典範,優化數位服務功能,攜手業務夥伴開創保險服務的新局,為客戶創造更多價值。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
蘋果能再次偉大?
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓