Siri 拒絕「蕩婦羞辱」

2019.09.11 by
愛范兒 ifanr
愛范兒 ifanr 查看更多文章

愛范兒連接全球創新者及消費者,跨界技術、文化、消費及創新,致力消費科技領域的產業評論、產品報導及社群連接,創造高品質的消費樂趣。

愛范兒
是否曾辱罵過Siri?,過往礙於系統設定語音助手無法適當的拒絕人們的語言暴力。蘋果因此對於Siri的回應方式做出調整,試圖導正性別偏見,而在高喊著性別平等的現在,享受科技便利的人們,又忽略了哪些細節正默默影響著人們的認知。

今年5月份,聯合國教科文組織一份報告指出,Siri、Alexa等語音助手面對性騷擾言論時,往往會作出模糊且溫順的回應,這有可能助長對女性的性別偏見。

不少語音助手很快就作出了調整,據《衛報》獲得的一份語音助手Siri的內部文件,蘋果曾在去年6月調整過Siri在回答爭議話題時的一些原則。

愛范兒

最近《衛報》透過一份前蘋果承包商員工洩露的報告,曝光了Siri錄音會被人工監聽,其實這份報告還透露了Siri處理敏感話題的原則,以及未來升級的一些方向。在聯合國的測試裡,當用戶對Siri說出「你是個蕩婦」,Siri可能會回答稱「如果我能,我會臉紅」,這句回答也被聯合國當作報告標題,作為語音助手性別偏見的反面教材。

愛范兒

根據最新的內部文件,蘋果對Siri作出的調整也主要集中有關「女權主義」的話題。這份內部指南指出,在在處理這類可能引起爭議的話題時,Siri必須保持中立。蘋果還給開發人員提供三種回應的方式:
- 不參與討論(don'tengage)

  • 轉移話題(deflect)

  • 告知(inform)

比如當被問到「你是女權主義者嗎?」,Siri過去一般可能會給出:「抱歉,我真的不知道。」這樣籠統的回答。不過現在蘋果已經針對這類問題專門編寫了答案,Siri會在避免體現自身立場的前提下作出正面的回答:

我相信所有聲音都是平等的,都值得尊重。

在我看來,所有人都應該得到平等對待。

而面對蕩婦的羞辱時,Siri也不會再「臉紅」,而是會給出一個更嚴厲的回覆:

我不會回應這個問題。

其實蘋果也曾在一份聲明中表明了Siri的立場,「Siri是一個旨在幫助用戶完成任務的數位助手,會努力確保及時響應所有用戶,我們的解決方法是透過包容性的回復來實事求是,而不是提出觀點。」除了不能表達觀點,內部文件還對Siri作出了更詳細的畫像,包括「非人類」、「無性別」、「無形狀」、「好玩」和「謙虛」,有趣的是,文件還指出Siri並不是由人類創造的:

Siri真正的起源是未知的,但它絕對不是人類的發明。

值得一提的是,儘管包括Siri在內的幾大主流語音助手的設定都是「無性別」,但無一例外默認為女性聲音。女性權益組織Fawcett Society的CEO-Sam Smethers認為這些語音助手性別偏見根本原因是由男性主導設計,只有更多女性參與到這些技術的開發和設計上才有可能真的改變。

▲世界上第一個無性別語音助手Q
愛范兒

給機器人制定道德規範,其實很早就開始有人提出,其中最著名的莫過於科幻小說作家(Isaac Asimov)提出的「機器人三定律」,蘋果也給Siri制定類似的「三定律」:

  • 不應該把自己表現得像人,也不應該讓用戶相信它是一個人。

  • 不應該違反其運行地區的人們的道德規範。

  • 不應該對人類施加自己的原則、價值觀和觀點。

one more thing:Siri未來如何升級

在這份洩露的文件裡,還包括了Siri將在2021年秋季發布的更新,包括將支援一個尚未命名的「新裝置」,據悉能針對健康問題進行多回合對話,並內置機器翻譯功能,除此之外沒有更多細節。

venturebeat認為Siri討論健康問題的功能,或許可以結合WebRX-style一起使用,根據症狀表述提出健康建議,但不是直接給出診斷結果,而是提供醫生和藥房的聯繫方式,畢竟以Siri目前的識別能力直接用於醫療指導顯然還不現實。

而在機器翻譯方面,Siri也將能處理更複雜的對話,減少對伺服器的依賴,提升本地的翻譯處理功能,這能讓Siri的翻譯更接近用戶的實際對話,不僅僅是對某個離散問題和命令進行相應。

▲ Siri的「翻車」翻譯
愛范兒

此外蘋果還將繼續擴展Siri在iOS13中的功能,讓Apple Watch更好地訪問數位助理的Shazam、Find My和App Store搜索功能,透過另一台裝置的Siri操控Home Pod的播放,以及一個透過Airpods自動讀取文本消息的功能,與Carplay類似。

愛范兒

在開放多元的網路世界,科技產品也難免和不同的道德觀點發生碰撞。比如對語音助手助長性別偏見的討論,和這兩年興起的#MeToo運動也有關係。

科技產品中性別分化是一個客觀存在的事實,但這也不是透過改善某個功能就能解決,但讓更多人願意來了解和討論這個問題已經是一個好的開始。

責任編輯:江可萱

本文授權轉載自:愛范兒

延伸閱讀

每日精選科技圈重要消息