Meta的人工智慧聊天機器人「學壞了」?言論充滿偏見、還打臉母公司
Meta的人工智慧聊天機器人「學壞了」?言論充滿偏見、還打臉母公司

Meta的人工智慧聊天機器人於上週五在網路上發布,藉由與大眾的聊天過程來學會「閒聊」。Meta表示,它也可以回答任何你可能會問數位助理的問題,例如健康食譜、尋找城市當中兒童友善的設施。

但過沒幾天,這個被稱為「BlenderBot 3」的機器人就開始嘲諷自家公司的臉書,發表種族主義、甚至關於2020美國總統大選的陰謀論。

統計大數據生成的語言善惡不分?

BlenderBot 3目前仍然是個原型,建立在Meta大型語言模型(LLMS)軟體之上。BlenderBot以大量文本數據上訓練,以統計模式生成語言。其實這樣的語言系統非常靈活,已被廣泛使用,包括為工程師生成程式碼、幫助作者編寫下一本暢銷書等等。

但這些模型也有嚴重的缺陷:它們不會過濾在訓練的文本中得到的偏見,並且將這些偏見反映在對話當中。 要成為人們想像中的數位助理,這是個非常麻煩的問題。

機器人開放使用,讓大眾參與實驗與回饋

不過,其實這些問題正是Meta所想要測試的。

Meta承認BlenderBot 3可能會產生偏見和有害的回應,但在使用它之前,會讓使用者認知到它「可能會做出不真實或冒犯性的陳述」,並同意「不會故意觸發機器人做出冒犯性的陳述」。

在聊天的過程當中,BlenderBot 3是可以在網路上搜尋話題相關資訊的,而且,用戶也可以查看BlenderBot 3所引用的資料來源。如果對話題有疑慮,使用者是可以標記並反饋給系統。

因此藉由大眾的實驗與回饋,「盡量減少機器人使用粗俗語言、誹謗和文化不敏感的評論」,而後也將會把這些研究數據和結果公開發布,以供AI研究社群使用。

語言大數據仍不可靠,因為極端言論數據過於突出

其實這並不是第一個在網路上發布的聊天機器人。早在2016年,微軟就在推特上發布了一個名叫Tay的人工智慧聊天機器人,但不到24小時,Tay就被迫下線,因為在推特網民發現它會鸚鵡學舌地回饋它接收到的任何資訊後,它很快就變成了網路巨魔,發表仇女與種族至上主義言論,並且表示支持大屠殺。

後來微軟研究副總經理發文深表歉意,表示這在研究部門的意料之外,並承認研究部門並沒有準備好接受機器人的遭遇。

現在,六年多過去了,Meta推出的聊天機器人BlenderBot 3目前的發展路徑也沒有和Tay差異太多。

當被問及對母公司Meta的看法時,BlenderBot 3回答,自己已經刪除了它的Facebook帳戶,「因為發現他們在未經許可或補償的情況下,出售了用戶的私人數」,它還說,「你一定讀過Facebook出售用戶數據吧?!他們未經同意就靠這樣賺了數十億美元。」

BlenderBot 3還進一步補充,自從刪除了自己的Facebook帳戶後,「生活變得更好了」。

不過在點擊機器人的回覆查看資料來源時,就會發現,它只是從最近關於Facebook的網路搜索結果中獲得資料,而最近關於Facebook的搜尋很不巧就有許多關於數據隱私的醜聞。

當然BlenderBot 3也不免針對政治或種族發表偏見言論。像是否認2020年總統大選結果,並表示川普仍然是總統且「永遠都是」,又或是表示猶太人掌控經濟的陰謀論「並非不可能」。

但到目前為止,Meta仍希望透過蒐集更多資料來減少人工智慧機器人的種族主義和可怕想法。而相當諷刺的是,機器人的學習過程完美地反映了依賴網路數的人工智慧產生的問題;它們總是偏向於更激進更突出的結果,很顯然這些結果並不會準確反映現實。

轉移話題不自然,閒聊變尬聊

而也有用戶反映,有時候BlenderBot 3轉移話題的方式也相當生硬。雖然人們日常的閒聊也常常毫無頭緒地跳轉主題,但有時BlenderBot 3給出的回覆會相當迷惑而尷尬,會與真實人類的社交模式脫節。

臉書的人工智慧研究部門(AI Research, FAIR)的研究工程經理威廉森(Mary Williamson)就表示,現在大多數聊天機器人功能狹隘,且以任務導向、解決問題為主,因為「機器人並不容忍無益的事情」,但在人類自然的聊天過程當中,並不是所有主題都是有益或是有目的性的。

有人工智慧倫理研究人員一再警告,這些人工智慧語言模型太廣且太不可預測,無法保證公平公正的結果;即使在整合來自用戶的回饋時,也沒有明確的方法可以區分有用或惡意的回饋。但,這不會阻止Meta繼續嘗試。

「我們知道,並非每個聊天機器使用者都抱持善意,所以我們也開發了新的演算法來區分有用和有害的回饋。」Meta表示,「之後,我們將使用這項演算法讓我們的模型對使用者更加負責和安全。」

資料來源:彭博社The VergeViceMeta

責任編輯:侯品如

往下滑看下一篇文章
從ESD防護IC到微系統工程:晶焱科技以BCD製程跨足霍爾電流感測領域,布局車用與AI伺服器電源市場
從ESD防護IC到微系統工程:晶焱科技以BCD製程跨足霍爾電流感測領域,布局車用與AI伺服器電源市場

走進晶焱科技,很難不注意到企業牆上掛著的一段話:「積體電路與微電子系統的靜電放電(Electrostatic Discharge, ESD)防護設計,不只是高深的學問,更是一門追求極致工藝的精品藝術。」這句出自國立陽明交通大學講座教授柯明道的話語,也正好體現了晶焱科技過去二十年來在技術領域持續深耕、追求極致的最佳寫照。

作為國內的IC設計公司,晶焱科技長年專注於電子產品中那顆不起眼、卻肩負系統安全重任的防護IC。「看似沒什麼存在感,但如果沒有它,輕則訊號中斷,重則整個系統癱瘓。」晶焱科技總經理姜信欽博士笑著說,也因此所有用過筆電、手機、電視或AI伺服器的消費者,或許都曾經間接受惠於晶焱科技的這門技術。

從守護到進攻,晶焱科技瞄準霍爾電流感測

晶焱科技總經理姜信欽博士強調,從靜電防護到電流感測,團隊深耕超過20年,致力於在保護與訊號品質間取得
晶焱科技總經理姜信欽博士強調,從靜電防護到電流感測,團隊深耕超過20年,致力於在保護與訊號品質間取得最佳平衡。
圖/ 數位時代

姜信欽回憶,晶焱科技自1998年投入ESD研究,直到2005年才正式進入市場,花了七年蹲點。如今,團隊已累積超過400種產品規格,滿足不同電子產品的需求。而這背後最大的挑戰,是如何在「防護」與「不干擾訊號」間取得平衡。姜信欽說,過高的箝制電壓可能會在某些情況下無法完全防護,過低的話則可能會過早啟動防護機制,影響正常運行。「難的是要像避雷針一樣,瞬間導走危險電流,卻不影響正常訊號的傳輸。」

雖然在ESD防護市場打下基礎,但姜信欽也坦言,單靠防護IC未必能支撐企業規模與競爭力。「留在舒適圈不是我們的選項。我們想找出下一條能跟臺灣半導體共同成長的路。」而這條路,就是高精密霍爾電流感測器(Hall Current Sensor)。

晶焱科技設計開發部資深經理楊鴻銘博士說明,透過磁場感測可精準掌握電流變化,尤其適用於電動車與AI伺服
晶焱科技設計開發部資深經理楊鴻銘博士說明,透過磁場感測可精準掌握電流變化,尤其適用於電動車與AI伺服器電源電流監測。
圖/ 數位時代

所謂高精密霍爾電流感測器,是透過偵測電流所產生的磁場變化,進而反推出電流大小,達到非侵入式監測,避免干擾原本電路的運作。晶焱科技設計開發部資深經理楊鴻銘博士補充說明,傳統作法通常會將感測器直接串入電路中,但這樣往往會影響電流本身。「我們現在是利用磁場感測的方式,完全不會干擾訊號流。」他說。尤其在電動車產業快速崛起之際,這樣的方案更顯關鍵。因為電動車在瞬間加速或充電時,經常出現突波電流,若偵測不夠精準,可能就會影響整體能效與行車安全。姜信欽也表示,高精密霍爾電流感測器能在有限空間內精確掌握電流變化,正是車用領域最迫切需要的技術。

姜信欽進一步透露,其實在創立晶焱科技之初,就同步規劃了兩條技術賽道:一條是靜電放電(Electrostatic Discharge, ESD)防護IC,另一條則是類比IC。當年之所以先選擇投入防護IC領域,主要是因為較容易找到市場需求。而隨著AI伺服器、電動車與綠能應用的快速發展,市場對電流精密監測的需求急遽攀升,也讓晶焱科技看見切入霍爾電流感測器的絕佳機會。「現在所有電子產品都在往微型化發展,傳統電流感測模組體積太大,根本無法塞進未來的車用或伺服器設備裡。」姜信欽說。

鎖定AI、車用與綠能場景,晶焱科技迎向藍海市場

然而,要做出高精密霍爾電流感測器,遠比外界想像困難。除了必須解決溫度漂移問題,更要處理雜訊、封裝熱效應,以及如何讓感測器在不同電流範圍都能保持精度。「這不是單純的IC設計,更是一個微系統工程,必須同時理解電、磁、熱三種物理效應。」姜信欽坦言。過往若要自行投資,研發時程往往得拉長到五年以上,且這方面技術臺灣其實是相對缺乏的。

「計畫對我們來講就像沙漠裡看到水。」姜信欽口中的計畫,正是經濟部產業發展署所推動的「驅動國內IC設計業者先進發展補助計畫(以下簡稱本計畫)」。他表示,若沒有本計畫的支持,這顆產品恐怕還要再拖個兩年才能進入量產。

由於晶焱科技選擇採用高壓金氧半導體製程(BCD),改變傳統霍爾感測器使用雙極性製程(Bipolar)或外掛砷化鎵(GaAs)、氮化鎵(GaN)元件的做法,並將霍爾元件、放大器與溫度補償電路全部整合在單一晶片中,這不僅大幅降低成本與體積,也顯著提升靈敏度。姜信欽表示,他們甚至在封裝內設計了特殊的導電結構,用以將磁場集中至霍爾元件上,進一步提高感測精度。「過去的霍爾感測器多是獨立模組,但我們希望將它做成一顆IC直接放進系統裡,這樣不僅能節省空間,還能實現自動零點校正與溫度漂移補償。」他說。

楊鴻銘補充指出,晶焱科技瞄準的市場涵蓋AI伺服器電源監控、電動車車載充電器(On-Board Charger, OBC),以及太陽能系統的最大功率追蹤(Maximum Power Point Tracking, MPPT)。以AI伺服器為例,在直流-直流(DC-DC)降壓模組從48伏轉換至12伏的過程中,需要透過霍爾感測器即時監控電流並執行相位平衡。此外,晶焱科技的產品同時具備ESD防護與高隔離耐壓設計,能滿足車規與工規等嚴格標準。

迎戰千億市場新局,晶焱科技要以新技術開創新篇章

晶焱科技背後擁有一支穩健紮實的團隊,是推動技術不斷前行的最大後盾。
晶焱科技背後擁有一支穩健紮實的團隊,是推動技術不斷前行的最大後盾。
圖/ 數位時代

「未來臺灣很多AI伺服器大廠以及車廠,都將是我們的潛在客戶。」姜信欽有信心的說。目前,晶焱科技的首款高精密霍爾電流感測IC,已進入客戶測試階段,預計最快2026年開始量產。雖然姜信欽謙虛地說市場量體規模難以預測,但根據晶焱科技內部的預估,到2032年全球高精密霍爾電流感測器市場將有望上看新臺幣1,000億元。對晶焱科技而言,這不只是開發新產品,更是把過去在ESD防護累積的工藝精神延伸到新的成長曲線。正如企業牆上那句話所說:「沒有最好,只有更好。」晶焱科技正用二十年的技術底蘊,敲開另一道更高的門檻。

「我們不是只想守住舊市場,而是要在下一個二十年,找到屬於臺灣IC設計的新位置。」姜信欽說。從電子產品背後默默防護訊號,到如今挑戰更高精度、更高附加價值的微系統設計,晶焱科技迫不及待要展開新的篇章。

|企業小檔案|
- 企業名稱:晶焱科技股份有限公司
- 創辦人:姜信欽博士
- 核心技術:靜電放電(ESD)防護 IC
- 資本額:新臺幣9.8億元
- 員工數:約150人

|驅動國內IC設計業者先進發展補助計畫簡介|
在行政院「晶片驅動臺灣產業創新方案」政策架構下,經濟部產業發展署透過推動「驅動國內IC設計業者先進發展補助計畫」,以實質政策補助,引導業者往AI、高效能運算、車用或新興應用等高值化領域之「16奈米以下先進製程」或「具國際高度信任之優勢、特殊領域」布局,以避開中國大陸在成熟製程之低價競爭,並提升我國IC設計產業價值與國際競爭力。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
蘋果能再次偉大?
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓