從社會學角度看Sophia騙局與人工智慧的「自我意識」
從社會學角度看Sophia騙局與人工智慧的「自我意識」

去年年底才風光獲得公民身分的Sophia,卻在前幾天被「卷積神經網絡之父」Yann LeCun斥為一場騙局。這讓關於AI到底是否能夠「成為人」或「形成自我意識」的爭論再度成為焦點。

這不是騙局,什麼才是騙局?

先不論給予Sophia人類公民身分的,是沙烏地阿拉伯這個女性人權與公民權仍受壓迫的國家,這件事本身就荒謬地令人發笑(一個連「人」的權利問題都還搞不定的國家,反倒搶著給「非人」公民身分)。

如果你也看過那些Sophia與人互動的影片(例如她去Jimmy Fallon的Tonight Show),我想就算你不是什麼AI專家,應該也會懷疑Sophia真的「夠格」成為人類公民嗎?

我得先說,我不見得如李開復所說的,將Sophia獲得公民身分這件事視為是對人類最大的羞辱。但如果說Sophia的每次登台「演出」都得事先設定,否則其對話與互動的能力就會大失水準,而她卻又被「包裝」地彷彿跟人沒什麼不同,那麼,這不是騙局,什麼才是騙局?

總之是已經被騙了,至少我們得藉這個機會再想想,AI真的能「成為人」或「形成自我意識」嗎?當然,上述這個問題本身可能已經是一種化約,也就是將「形成自我意識」等同於成為人。不過,在有限的討論空間下,且讓我先這樣提問。

AI能形成自我意識嗎?

AI的發展之所以老是與「人」扯在一起,套一句Sophia的話,恐怕也是電影看太多的緣故。有太多的科幻電影都以AI與人的關係為題材,探討著理性、感性、身體、生命、情感、支配、自由等等重要的問題。

而認真說來,在我看過的有限的科幻電影中,特別處理了「自我意識」這個問題的,大概就是《奧圖瑪塔》跟《成人世界》這兩部。前者透過AI機器人開始會自我修復受損的身體,凸顯出它們開始有了自我意識;後者則是一位天才科學家開發出一套有著類似人類學習能力的AI,並實驗性地將其灌進某具本該報銷的機器人後,它卻陰錯陽差地「成長」為街頭混混的故事。

絕非湊巧地,這兩部電影裡的AI都是「有身體的」,《奧圖瑪塔》裡的機器人突破了設計原則開始維修「自己的」身體,《成人世界》的機器人查皮甚至會因為被火燒身、失去手臂,表現出(或感到)恐懼與痛苦。如果對照來看的話,一方面Sophia也有她的身體,但另一方面,Sophia的身體卻顯然笨拙,或者說了無生氣。

是的,雖然說科幻電影經常讓人不切實際地幻想高科技的未來,但許多時候它卻也精準地掌握了一些問題。在形成自我意識這個問題上,我們可以看到,「身體」至關重要。從社會心理學的角度來看,「自我」的形成是幾個過程作用下的產物。首先得有一個能夠想像地預演下一步行動的心智過程,而這意味著這個心智過程能夠理解「外在」的資訊進而「內在」地預想可能的行動後果;其次,「自我」形成於與他人的互動中。也就是說,在互動中,心智過程可以處理外在他人針對「自身」所釋放出的描述與評價訊息,進而心智過程便能夠形成關於「自我」的意識與想像。

換言之,正是因為有一個身體,他人的眼光、評價與描述才會在互動中指向同一個所在。因此,「自我」的形成就好像是一個迴旋的弧線一般,從「這裡」發射出去再從他人回返至原初起始的所在。這一迴旋的弧線讓「自我」得以從身體中誕生。說穿了,我們經常在說「要注意自我形象」時,為何總是第一直覺地看看自己的裝容打扮、言行舉止,正是這個原因。

而Sophia雖然有著令人驚豔的表情控制技術,但她的身體卻沒有表現出「自我」。這不是在說Sophia沒有「個性」(事實上她的言行還挺有的),而是在說,除了「有反應」的表情(但有時也會延遲反應)外,她的肢體動作往往是呆滯且無法相應於互動他者有所進退的。

換言之,你可以想像,上述我所謂形成自我的那道迴旋的弧線,在Sophia這裡,就算不是全然不存在,恐怕也是模糊不清的。因此,進一步說,AI是否可能形成自我意識?那就得看AI何時既能有進行想像預演的心智(運算)過程,又能有一個同時作為認知與行動起始點,及他人描述與評價回返原點的身體。

跳出人類中心思維

不過,我得再多說一點的是,這些老是把AI跟「人」扯在一起的討論,除了受科幻電影影響外,也不免是由於「人類中心主義」所致。

簡單來說,一方面有些人會認為這種比人更強大的科技,總應該是要以人(這個過去自視為萬物的頂點)為範型的放大與增強。另一方面,人類中心主義也表現在,我們焦慮於如果AI「不像人」,那我們可能控制它或與它「溝通」的可能性就更低了。當然更不用說,如果它「不像人」,人類未來又該如何承認其存在?

但是如果我們能先跳出人類中心主義的思維,想像AI發展的未來時,相較於有沒有「自我意識」,我反倒覺得AI是否能夠及是否應該「自主」的問題更為重要。在這裡,「自主」可以簡單定義為,能自行選擇目標、提出問題並尋求解答及採取行動。

換言之,當AI的發展實現「自主」時,這也意味著人類終於才切實地看清了科技不再(或說從未)受自己控制。至於之後的故事就沒人能知道了。

《機械公敵》的「人類保護計畫」會真實上演?還是會如《奧圖瑪塔》那樣,AI機器人將集體遠離終將自我毀滅的愚蠢人類?

《數位時代》長期徵稿,針對時事科技議題,需要您的獨特觀點,歡迎各類專業人士來稿一起交流。投稿請寄edit@bnext.com.tw,文長至少800字,請附上個人100字內簡介,文章若採用將經編輯潤飾,如需改標會與您討論。

(觀點文章呈現多元意見,不代表《數位時代》的立場。)

關鍵字: #人工智慧
往下滑看下一篇文章
台灣數位安全發展協會揭打詐盲點:截圖難當證據,AI加b-JADE讓數位足跡可驗證
台灣數位安全發展協會揭打詐盲點:截圖難當證據,AI加b-JADE讓數位足跡可驗證

重點一:數位詐騙生命週期極短,打完一波就轉移陣地,「下架」只處理了眼前的內容,處理不了事後追查。

重點二:台灣數位安全發展協會以AI蒐集、分類詐騙廣告,九成以上工作可由AI完成,最終判斷仍保留人工背書。

重點三:透過司法聯盟鏈b-JADE,只把資料的「數位指紋」上鏈存證,原始資料另行保存,目標是降低被害人的訴訟舉證成本。

一則可疑的投資廣告被檢舉、下架,帳號也停權了,多數人以為事情就此結束。真正麻煩的是,廣告消失的那一刻,追查詐騙集團的線索也可能跟著消失。

為了補上這個缺口,台灣數位安全發展協會正與司法聯盟鏈「b-JADE」合作,替詐騙相關資料做存證。b-JADE是一套以區塊鏈為基礎的司法存證機制,只有通過程序認證的單位才能提供上鏈服務;資料一旦上鏈,任何改動都會留下痕跡。白話說,就是替數位證據貼上「封條」,讓證據從蒐集到進入法庭,都能驗證有沒有被動過手腳。

詐騙廣告下架,為什麼還不夠?

原因在於數位詐騙的生命週期太短,下架只能處理眼前的內容。台灣數位安全發展協會理事長劉彥伯指出,傳統電話詐騙一套劇本可以拉長到半年、甚至一年;數位詐騙則像打游擊,一波結束就移往下一個平台,從廣告、社群到另一個App,一路跨平台引導被害人。

更大的問題是證據跟著斷線。被害人發現受騙時,可能已是半年後,手上通常只留得住最末端的匯款與聯絡紀錄,最初看過哪則廣告、點進哪個網站,早已消失。等到一、兩年後警方抓到詐騙集團,對方就能在法庭上反問「你怎麼證明我投過這則廣告?」劉彥伯以假設情境說明,一個集團原本可能詐騙了30億元,最後因證據不足,認定金額只剩幾千萬甚至幾百萬元。

不過,詐騙活動都會留下數位足跡,包括投放帳號、代理商、投放時間、運作國家與網址註冊紀錄,只要事先保存,日後調閱就「有憑有據」。

台灣數位安全發展協會
台灣數位安全發展協會理事長劉彥伯
圖/ 數位時代

AI都這麼強了,為什麼還要先做資料治理?

台灣數位安全發展協會的核心主張是:好的資料分析,從好的資料治理開始。所謂資料治理,就是把散落在各平台、格式不一的碎片資料,整理成來源清楚、格式一致、可以互相比對的資料。協會先確認每筆公開資料的來源、時間、權限、版本與隱私,再標上事件分類、風險評估、曝光平台、投放者與網址等標籤,才能找出彼此關聯、還原詐騙網絡。

根據協會的實證簡報,系統在一段監測期間內掃描309.5萬則廣告,通報62.8萬則(約占20%),投放當日偵測率達99.21%。劉彥伯也提到,協會與資安院、數位發展部在打詐通報查詢網的合作中,判斷率接近百分之百。

那還需要人嗎?答案是需要。現行法律仍要求有人為判斷結果背書負責,加上詐騙劇本會隨被害人的回應即時調整,因此協會讓AI處理九成多的工作,最後由人做判斷。

截圖不能當證據?b-JADE如何替詐騙證據貼上「封條」

在AI改圖越來越容易的今天,單純截圖很難在法庭上證明自己沒被竄改過。劉彥伯的比喻是:截圖比較像「我那天真的看過,還拍了一張照片」;可信存證則是把證物放進有封條、有時間、有編號、有保管紀錄的證物袋,「重點不是有沒有留下東西,而是未來能不能驗證這是不是當時那一份」。

這也是b-JADE派上用場的地方,但並不是把所有資料都放上區塊鏈。協會把原始資料與AI分析結果,保存在權限受管控的系統裡,只把每份資料的「數位指紋」交給b-JADE存證。數位指紋的特性是,內容只要有任何改動,指紋就會完全不同,因此能證明資料沒被動過;需要時,再經授權調閱原始資料,兼顧隱私與驗證。依b-JADE規範盤點,協會既有流程已符合19項要求,其餘7項缺口也逐步補強,例如存證時間改採具公信力的標準時間來源,不再依賴電腦本機。

防詐能從事後追查走向事前預警嗎?

可以,協會正把存證從被害人受騙後,往前推到「主動式上鏈」:AI判定高風險的內容,先一步蒐集存證,不必等到有人受害。

小農是第一個場景。許多消費者在網路上支持小農,錢最後卻流進冒名的詐騙集團。協會因此與農業部合作推出「農本人」系統,讓小農自行登錄銷售管道與社群帳號形成白名單,再結合AI蒐集的黑名單,一旦遭冒名就能第一時間發現並報案。這套模式未來也可延伸至網路霸凌、性私密影像等案件。

制度面也在加速。2026年8月,司法聯盟已開設認證專班,邀集司法院、法務部、高檢署、調查局與警政署相關人員受訓,相關存證應用預計明年正式推出,時程仍待聯盟拍板。

劉彥伯坦言,目前從蒐集、分案到下架的流程仍然冗長,技術正好能在保留人為背書的前提下縮短流程。他在《數位關鍵字》節目尾聲留給聽眾的一句話是:「數位安全不只是技術工具,也涉及資料的可信、法遵治理與跨領域合作。」當AI幫人更快找到線索,經得起驗證的資料,將讓每一位被害人在法庭上多一分底氣。

台灣數位安全發展協會
台灣數位安全發展協會理事長劉彥伯認為,可信存證的重點不是留下東西,而是未來能被驗證。
圖/ 數位時代

常見問答
Q1:詐騙廣告被下架後,還能當作證據嗎?
A:若事前沒有保存,下架後就很難追溯。台灣數位安全發展協會建議在內容消失前,保存投放帳號、代理商、投放時間、運作國家與網址等數位足跡,日後才能據以向平台請求調閱。

Q2:手機截圖可以當作詐騙證據嗎?
A:截圖只能證明「看過」,難以證明未被竄改。在AI改圖越來越容易的情況下,透過數位指紋與具公信力的時間紀錄進行可信存證,才能在日後驗證資料是否為當時的原始版本。

Q3:什麼是b-JADE司法聯盟鏈?
A:b-JADE是以區塊鏈為基礎的司法存證機制,只有通過程序認證的單位才能提供上鏈服務。台灣數位安全發展協會的做法是只將資料的數位指紋上鏈,原始資料另行保存在權限受管控的系統,兼顧隱私與驗證,目標是降低訴訟舉證成本。

Q4:AI可以完全取代人工判斷詐騙嗎?
A:目前不行。依台灣數位安全發展協會的做法,九成以上的蒐集與分類工作可由AI完成,但現行法律仍要求由人做最終判斷,並為結果背書負責。

Q5:小農要如何預防被冒名詐騙?
A:可登錄台灣數位安全發展協會與農業部合作的「農本人」系統,自行提交銷售管道、粉絲專頁與LINE帳號建立白名單,搭配AI主動蒐集的黑名單,遭冒名時能第一時間發現並報案。

完整對談請收聽《數位時代》Podcast《數位關鍵字》EP264。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓