去年年底才風光獲得公民身分的Sophia，卻在前幾天被「卷積神經網絡之父」Yann LeCun斥為一場騙局。這讓關於AI到底是否能夠「成為人」或「形成自我意識」的爭論再度成為焦點。

這不是騙局，什麼才是騙局？

先不論給予Sophia人類公民身分的，是沙烏地阿拉伯這個女性人權與公民權仍受壓迫的國家，這件事本身就荒謬地令人發笑（一個連「人」的權利問題都還搞不定的國家，反倒搶著給「非人」公民身分）。

如果你也看過那些Sophia與人互動的影片（例如她去Jimmy Fallon的Tonight Show），我想就算你不是什麼AI專家，應該也會懷疑Sophia真的「夠格」成為人類公民嗎？

我得先說，我不見得如李開復所說的，將Sophia獲得公民身分這件事視為是對人類最大的羞辱。但如果說Sophia的每次登台「演出」都得事先設定，否則其對話與互動的能力就會大失水準，而她卻又被「包裝」地彷彿跟人沒什麼不同，那麼，這不是騙局，什麼才是騙局？

總之是已經被騙了，至少我們得藉這個機會再想想，AI真的能「成為人」或「形成自我意識」嗎？當然，上述這個問題本身可能已經是一種化約，也就是將「形成自我意識」等同於成為人。不過，在有限的討論空間下，且讓我先這樣提問。

AI能形成自我意識嗎？

AI的發展之所以老是與「人」扯在一起，套一句Sophia的話，恐怕也是電影看太多的緣故。有太多的科幻電影都以AI與人的關係為題材，探討著理性、感性、身體、生命、情感、支配、自由等等重要的問題。

而認真說來，在我看過的有限的科幻電影中，特別處理了「自我意識」這個問題的，大概就是《奧圖瑪塔》跟《成人世界》這兩部。前者透過AI機器人開始會自我修復受損的身體，凸顯出它們開始有了自我意識；後者則是一位天才科學家開發出一套有著類似人類學習能力的AI，並實驗性地將其灌進某具本該報銷的機器人後，它卻陰錯陽差地「成長」為街頭混混的故事。

絕非湊巧地，這兩部電影裡的AI都是「有身體的」，《奧圖瑪塔》裡的機器人突破了設計原則開始維修「自己的」身體，《成人世界》的機器人查皮甚至會因為被火燒身、失去手臂，表現出（或感到）恐懼與痛苦。如果對照來看的話，一方面Sophia也有她的身體，但另一方面，Sophia的身體卻顯然笨拙，或者說了無生氣。

是的，雖然說科幻電影經常讓人不切實際地幻想高科技的未來，但許多時候它卻也精準地掌握了一些問題。在形成自我意識這個問題上，我們可以看到，「身體」至關重要。從社會心理學的角度來看，「自我」的形成是幾個過程作用下的產物。首先得有一個能夠想像地預演下一步行動的心智過程，而這意味著這個心智過程能夠理解「外在」的資訊進而「內在」地預想可能的行動後果；其次，「自我」形成於與他人的互動中。也就是說，在互動中，心智過程可以處理外在他人針對「自身」所釋放出的描述與評價訊息，進而心智過程便能夠形成關於「自我」的意識與想像。

換言之，正是因為有一個身體，他人的眼光、評價與描述才會在互動中指向同一個所在。因此，「自我」的形成就好像是一個迴旋的弧線一般，從「這裡」發射出去再從他人回返至原初起始的所在。這一迴旋的弧線讓「自我」得以從身體中誕生。說穿了，我們經常在說「要注意自我形象」時，為何總是第一直覺地看看自己的裝容打扮、言行舉止，正是這個原因。

而Sophia雖然有著令人驚豔的表情控制技術，但她的身體卻沒有表現出「自我」。這不是在說Sophia沒有「個性」（事實上她的言行還挺有的），而是在說，除了「有反應」的表情（但有時也會延遲反應）外，她的肢體動作往往是呆滯且無法相應於互動他者有所進退的。

換言之，你可以想像，上述我所謂形成自我的那道迴旋的弧線，在Sophia這裡，就算不是全然不存在，恐怕也是模糊不清的。因此，進一步說，AI是否可能形成自我意識？那就得看AI何時既能有進行想像預演的心智（運算）過程，又能有一個同時作為認知與行動起始點，及他人描述與評價回返原點的身體。

跳出人類中心思維

不過，我得再多說一點的是，這些老是把AI跟「人」扯在一起的討論，除了受科幻電影影響外，也不免是由於「人類中心主義」所致。

簡單來說，一方面有些人會認為這種比人更強大的科技，總應該是要以人（這個過去自視為萬物的頂點）為範型的放大與增強。另一方面，人類中心主義也表現在，我們焦慮於如果AI「不像人」，那我們可能控制它或與它「溝通」的可能性就更低了。當然更不用說，如果它「不像人」，人類未來又該如何承認其存在？

但是如果我們能先跳出人類中心主義的思維，想像AI發展的未來時，相較於有沒有「自我意識」，我反倒覺得AI是否能夠及是否應該「自主」的問題更為重要。在這裡，「自主」可以簡單定義為，能自行選擇目標、提出問題並尋求解答及採取行動。

換言之，當AI的發展實現「自主」時，這也意味著人類終於才切實地看清了科技不再（或說從未）受自己控制。至於之後的故事就沒人能知道了。

《機械公敵》的「人類保護計畫」會真實上演？還是會如《奧圖瑪塔》那樣，AI機器人將集體遠離終將自我毀滅的愚蠢人類？

《數位時代》長期徵稿，針對時事科技議題，需要您的獨特觀點，歡迎各類專業人士來稿一起交流。投稿請寄edit@bnext.com.tw，文長至少800字，請附上個人100字內簡介，文章若採用將經編輯潤飾，如需改標會與您討論。

（觀點文章呈現多元意見，不代表《數位時代》的立場。）