艾西莫夫機器人預言Part2：為什麼你不安分做個人類就好？|數位時代 BusinessNext

續上篇：[艾西莫夫機器人預言Part1：機器人會知道自己被奴役嗎?][1]

艾西莫夫的創作詳細探討了機器人的心理和感情，透過他的預言，或許可以揣想當機器人具備高度人工智慧時，我們將會碰上什麼樣的倫理議題？

##議題1：有意識的機器人，該不該被賦予公民權？

艾西莫夫的小說《雙百人》中，譜出了一段浪漫感人的機器人故事。一個活了200歲的「人瑞機器人」，有著豐沛的情感，意識到自己的不同，它畢生不斷尋找生命的意義。

既然不是一個自然的生命，但卻擁有情感、自由意志、創作能力，那它是什麼？不忍心不停看著自己深愛的人類朋友、愛人一個個辭世離他而去，於是它花了許多心力，想將自己變成人，後來它如願擁有人類的外貌和器官，能與相愛的人類共同生活，同時也放棄了機器人「永生」的權利。

![圖說明][2] (盧諭緯攝影)

在愛人生命倒數的時刻，它將自己變成百分之百的人類組織，預計與她一同老化、死亡。在政府宣判最後結果，承認他們的婚姻，並終於認證它的人類身分時，它已悄悄離世。而它的愛人在聽完宣讀後，也隨後帶著滿足笑容辭世。這樣特殊的機器人，有著人類的情感，它也不斷向政府伸張自己的「人權」。

這個故事固然過於虛構、遙遠，但關於故事中機器人生命權、財產權甚至是通婚權的探討，卻是我們可以設想面對的。機器人當然沒有靈魂，這是無庸置疑的，但是機器人的「人性」卻有可能來自於它對行為的抉擇。當我們有一天認同它人性的那一部分，有沒有可能進一步賦予機器人靈魂？

就像現在的動物有生命權，是因為我們認同動物的生命和自由意志，所以法律禁止虐待動物。會不會有一天我們會對機器人有不同的情感認知，覺得殺機器人是犯法的？或者機器人權也應該受到重視？當我們覺得機器人的存在已經威脅到人類時，還可以隨意銷毀它嗎？

如果機器人不小心造成人類性命傷亡，那責任過失歸屬又該如何？是由機器人製造公司、保險公司還是機器人的主人面對？強大的人工智慧機器，終將衝擊我們對道德倫理的認知。

##議題2：凌駕三大法則之上，機器人或將成為人類的主宰？

即便有三大法則的存在，在艾西莫夫描繪的未來世界中，人類對於機器人卻是愈發的恐懼。起初機器人只被用在專業的工作環境中，漸漸的，當機器人充斥在人類一般生活中時，人類一方面希望機器人能有充分的智慧、理性的判斷能力，一方面又害怕他們將取代人類的存在。

雖然機器人學三大法則是用來保障人類安全，但卻存在了許多邏輯漏洞。像是機器人如何定義、判別人類？當兩個人類的指令互相衝突時，機器人要如何透過天分、智慧、對社會有用的程度、成熟度、社會責任感等抽象價值，來決定服從哪個指令，才會造成最小的損失？

![圖說明][3] (林衍億攝影)

如果下指令的人心智有問題，或者他是小孩、有人格缺陷的罪犯、外行人，根本不知道自己的命令會造成什麼後果，機器人如何決定是否服從？當服從的行為必須牽涉到機器人的判斷能力時，是否代表機器人有權利判斷誰是「次等人類」？

艾西莫夫設想的最極端狀況，是有一天機器人會發現自己的心智、品格、學識等各方面都超越了所有人類，比一般人類還要完美無缺，屆時他們會不會為了第一法則中「不使人類受到傷害」這個最高指導原則，起身主宰這個世界，以將人類納入保護的羽翼之下？

##議題3：真假難辨的人形機器人，你不恐懼嗎？

機器人與人類在外表、動作上相似，例如有頭部、四肢，就像真人一樣，因此人類會對「越像人類」的機器人產生正面的情感，這也是為什麼人形機器人一直是科學界最熱門的研究主題之一。但是當機器人的外觀真的像人像到一定程度，有皮膚、有毛髮，甚至還穿著衣物時，看著這樣的東西，你不害怕嗎？

1970年代，日本機器人學家森政弘曾提出著名的「恐怖谷理論」，講的就是人類對於與人相似到特定程度的機器人，會產生排斥、焦慮等反應。

艾西莫夫寫作的年代，固然尚未出現恐怖谷理論的假設，但他也充分利用與人相似度極高的人形機器人，寫出光怪陸離的故事——當機器人高度擬人化時，首當其衝的，便是會混淆我們對於真假人類的判斷。

艾西莫夫將這個問題的嚴重性拉高到國安層級。一位魚目混珠的人形機器人，有可能是任何人的化身，他可以化身為情報員，做為敵對國家的間諜，對國家的情報單位放送錯誤的假消息；他甚至可以替代總統的存在，用絕對的理性和智慧統治國家，而人民不會意識到自己正被一位機器人統治。如今科學家莫不以製造出高度仿真的人形機器人為傲，但究竟是否有其必要？

##議題4：機器人想要「血肉之軀」，人類卻想要「鋼」強器官？

追求更長壽的性命，甚至是永生不死，一直以來是人類最古老的慾望。機器人的物理強度和金屬般的持久性，某一部分也乘載了人類的想望。

艾西莫夫在《分離主義者》這篇故事中，透過一位擔任外科醫師的機器人與人類在手術檯上的對話，呈現了荒謬怪誕的情節。人類病患堅稱他想要安裝一顆最貴、最好的金屬電腦心臟，機器人醫師卻不解：「為什麼你不安分做個人類就好？」

在人類追求延長壽命，將自己的身體都電子化時，機器人卻想擁有血肉之軀。他們想將內部換上纖維元件、被輸入血液系統——他們想像個有血有肉的「人」。

或許機器人的存在能讓人類看到自己的極限，理解到原來人類並非無所不能，看著機器人，也許我們會惆悵、會嫉妒，但也或許我們會學著更理解並珍惜造物主所創造的生命。

@@ACTIVITYID:441@@ [1]: http://www.bnext.com.tw/article/view/id/37412 "艾西莫夫機器人預言Part1：機器人會知道自己被奴役嗎?" [2]: https://3.bp.blogspot.com/-k0wyZPZHh-Y/Vfu4dD4QtxI/AAAAAAABPaM/jU2Ebzoo2dM/s600/MWC2015-SK%25E6%25A9%259F%25E5%2599%25A8%25E4%25BA%25BA.JPG "圖說明" [3]: https://3.bp.blogspot.com/-QcGBrwHlXRI/Vfu7JWr0AJI/AAAAAAABPak/iUIioal7-yQ/s600/%25E6%25A9%259F%25E5%2599%25A8%25E4%25BA%25BA%25E5%25B1%259520140801%25E6%259E%2597%25E8%25A1%258D%25E5%2584%2584%25E6%2594%259D.jpg "圖說明"

隨著微軟、Google、AWS 等巨頭紛紛喊出「AI Agent將接管工作流程」，企業營運已正式宣告進入 AI 代理人時代。在可預見的未來，真人員工將與大量 AI Agent 協同工作，而企業也將面臨新的挑戰—如何規模化部署與管理這些 AI Agent。

對企業來說，打造一隻 AI Agent 並不難，但當企業需求的是數十、甚至數百隻 Agent 時，該如何快速招募、有效管理，並確保每位 AI 員工都遵循企業的權限規範與治理機制，成了普遍的落地痛點。對此，SUPER 8 Studio 雲發互動科技創辦人暨執行長陳子龍認為，解方就在於一套兼顧開發效率與治理能力的平台。

從招募一位 AI 員工，到管理一支 AI 團隊

陳子龍觀察，市面上的 AI Agent 開發工具多半要自行寫程式、設計工作流程或串接 API，且缺乏權限管理、流程控管與稽核追蹤等治理機制，導致企業無法大規模部署。

也因此，SUPER 8 Studio 推出能建立企業 AI 員工團隊的平台 – ORRA，使用者不需撰寫程式，只要以自然語言描述需求，例如：我需要一個每天整理競品動態、9 點前發到通訊軟體的 AI 員工，或依照 ORRA 平台引導回答三個問題，也就是 AI 員工的權責範圍、日常工作內容及角色定義，ORRA 就會生成一個已經設定好角色、權限與工作流程的 AI 員工，並於半小時內完成調校與部署，且每位 AI 員工都能在相同的治理框架下運作。

換句話說，ORRA 不是 Agent 開發工具，而是建立企業 AI 團隊的平台。企業需要什麼樣的 AI 人才，ORRA 就能快速打造符合需求的 AI 員工。

#2 AI Agent 時代來了！SUPER 8 Studio ORRA 如何讓企業快速打造、治理

SUPER 8 Studio 推出能建立企業 AI 員工團隊的平台 - ORRA，企業免程式，以自然語言描述需求，生成具治理機制的 AI 員工團隊並快速部署。左起 SUPER 8 Studio 資深產品總監王婕、SUPER 8 Studio 雲發互動科技創辦人暨執行長陳子龍、SUPER 8 Studio 商務長陳之逵

圖／數位時代

招募只是開始，AI 員工更需要管理

招募只是第一步。真正決定 AI 員工能否進入企業日常營運的關鍵，在於治理。為此，ORRA 將治理機制納入平台設計，建立一套涵蓋角色定義、權限設定、測試驗證到持續優化的 AI 員工管理五階段。

第一階段是定義角色，如同招募人才前必須先寫好職務說明（Job Description），企業在尋找 AI 隊友前，也必須先清楚界定它的工作內容、責任範圍與目標，再進入招募階段。

通常具備「高頻率、重複性高」、「有明確輸入與輸出」、「可用數據評估品質」及「可以設定清楚權限與邊界」四項特性的工作，最適合作為 AI 員工的第一個應用場景。相反地，涉及財務匯款、人際互動、情感信任，或美感判斷等高風險、難以標準化的工作，則不應完全交由 AI 執行，而應保留 Human in the Loop 機制，由人在關鍵節點負責把關與決策。

第二階段則是設定權限邊界，包括 AI 員工可以存取哪些資料、串接哪些系統、哪些動作必須經過人工核准、產出結果是草稿還是可以直接上線等，避免因權限設定不清而超出職責範圍。

第三階段是進入沙盒（Sandbox）環境測試，AI 員工開發完成後，不能直接進入正式環境，必須先在可控的測試環境裡驗證能力。陳子龍形容，沙盒就像 AI 員工的專屬訓練室，在接觸真實資料與工作流程前，企業可以先觀察它如何完成任務、沒有 AI 幻覺、提示詞注入（Prompt Injection）等風險，再加以調整與修正，確認符合預期後，再讓它進入正式環境。

第四階段則是指派一位員工，擔任正在招募的 AI 員工的直接負責人：就是這位 AI 員工的主管，雖然不必盯著這位 AI 員工的每一個動作，但要檢視其是否達成既定 KPI、何時需要真人介入，以及是否需要調整工作內容，而非放任它自行運作。

與管理真人不同的是，AI 員工的每一次任務執行都會留下完整的數位軌跡與數據，以便負責人檢視 AI 員工的運作狀況與執行成果，了解 AI 員工有沒有出錯或做了超出權限的行為，如果有，也能進一步找出原因再思考解決方法。

最後一個階段，企業還必須像管理員工績效一樣，定期檢視 AI 員工的表現，包括品質、用量、成本、延遲、失敗案例等，若表現未達預期，便透過調整能力、重新訓練，甚至汰換更適合的 AI 員工，持續優化整體運作品質。

只有 1 名員工，卻有一支 AI 團隊：SecureTalk 的營運新模式

「在目前的亞洲市場中，我還沒有看到像 ORRA 一樣，能夠同時兼顧快速招募 AI 員工並能嚴謹治理的平台，」陳子龍強調。

ORRA 的核心價值，不只是讓每個人都能快速招募 AI 員工，更重要的是，將開發與治理整合於同一個平台，讓企業可以快速招募、部署與管理大量 AI 員工，加速建構出一支能被信任、能被管理的 AI 團隊。

新創團隊 SecureTalk 只有一名員工，卻能同時處理產品研發、銷售、行銷、出貨與客服等作業，背後靠的就是這樣一支各司其職的 AI 團隊。

陳子龍分享，ORRA 在正式發表前，曾邀請部份企業試用，SecureTalk 便是最早導入 ORRA 的合作案例之一。該公司的核心產品為 AI 離線語音辨識與翻譯工具，初期在群眾募資平台上架，目前已順利達標並進入出貨階段。在這過程中，該公司運用 SUPER 8 Studio 的 ORRA 平台招募多個不同職責的 AI 員工，例如：專責回答客戶問題的 AI 客服、協助解決客戶使用問題的售後 AI 客服等，與 SecureTalk 創辦人並肩作戰，撐起日常營運作業。

「以前什麼都得自己做，現在，人不必親自處理每一項工作，只要管理 AI 員工、確認任務完成就可以。」陳子龍表示，透過 ORRA，企業能快速建立一支分工明確的 AI 團隊，讓真人員工可以從大量重複、繁瑣卻不得不做的工作中抽身，轉而專注於產品創新、策略思考、與 AI 員工的協作管理，以及真正需要創造力、同理心與判斷力的工作。

#3 AI Agent 時代來了！SUPER 8 Studio ORRA 如何讓企業快速打造、治理

陳子龍表示，AI 時代最值得追求的方向，就是人擁有更多時間與心力投入對企業、社會與未來做有價值的事情，這正是 ORRA 誕生的初衷。左起 SUPER 8 Studio 商務長陳之逵、SUPER 8 Studio 雲發互動科技創辦人暨執行長陳子龍、SUPER 8 Studio 資深產品總監王婕

圖／數位時代

這不僅是他希望 ORRA 能為企業帶來的價值，也是 SUPER 8 Studio 提出的品牌使命—Infinite Power for Infinite Good。陳子龍表示，當 AI 能無限放大每個人的能力，人就有更多時間與心力投入對企業、社會與未來更有價值的事情，這正是 ORRA 誕生的初衷，也是 AI 時代最值得追求的方向。了解更多 https://no8.io/zh-tw/