過去300年，科技文明發展的軸向大約循著三條軌跡。

在原子領域（物質世界）的科技創新，如火車、汽車、飛機的發明，改變了人類移動的方式。電報、電話、收音機、電視，增加了人與人之間通訊的選項。從此以後，人與空間的關係產生了重大的典範轉移。

在細胞領域（生物世界）的創新遠為緩慢，從盤尼西林的發明到今天，還不到100年，但在這100年間，人類平均壽命增加了25年，地球人口從20億成長到70億，這都歸功於物質生活條件的改善和醫療水準的進步。

位元領域（概念世界）的科技發明起步更晚，但後勁十足。由於計算能力的進步，以工具開發工具，科技發展的速度開始呈指數成長，加上數位帝國企業富可敵國的人才和財富，連帶推動了原子和細胞領域的創新速度。

雖然多數人同意科技都是兩面刃，隨其利必有其弊，但大體而言，過去300年的創新，無論在原子、細胞或位元領域，多是利多於弊，或利為顯性，弊為隱形，利與弊並不對稱。這些輝煌的科技成就養成了多數人「科技至上」的樂觀態度，認為即使科技創新有其弊患，解決的方法唯有靠更多更完善的創新。

這種無條件擁抱科技的樂觀態度，可以稱之為「科技至上主義」。擁護者以矽谷的新創公司為代表，其中最具指標性的人物便是臉書的執行長祖克柏。

逐漸失控的「資訊戰」

100年前，科技創新的利與弊具有顯著的不對稱性，利多弊少，擁抱科技自然義無反顧。 例如飛機失事固然造成無可挽回的災難，但沒人因此拒絕搭機旅行的快速方便。80年前，進入核能科技發展的領域時，科學家開始有了憂慮，核能災難一旦發生，其後果比空難事件嚴重千萬倍。等到最近3D製造技術的進步，雖然增加了少量多樣製造的彈性，但網路上任何人可以免費下載致命槍枝（例如AK47）的3D打印檔案，科技的利弊指針又向弊的方向跳動了一格。

有一天，如果創新帶來的貢獻和風險對稱，利與弊相當，創新還有什麼意義？ 這一天也許還沒有到來，但若觀察最近科技進展帶來的威脅，也該開始杞人憂天了。

2011年時，臉書被視為開啟「阿拉伯之春」的功臣，結果春天未曾來臨，反倒提高了許多國家的警覺，開始建立龐大的網軍。美國安全局（National Security Agency）一年經費100億美金，中國早早便成立了人民解放軍61398部隊，2017年台灣在陸海空軍之外也成立了第四軍種「資通電軍」。未來資訊戰爭的對抗，必然像當年核武競賽，衝突只會升高，不會降低。

資訊戰雖然不像核武具有毀滅性的殺傷力，卻對擾亂社會秩序、製造族群衝突具有更大的破壞力。 控制核武的擴散，國際間還有談判或制裁的機制，至於如何節制跨國的資訊戰，目前還沒有適當的下手解決之道。

由於互聯網的分散性，以及民主國家對言論自由的保障，許多具有強烈意識情結又擁有龐大財務資源的個人，也能結黨造勢。例如幾個月前被臉書查出散佈煽動性言論的英國數據公司劍橋分析（Cambrdige Analytica），其後台財務支持者便包括美國十億級富翁 Robert Mercer。已離職的川普政府策略長Steve Bannon是一位極右份子，他曾經擔任劍橋分析的副總裁。經過英國記者Carole Cadwalladr的深入調查，已經證明劍橋分析跟英國脫歐運動、2016年川普競選、以及俄羅斯參與攪和都脫離不了關係。可見在資訊的無限傳播能力之下，一人之力，已經可以動搖國本。

像臉書、Instagram、Twitter， Snap這些社群媒體平台，99.999%的使用者都在免費享受它的便利，跟親近的家人朋友即時互通訊息，也造就了臉書這個市值5千億美金的數位帝國。然而為了這些須臾片刻的溫馨感受，民主社會需要付出多大的代價？ 如何能夠透過科技，設計出令人放心的安全閥，預防各種已知或未知的威脅？

如果AI不再乖乖聽令

由於硬體計算能力的飛速進步，人工智慧的威脅也隨之接近引爆點。 姑且不論人工智慧對就業市場帶來的根本衝擊，擁抱AI的樂觀主義者，只看到它種種可以協助解決複雜問題的潛力，卻忽略了一個弔詭：解決問題的能力越強，製造問題的能力也越強。

問題的產生有兩個來源。一是具有破壞意圖的人存心利用。 這些人躲在暗處，不必遵守道德或法律的規範，他們操作的空間遠比循規蹈矩一心想用AI為人類造福的人士更為寬廣，意志也更為堅定，不達到破壞的目的，絕不輕易中止。

第二個來源是難以完全避免的內建系統失誤。 AI 不免需要建立系統模型，設想種種可能發生的狀況，設計演算法（algorithm），再進行模擬測試。但在黑天鵝的極端狀況下，AI將如何反應便難以預測，不無可能造成災難。事實上，當我們希望機器的人工智慧（AI）越高，人類智慧（HI）參與的成份便越低；HI成份越低，便越不能預測AI的反應，也可以說，AI的反應也就越難被人類的尋常智慧所預測了。

AI加上了物聯網（IOT），自動化或智能化是未來十年必然的潮流。無論工業4.0、機器人、無人駕駛交通工具（車、船、或是空中計程車）、智能家庭、智慧城市，都必須靠環環相扣的一連串自動反應才能順利運作。當一切正常時，人類也省了所有的心思，萬事都有機器人或人工智慧打點，但中間如果有一個環節出了小差錯，整個系統也可能為之完全癱瘓。換句話說，越是自動化，系統故障的代價越大，重新啟動的成本越高。

游擊隊遠比正規軍難以殲滅，恐怖份子永遠不會被武力剷除。當取得破壞工具的門檻越低，恐怖份子就更容易得逞，即使實質傷害不大，社會卻經常籠罩在恐懼的陰影之下。試想：一架可以飛行一個小時的小型無人機，裝備了精準的GPS定位和人臉辨識軟件，攜帶致命武器，在幾公里之外便可以執行殺人任務。這已經不是科幻小說，可是現代社會準備好了嗎？可有適當的反制機制？

做好事簡單，「不做壞事」卻很難？

雖然風險難以掌控，在激烈競爭和經濟誘因之下，創新不可能停滯。因此有必要重新思考創新：21世紀的創新，跟前300年的創新，會有什麼不同？

首先我們必須揚棄科技至上主義，承認低垂的科技果實已經被摘完，剩下位在高處的果實，有的可能苦澀，有的摘取成本太高，有的可能具有「始料未及的後果」（unintended consequences）。 因此在開發技術之前，應該戒慎恐懼，不能只將目光焦點放在創新的利益，而應該儘早加入各種機會成本和外部成本（external cost）的計算。

但還有一項後果很難放在成本估算之內，那就是災難性系統失敗的後果，以及如何預防其發生。在系統設計上，可以將之想像為機器人三定律的第一條：「機器人永遠不會傷害人類」，如果能夠將類似的原則內建在系統內，在任何災難性毀滅發生前，有一個自我癱瘓的功能，便可以避免災難發生。然而這將對創新的設計造成極大的挑戰，而且可能增加難以負擔的生產及營運成本。

另外，有些科技創新的功能是修復、縫合、再生，有些是破壞、傷害、消耗。有些科技創新可以增進人與人之間的了解，有些卻被用來在人群間製造分化，樹立高牆。有些創新能夠醫治癒合，有些卻在殺傷毀滅。未來的創新競爭裡，如果我們將研發的資源導向在前者，「多做好事」（doing more good），自然會「少做壞事」（doing less harm）。

然而在巨大商業利益以及贏者全拿的競爭環境下，「少做壞事」比「多做好事」更為困難。谷歌從創業開始便標榜「不做惡事」（Don't be evil），但在今年五月已悄悄將這個口號從公司員工行為手冊中拿掉。3個月後，谷歌便宣佈重回中國，提供特別版的搜索引擎。

2015年，印裔美籍作家Anand Giradharadas曾經在美國老牌人文智庫阿斯本研究院（Aspen Institute）給了一個演講，提出了美國大企業或是企業家雖然爭相在企業外部做好事，然而在企業內卻吝於做該做的事。例如有企業家捐錢給慈善組織訓練非洲年輕人編寫程式，卻不願在公司內雇用弱勢員工。食品公司捐錢給小學，卻大力行銷導致孩童肥胖的垃圾食物。

Anand Giradharadas將這種寧願多做好事、不肯承諾少做壞事的企業共同心態稱為「阿斯本共識」（Aspen Consensus）。為什麼有這種心態？原因很簡單，做好事容易，因為競爭獲勝後才需付出，少做壞事難，因為擔心失去競爭力。

阿斯本共識既然是企業經營的共同心態，企業的創新自然根據同樣的指導原則，只看到創新帶來的商業機會，卻對技術散播之後的可能弊患閉上一隻眼睛。長此以往，創新的利與弊恐怕會逐漸趨向平衡。

從事創新者，有人為了經濟利益，有人為了改變世界，有人純粹為了證明「我可以辦到」。無論動機為何，21世紀的科技創新已經進入深水區，只有開展新的思維，一面對創新之利，力求跳躍式的進步，一面對創新之弊，如臨深淵如履薄冰，不冒任何難以承擔的風險，這樣才能拉大創新利與弊的比例。否則，如果利弊相當，這樣的創新並不令人期待。

本文由鄭志凱授權轉載自其獨立評論＠天下專欄。

《數位時代》長期徵稿，針對時事科技議題，需要您的獨特觀點，歡迎各類專業人士來稿一起交流。投稿請寄edit@bnext.com.tw，文長至少800字，請附上個人100字內簡介，文章若採用將經編輯潤飾，如需改標會與您討論。

（觀點文章呈現多元意見，不代表《數位時代》的立場。）