[李開復]人工智慧對人類真正的威脅是什麼?
[李開復]人工智慧對人類真正的威脅是什麼?
2016.03.10 | 科技

圖說明
圖說:電影《瓦力》劇照。

本文為《數位時代》授權轉載自李開復Facebook

昨天AlphaGo第一盤棋戰勝了李世乭,激起了各種「機器超越人類,科幻小說將成真」的討論。特別有趣的是有人揣測AlphaGo下面會不會故意輸下幾盤棋,以免人類起疑心,阻擋了它統治人類的野心。其實,雖然機器在邏輯分析推算方面,能力會遠超人類,但是依然是屬於人類操控的工具 。AlphaGo這類的「人工智慧」機器真正可能帶來的危機,不是奴役人類,而是讓人類喪失鬥志,無所事事。

有些人描述AlphaGo是「和人用一樣的方式思考,但是比人的速度快無數倍」。這麼說並不精確。AlphaGo確實比人快無數倍,但是AlphaGo的思考只能說是「被人的大腦啟發」,而非和人類思考一樣。AlphaGo是一個能自我學習的深度學習,經過專家的調節,它可以在任何能夠純憑邏輯分析推算的問題上,把人類遠遠拋在背後。機器速度會越來越快,學習能力會越來越強,數據會越來越多。

基於深度學習的人工智慧將帶來什麼改變呢?我們將看到無數的商機和產品,能夠解決問題、拯救生命、產生巨大的商業和用戶價值。未來, 自動交易能得到更高的投資回報和風險比例,自動診斷+基因排序會達到個性化精準醫療,推薦引擎將能推薦你最可能會買的產品、想吃的菜,想認識的人。在擁有大數據+大計算+專家調節的領域,就不必再跟人類相比了,因為人類根本差的太遠了(就像沒有人能打敗搜尋引擎一樣)。

這些技術可能輔助專家,也可能取代專家。非專家的工作者很多將會面臨失業。未來十年,大部分今天的人類工作可被機器取代。機器將取代許多的護士、記者、會計、 教師、股理財師等工作。任何帶有「助理」、「代理」或「經紀」等字樣的職位都很可能被取代。 這些機器不需要薪水, 只需要供電和網路,就會一年365天,一天24小時「上班」。這些機器將幫助我們創造世界上大部分的財富。

雖然這些機器確實很「聰明」,而且又高效、勤奮、低廉,但是他們並不「人性化」,只是冷冰冰的機器和工具。比如說,AlphaGo第一場就戰勝了李世石,但是它並不會感到高興,也不會理解我們對於它的討論。甚至,它說不上這局棋是怎麼贏的。因為,它的思考雖然周密,但是它不懂「贏了有什麼感受?」, 也不懂「為什麼圍棋好玩」,更不懂「人為什麼要下棋?」,甚至連「你今天怎麼贏的?」都說不上。

今天的機器完全無法理解人的情感、喜怒哀樂、七情六慾、信任尊重、 價值觀等方面 。對於人文藝術、美和愛、幽默感,機器更是絲毫不懂。有位AI研究員做了一套研究幽默感的系統,然後輸入了一篇文章,這個系統看了每句話,都說「哈哈」! 今天的機器連個兩歲小孩都不如。對人工智慧的研究者,這應該是一大未來的挑戰。

所以,今天這些機器僅僅是我們的工具,會為我們創造價值。至少今天,我們不必擔心人工智奴役我們(不過要盯好擁有機器學習+大數據的公司,別來作惡傷害用戶)。那我們該擔心什麼呢?這些強大的機器,將帶來人類能否度過有史以來最大的「失業潮」。這次的「機器取代人類」將遠超過去的工業革命和信息革命。不過,失業還不是最可怕的, 因為這些機器會產生巨大的商業價值,養活著這些失業者,進而養活著人類。人類最應該擔心的是:一旦當機器供養著人類,人類達到了馬斯洛需求的基本需求,人類真的還會有動力去追求更宏偉的目標,自我實現嗎?還是會醉生夢死、無所事事地活著?

面對這個擔心,我們應該:

  1. 關注啟發式教育,用互動式教育啟發孩子對學習的興趣和效率。AlphaGo願意跟人類學習,我們當然也要善用最善於分析,最博學的機器。善於學習,樂於學習的孩子,是不會醉生夢死的。

  2. 正視發育右腦的學科領域,平衡文理。塞翁失馬,焉知非福?機器超越人類的左腦(工程邏輯思維),也許就是要人類從過去幾十年重視理工,傾斜回來,花更多的精力在機器不擅長的右腦,例如: 文學詩歌、藝術音樂、電影話劇、文創設計、工匠之美、宗教哲學、溝通情商。這不是說就不要學理工了,而是說應該讓適合理工,愛好理工的人學理工,適合人文,愛好人文的人學人文。我們應該平等看待文理,並且鼓勵發展文理雙全的人才。

  3. 鼓勵有上進心的年輕人挑戰自己,孜孜以求,成為專才。不要把時間浪費在「安穩」但是重複性的工作上,而要以「成為某個特殊又有用領域的最頂尖人才」為目標、為己任。

關鍵字: #李開復 #AlphaGo
往下滑看下一篇文章
從智慧助手到自主代理:博弘雲端如何帶領企業走上 AI 實踐之路
從智慧助手到自主代理:博弘雲端如何帶領企業走上 AI 實踐之路

「代理式 AI 」(Agentic AI)的創新服務正在重新塑造企業對AI的想像:成為內部實際運行的數位員工,提升關鍵工作流程的效率。代理式AI的技術應用清楚指向一個核心趨勢:2025 年是 AI 邁向「代理式 AI」的起點,讓 AI 擁有決策自主權的技術轉型關鍵,2026 年這股浪潮將持續擴大並邁向規模化部署。

面對這股 AI Agent 浪潮,企業如何加速落地成為關鍵,博弘雲端以雲端與數據整合實力,結合零售、金融等產業經驗,提出 AI 系統整合商定位,協助企業從規劃、導入到維運,降低試錯風險,成為企業佈局 AI 的關鍵夥伴。

避開 AI 轉型冤枉路,企業該如何走對第一步?

博弘雲端事業中心副總經理陳亭竹指出,AI 已經從過去被動回答問題、生成內容的智慧助手,正式進化為具備自主執行能力、可跨系統協作的數位員工,應用場景也從單一任務延伸至多代理協作(Multi-Agent)模式。

「儘管 AI 前景看好,但這條導入之路並非一帆風順。」博弘雲端技術維運中心副總經理暨技術長宋青雲綜合多份市場調查報告指出,到了 2028 年,高達 70% 的重複性工作將被 AI 取代,但同時也有約 40% 的生成式 AI 專案面臨失敗風險;關鍵原因在於,企業常常低估了導入 GenAI 的整體難度——挑戰不僅來自 AI 相關技術的快速更迭,更涉及流程變革與人員適應。

2-RD096270.jpg
博弘雲端事業中心副總經理陳亭竹指出,AI 已經從過去被動回答問題的智慧助手,正式進化為具備自主執行能力、可跨系統協作的數位員工。面對這樣的轉變,企業唯有採取「小步快跑、持續驗證」的方式,才能在控制風險的同時加速 AI 落地。
圖/ 數位時代

正因如此,企業在導入 AI 時,其實需要外部專業夥伴的協助,而博弘雲端不僅擁有導入 AI 應用所需的完整技術能力,涵蓋數據、雲端、應用開發、資安防禦與維運,可以一站式滿足企業需求,更能使企業在 AI 轉型過程中少走冤枉路。

宋青雲表示,許多企業在導入 AI 時,往往因過度期待、認知落差或流程改造不全,導致專案停留在測試階段,難以真正落地。這正是博弘雲端存在的關鍵價值——協助企業釐清方向,避免踏上產業內早已被證實「不可行」的方法或技術路徑,縮短從概念驗證到正式上線的過程,讓 AI 真正成為可被信賴、可持續運作的企業戰力。

轉換率提升 50% 的關鍵:HAPPY GO 的 AI 落地實戰路徑

博弘雲端這套導入方法論,並非紙上談兵,而是已在多個實際場域中驗證成效;鼎鼎聯合行銷的 HAPPY GO 會員平台的 AI 轉型歷程,正是其最具代表性的案例之一。陳亭竹說明,HAPPY GO 過去曾面臨AI 落地應用的考驗:會員資料散落在不同部門與系統中,無法整合成完整的會員輪廓,亦難以對會員進行精準貼標與分眾行銷。

為此,博弘雲端先協助 HAPPY GO 進行會員資料的邏輯化與規格化,完成建置數據中台後,再依業務情境評估適合的 AI 模型,並且減少人工貼標的時間,逐步發展精準行銷、零售 MLOps(Machine Learning Operations,模型開發與維運管理)平台等 AI 應用。在穩固的數據基礎下,AI 應用成效也開始一一浮現:首先是 AI 市場調查應用,讓資料彙整與分析效率提升約 80%;透過 AI 個性化推薦機制,廣告點擊轉換率提升 50%。

3-RD096215.jpg
左、右為博弘雲端事業中心副總經理陳亭竹及技術維運中心副總經理暨技術長宋青雲。宋青雲分享企業導入案例,許多企業往往因過度期待、認知落差或流程改造不全,導致專案停留在測試階段,難以真正落地。這正是博弘雲端存在的關鍵價值——協助企業釐清方向,避免踏上產業內早已被證實「不可行」的方法或技術路徑,縮短從概念驗證到正式上線的過程,讓 AI 真正成為可被信賴、可持續運作的企業戰力。
圖/ 數位時代

整合 Databricks 與雲端服務,打造彈性高效的數據平台

在協助鼎鼎聯合行銷與其他客戶的實務經驗中,博弘雲端發現,底層數據架構是真正影響 AI 落地速度的關鍵之一,因與 Databricks 合作協助企業打造更具彈性與擴充性的數據平台,作為 AI 長期發展的基礎。

Databricks 以分散式資料處理框架(Apache Spark)為核心,能同時整合結構化與非結構化資料,並支援分散式資料處理、機器學習與進階分析等多元工作負載,讓企業免於在多個平台間反覆搬移資料,省下大量重複開發與系統整合的時間,從而加速 AI 應用從概念驗證、使用者驗收測試(UAT),一路推進到正式上線(Production)的過程,還能確保資料治理策略的一致性,有助於降低資料外洩與合規風險;此對於金融等高度重視資安與法規遵循的產業而言,更顯關鍵。

陳亭竹認為,Databricks 是企業在擴展 AI 應用時「進可攻、退可守」的重要選項。企業可將數據收納在雲端平台,當需要啟動新型 AI 或 Agent 專案時,再切換至 Databricks 進行開發與部署,待服務趨於穩定後,再轉回雲端平台,不僅兼顧開發效率與成本控管,也讓數據平台真正成為 AI 持續放大價值的關鍵基礎。

企業強化 AI 資安防禦的三個維度

隨著 AI 與 Agent 應用逐步深入企業核心流程,資訊安全與治理的重要性也隨之同步提升。對此,宋青雲提出建立完整 AI 資安防禦體系的 3 個維度。第一是資料治理層,企業在導入 AI 應用初期,就應做好資料分級與建立資料治理政策(Policy),明確定義高風險與隱私資料的使用邊界,並規範 AI Agent「能看什麼、說什麼、做什麼」,防止 AI 因執行錯誤而造成的資安風險。

第二是權限管理層,當 AI Agent 角色升級為數位員工時,企業也須比照人員管理方式為其設定明確的職務角色與權限範圍,包括可存取的資料類型與可執行的操作行為,防止因權限過大,讓 AI 成為新的資安破口。

第三為技術應用層,除了導入多重身份驗證、DLP 防制資料外洩、定期修補應用程式漏洞等既有資安防禦措施外,還需導入專為生成式 AI 設計的防禦機制,對 AI 的輸入指令與輸出內容進行雙向管控,降低指令注入攻擊(Prompt Injection)或惡意內容傳遞的風險。

4-RD096303.jpg
博弘雲端技術維運中心副總經理暨技術長宋青雲進一步說明「AI 應用下的資安考驗」,透過完善治理政策與角色權限,並設立專為生成式 AI 設計的防禦機制,降低 AI 安全隱私外洩的風險。
圖/ 數位時代

此外,博弘雲端也透過 MSSP 資安維運託管服務,從底層的 WAF、防火牆與入侵偵測,到針對 AI 模型特有弱點的持續掃描,提供 7×24 不間斷且即時的監控與防護。不僅能在系統出現漏洞時主動識別並修補漏洞,更可以即時監控活動,快速辨識潛在威脅。不僅如此,也能因應法規對 AI 可解釋性與可稽核性的要求,保留完整操作與決策紀錄,協助企業因應法規審查。

「AI Agent 已成為企業未來發展的必然方向,」陳亭竹強調,面對這樣的轉變,企業唯有採取「小步快跑、持續驗證」的方式,才能在控制風險的同時,加速 AI 落地。在這波變革浪潮中,博弘雲端不只是提供雲端服務技術的領航家,更是企業推動 AI 轉型的策略戰友。透過深厚的雲端與數據技術實力、跨產業的AI導入實務經驗,以及完善的資安維運託管服務,博弘雲端將持續協助企業把數據轉化為行動力,在 AI Agent 時代助企業實踐永續穩健的 AI 落地應用。

>>掌握AI 應用的新契機,立即聯繫博弘雲端專業顧問

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
2026 大重啟
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓