Google要向我們證明,AI機器人真的能像《西方極樂園》中那樣進行自主推理
Google要向我們證明,AI機器人真的能像《西方極樂園》中那樣進行自主推理
2016.10.13 | Google

如果真的可以讓機器人如熱門影集《西方極樂園》中那樣進行「自我覺醒」,你願意賦予他們權利嗎?

而現在,我們甚至還沒來得及思考,Google的超級團隊DeepMind就再一次證明,機器人的「自主推理」時代即將到來。

《西方極樂園》-westworld_hbo_tv_show.jpg
圖/ 《西方極樂園》劇照

具備推理能力的Google AI程式

據英國衛報報導,Google的科學家們最近又在實驗裡開發出了一套新的人工智慧系統,它可以利用簡單的推理能力對地鐵線路進行自主導航。

導航任務,一款簡單的app就可以完成,但推理?或許只有靈長類生物才能做到。

除了「推理地鐵線路」,這個計算機系統也能夠圍繞一些具有邏輯性的故事片段來回答問題,甚至可以根據一張家譜來判斷一個人的家族關係。

因此,科學家們預測:在未來,同樣的方法可以塑造一個更加聰明的虛擬助手——它不僅僅可以瞬間衝入網路的海量信息中搜尋答案,還能夠在「理解」問題的層面上進行精準回答。

德國不萊梅大學的一位計算機科學家Herbert Jaegar因此表示:

「我認為這可以被描述為一種理性推理能力。機器人的任務將包括規劃及構建信息模塊並將其重新排列組合。」

儘管任務本身看起來相對簡單,畢竟任意一款智慧手機的app都可以輕鬆為你按照地鐵示意圖規劃路線。然而,這項方案獲取結果的方式卻讓人印象深刻。實際上,這是全球第一種將外部記憶裝置(就是儲存器)與深度學習技術相融合的方案之一。在此基礎上,系統完全可以在不被人類預先設定規則的前提下學習如何獨立完成任務。

神經網絡與深度學習的強勢結合

儘管普通電腦可以處理各類複雜形式的數據,但卻需要開發者手動寫程式來執行這些任務。與此同時,人工神經網絡雖然可以像大腦一樣進行學習,從數據中識別模式,但其缺少儲存架構,無法對結構化數據進行符號處理。

由此,Google的DeepMind團隊開發了一個叫做「可微分神經網絡電腦」(DNC)的AI系統,將神經網絡與一個可讀寫的外部記憶裝置結合起來,克服了神經網絡無法長期保存數據的缺陷。

但他們認為,雖然這項工作標誌著智慧機器的增量式升級,而卻不是深度學習的「完全離場」:

「對於『Google有一台可以進行推理的機器人』這種說法我們會非常謹慎。儘管我們相信,一款升級的儲存器將是機器具備推理能力必不可少的組成部分。但現在還很難與之前的技術劃清界限。」

在研究過程中,這個新專案被Google發表在《自然》雜誌上。在文章裡Google舉了若干個應用實例,譬如集成後的深度學習技術能夠自動發現兩個地鐵站之間最短的路線。如果你帶著它走一遍,它都會立刻根據「推理」喊出你要到達的目的地。

此外,如果給出一段故事,譬如「約翰正好在操場上,他拿起了足球」這個場景再隨口問出一個問題「請問足球現在在哪裡」,這對於Google的新系統來說完全是小菜一碟,但現有的電腦系統卻很難做出選擇。

這頗有一種外國學生在漢語大賽中被邏輯問題難倒的味道。也暗示未來像蘋果Siri這樣的小助手或許將被更複雜的Google虛擬助手所替代。

同樣,Graves也強調,儘管這個關於故事的小任務對於人類來說簡直微不足道,甚至一點兒都不像一個問題,但現有的計算機程式基本沒有做到這一點。而Deep Mind開發的這套新程式在回答這類問題的準確率卻高達96%。

擁有記憶的機器人是否將成為一種新的AI發展趨勢?

Prof Geoff Hinton被譽為「深度學習之父」,也是Google的頂級技術專家。這位英國科學家曾表示,深度學習的「大門」已經為世界上更複雜的任務打開,其應用的廣泛性已經遠遠超出了我們的想像:

「直到最近,人們才意識到深度學習技術的應用方式可以幫我們開發出一套具備『推理意識』的電腦系統。」

不得不說,深度學習技術在近年來迅速攻占了所有科學任務的應用策略——無論是語言翻譯、圖像與語音識別,還是大名鼎鼎的Alpha Go及各類仿真機器人,你都能看到它們的影子。

然而,直到目前為止,單看一項技術的應用似乎還不錯,但如果某項任務需要一種集成性解決方案,這些技術的整體表現仍然不盡人意(例如導航,再如無人駕駛)。

而Google這種透過添加外部記憶裝置推出的最新方案,其設計目的就在於暫時儲存那些重要的信息片段,在需要時將其挑選出來,進行各種信息組合。換句話說,「推理」的一個關鍵前提就是記憶。

其實這就好比是一個人類大腦中盛放了工作記憶的短期資料庫。當我們要做一項任務時,就會按照以往的經驗(記憶)列出做這件事的前後步驟。當然,你也可以把它當作某份食譜。

Jaegar表示,從最近AI的研發熱度來看,這些十分耗費DeepMind心力的成果應該被視為一種催化劑或一根至關重要的稻草,將引發更多後續效應。他強調,未來計算機的各項功能將不再被那些邏輯性較強的任務所束縛,人們或許會很快看到它在導航等領域的廣泛應用:

「誰說計算機先天就有一種內在性限制?實際上,每個有腦生物能夠完成的事情都可能擁有一套有跡可循的物理系統。計算機與人類行為的趨同性非常明顯,甚至已經優於人們的執行力。我只能說,剩下的僅僅是資金與時間問題:人們是否願意花費成千上百萬的資本來開發這些東西。」

然而,一些具備鮮明立場的科學家們也總是在提醒我們關於AI帶來的生存威脅。像是著名物理學家霍金甚至曾警告過:

「一旦人類開發了人工智慧,他們將以一種持續增加的速率不斷進行自我更新,並最終脫離我們的掌控。」 (不知道霍金是否看過《西方極樂園》,與其設想幾乎一致)

但DeepMind創辦人Demis Hassabis去年也曾有意弱化科學家們的這種擔憂:

「等到我們真的需要去擔憂一門新科技時,大概應該是幾十年以後吧。」

本文授權轉載自:36 氪

關鍵字: #Google #人工智慧
往下滑看下一篇文章
台灣數位安全發展協會揭打詐盲點:截圖難當證據,AI加b-JADE讓數位足跡可驗證
台灣數位安全發展協會揭打詐盲點:截圖難當證據,AI加b-JADE讓數位足跡可驗證

重點一:數位詐騙生命週期極短,打完一波就轉移陣地,「下架」只處理了眼前的內容,處理不了事後追查。

重點二:台灣數位安全發展協會以AI蒐集、分類詐騙廣告,九成以上工作可由AI完成,最終判斷仍保留人工背書。

重點三:透過司法聯盟鏈b-JADE,只把資料的「數位指紋」上鏈存證,原始資料另行保存,目標是降低被害人的訴訟舉證成本。

一則可疑的投資廣告被檢舉、下架,帳號也停權了,多數人以為事情就此結束。真正麻煩的是,廣告消失的那一刻,追查詐騙集團的線索也可能跟著消失。

為了補上這個缺口,台灣數位安全發展協會正與司法聯盟鏈「b-JADE」合作,替詐騙相關資料做存證。b-JADE是一套以區塊鏈為基礎的司法存證機制,只有通過程序認證的單位才能提供上鏈服務;資料一旦上鏈,任何改動都會留下痕跡。白話說,就是替數位證據貼上「封條」,讓證據從蒐集到進入法庭,都能驗證有沒有被動過手腳。

詐騙廣告下架,為什麼還不夠?

原因在於數位詐騙的生命週期太短,下架只能處理眼前的內容。台灣數位安全發展協會理事長劉彥伯指出,傳統電話詐騙一套劇本可以拉長到半年、甚至一年;數位詐騙則像打游擊,一波結束就移往下一個平台,從廣告、社群到另一個App,一路跨平台引導被害人。

更大的問題是證據跟著斷線。被害人發現受騙時,可能已是半年後,手上通常只留得住最末端的匯款與聯絡紀錄,最初看過哪則廣告、點進哪個網站,早已消失。等到一、兩年後警方抓到詐騙集團,對方就能在法庭上反問「你怎麼證明我投過這則廣告?」劉彥伯以假設情境說明,一個集團原本可能詐騙了30億元,最後因證據不足,認定金額只剩幾千萬甚至幾百萬元。

不過,詐騙活動都會留下數位足跡,包括投放帳號、代理商、投放時間、運作國家與網址註冊紀錄,只要事先保存,日後調閱就「有憑有據」。

台灣數位安全發展協會
台灣數位安全發展協會理事長劉彥伯
圖/ 數位時代

AI都這麼強了,為什麼還要先做資料治理?

台灣數位安全發展協會的核心主張是:好的資料分析,從好的資料治理開始。所謂資料治理,就是把散落在各平台、格式不一的碎片資料,整理成來源清楚、格式一致、可以互相比對的資料。協會先確認每筆公開資料的來源、時間、權限、版本與隱私,再標上事件分類、風險評估、曝光平台、投放者與網址等標籤,才能找出彼此關聯、還原詐騙網絡。

根據協會的實證簡報,系統在一段監測期間內掃描309.5萬則廣告,通報62.8萬則(約占20%),投放當日偵測率達99.21%。劉彥伯也提到,協會與資安院、數位發展部在打詐通報查詢網的合作中,判斷率接近百分之百。

那還需要人嗎?答案是需要。現行法律仍要求有人為判斷結果背書負責,加上詐騙劇本會隨被害人的回應即時調整,因此協會讓AI處理九成多的工作,最後由人做判斷。

截圖不能當證據?b-JADE如何替詐騙證據貼上「封條」

在AI改圖越來越容易的今天,單純截圖很難在法庭上證明自己沒被竄改過。劉彥伯的比喻是:截圖比較像「我那天真的看過,還拍了一張照片」;可信存證則是把證物放進有封條、有時間、有編號、有保管紀錄的證物袋,「重點不是有沒有留下東西,而是未來能不能驗證這是不是當時那一份」。

這也是b-JADE派上用場的地方,但並不是把所有資料都放上區塊鏈。協會把原始資料與AI分析結果,保存在權限受管控的系統裡,只把每份資料的「數位指紋」交給b-JADE存證。數位指紋的特性是,內容只要有任何改動,指紋就會完全不同,因此能證明資料沒被動過;需要時,再經授權調閱原始資料,兼顧隱私與驗證。依b-JADE規範盤點,協會既有流程已符合19項要求,其餘7項缺口也逐步補強,例如存證時間改採具公信力的標準時間來源,不再依賴電腦本機。

防詐能從事後追查走向事前預警嗎?

可以,協會正把存證從被害人受騙後,往前推到「主動式上鏈」:AI判定高風險的內容,先一步蒐集存證,不必等到有人受害。

小農是第一個場景。許多消費者在網路上支持小農,錢最後卻流進冒名的詐騙集團。協會因此與農業部合作推出「農本人」系統,讓小農自行登錄銷售管道與社群帳號形成白名單,再結合AI蒐集的黑名單,一旦遭冒名就能第一時間發現並報案。這套模式未來也可延伸至網路霸凌、性私密影像等案件。

制度面也在加速。2026年8月,司法聯盟已開設認證專班,邀集司法院、法務部、高檢署、調查局與警政署相關人員受訓,相關存證應用預計明年正式推出,時程仍待聯盟拍板。

劉彥伯坦言,目前從蒐集、分案到下架的流程仍然冗長,技術正好能在保留人為背書的前提下縮短流程。他在《數位關鍵字》節目尾聲留給聽眾的一句話是:「數位安全不只是技術工具,也涉及資料的可信、法遵治理與跨領域合作。」當AI幫人更快找到線索,經得起驗證的資料,將讓每一位被害人在法庭上多一分底氣。

台灣數位安全發展協會
台灣數位安全發展協會理事長劉彥伯認為,可信存證的重點不是留下東西,而是未來能被驗證。
圖/ 數位時代

常見問答
Q1:詐騙廣告被下架後,還能當作證據嗎?
A:若事前沒有保存,下架後就很難追溯。台灣數位安全發展協會建議在內容消失前,保存投放帳號、代理商、投放時間、運作國家與網址等數位足跡,日後才能據以向平台請求調閱。

Q2:手機截圖可以當作詐騙證據嗎?
A:截圖只能證明「看過」,難以證明未被竄改。在AI改圖越來越容易的情況下,透過數位指紋與具公信力的時間紀錄進行可信存證,才能在日後驗證資料是否為當時的原始版本。

Q3:什麼是b-JADE司法聯盟鏈?
A:b-JADE是以區塊鏈為基礎的司法存證機制,只有通過程序認證的單位才能提供上鏈服務。台灣數位安全發展協會的做法是只將資料的數位指紋上鏈,原始資料另行保存在權限受管控的系統,兼顧隱私與驗證,目標是降低訴訟舉證成本。

Q4:AI可以完全取代人工判斷詐騙嗎?
A:目前不行。依台灣數位安全發展協會的做法,九成以上的蒐集與分類工作可由AI完成,但現行法律仍要求由人做最終判斷,並為結果背書負責。

Q5:小農要如何預防被冒名詐騙?
A:可登錄台灣數位安全發展協會與農業部合作的「農本人」系統,自行提交銷售管道、粉絲專頁與LINE帳號建立白名單,搭配AI主動蒐集的黑名單,遭冒名時能第一時間發現並報案。

完整對談請收聽《數位時代》Podcast《數位關鍵字》EP264。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓