Google Bard靈魂推手來自台灣!紀懷新解密AI:LLM有哪些限制?怎麼訓練?
Google Bard靈魂推手來自台灣!紀懷新解密AI:LLM有哪些限制?怎麼訓練?

🔥每日精選最重要區塊鏈新聞、第一手採訪 👉歡迎加入《WEB3+》LINE官方帳號

GoogleAI服務「Bard」靈魂人物來台!

Google今年推出實驗性對話式AI服務「Bard」,7月更進一步升級支援包括繁體中文在內的40種以上語言,吸引多數台灣用戶體驗Google最新的AI技術應用。在Google Bard團隊中,最關鍵的靈魂人物就是來自台灣的紀懷新(Ed H. Chi)博士。

身為Google DeepMind的傑出科學家,紀懷新親自從美國總部回來台灣解密,分享Google如何持續在多元產品與服務中,透過AI技術應用,幫助使用者帶來更智慧的體驗。

「Google的使命,就是透過大型語言模型(LLM)彙整全球資訊,並以自然的對話方式,供大眾使用,也使人人受惠。」在Google分享聚會中,紀懷新也親自回答3大核心問題,包括Google為何今年加入AI戰局、Bard如何學習並理解、大型語言模型還有哪些挑戰?

Google DeepMind傑出科學家紀懷新(Ed H. Chi)博士
Google今年7月更進一步升級Bard支援包括繁體中文在內的40種以上語言。
圖/ 楊絡懸攝影
解密Google的AI策略

重題一:為什麼Google在今年才決定加入AI戰局?

由於市場上的生成式AI話題是由ChatGPT而來,使得不少民眾以為,Google是為了迎戰ChatGPT的熱潮,才加緊推出Bard產品。

紀懷新解釋,「事實上,Google將AI技術帶入產品和服務中,已超過10年。」意思是,Bard是Google布局10年之久的AI戰略中,其中之一的成果。

Google在發展Bard之前,2011年就已經有Google Brain計畫團隊,嘗試導入AI上的研究及運用。

像是在「Google智慧鏡頭」透過圖片來搜尋其中的文字資訊、結合AR技術顯示路線環境的「Google地圖」、透過AI機器學習技術強化Gmail或Meet工具的「Workspace」,以及Pixel手機的即時翻譯、魔術橡皮擦等,都是AI應用的例證。

自2013年至今,紀懷新帶領的機器學習研究團隊,也包含大型語言模型、對話程式語言模型(LaMDA/Bard)、神經網路推薦系統(neural recommendations)、可靠性機器學習(reliable machine learning)等相關研究。

他的團隊也幫助過YouTube推薦演算法、Google新聞、廣告、Google Play商店等一系列Google產品,「這10年來,僅僅我們團隊,就在Google帶來720項改進。」

重點二:Bard如何學習並理解不同語言?

「資料跟資料效率,是發展對話式AI的關鍵。」紀懷新解釋,Bard整套訓練中,必須經過3個不同階段,分別是「預訓練」(Pre-Traing)、「微調」(Fine-Tuning)、「提示/提問」(Prompting)等。

他進一步解說,「預訓練」就是學習語言的基礎能力,也是最昂貴的階段;「微調」是專精於特定任務,尤其數據資料效率比較好的預訓練模型,能用更少的資料量學習;「提示/提問」則是提示及小樣本數據資料,能夠在正確的時間喚醒正確的能力。

Google DeepMind傑出科學家紀懷新(Ed H. Chi)博士
紀懷新博士解釋,具備「多語言理解能力」的Bard如何解釋德文諺語。
圖/ 楊絡懸攝影

有趣的是,紀懷新也用德文諺語「Ich verstehe nur Bahnhof」作為案例,若單純用Google翻譯工具,這句話就只會字面上翻譯成英文「I only understand train station」(我只知道火車站)。

Bard具備更好的「多語言理解能力」(multilingual understanding),因此就會解釋這句翻譯是錯誤的,並明確指出這句德文諺語的真正意思是「I don't understand anything」(我什麼都不知道),是一種誇飾性的說詞。

由此可知,語言模型能夠互為集中、學習,進一步理解而提升原有的模型基礎,這樣的結果也吸引很多用戶將Bard成為語言學習家教。

Bard擁有很好的對話基礎,但目前的互動不具備連貫性,話題內容更不夠廣泛。紀懷新坦言,AI聊天機器人的體驗,應該要表現出交換式(Transaction)與互動式(Interaction)兩大特色並存,要有人性化的互動,而不單只是幫忙人類工作而已。

值得一提的是,被問到Google訓練AI時,是用TPU,還是輝達(NVIDIA)的GPU呢?紀懷新透露,Google一直100%使用自家的TPU,尤其Google很早就在AI領域投入大量資源,裡頭的數學運算及訓練方法,都是早就發展的成果。

重點三:Bard存在「5大已知的限制」

「大型語言模型目前仍處於早期發展階段。」紀懷新說,儘管Google的對話程式語言模型(LaMDA)可以做到1,370億個參數,讓Bard理解合理性、具體性、趣味性、安全性、真實性,並歸納出數百萬任務,但事實上AI模型仍需不斷微調「更自然方式」的具體內容,才能跳脫早期的Google Assistant單一及不自然。

紀懷新指出,就目前來說,大型語言模型(包含Bard在內)仍存在「5大已知的限制」:

  1. 準確性:Bard的回應可能未必準確,尤其當詢問複雜或講求事實的主題時。

  2. 偏差性:Bard的回應可能反映偏見或呈現出訓練資料中的特定觀點。

  3. 人格化:Bard的回應可能會讓人以為它有個人意見或感受。

  4. 偽陽性/偽陰性:Bard可能對某些適合的提示不予回應,並提供不適合的回應。

  5. 惡意提示的刻意攻擊:使用者會不斷尋找對Bard進行壓力測試的方法。

面對這5大問題,紀懷新解釋,這是Google和整個業界正在研究的領域,Google也將隨著時間推移演進,致力改善這些面向。Google也會持續與政府機關、企業、大專院校等多方合作交流,共同研擬相關做法和標準,設法降低風險。

紀懷新也透露,一年多沒回來台灣,此次希望參與學術交流,並與Google台灣同仁交流,希望台灣針對AI領域作出一些貢獻。「大型語言模型會改變我們與AI互動的方式,並為生活帶來明顯改變,我們將持續參與其中。」

紀懷新小檔案


現職: Google DeepMind 傑出科學家,帶領機器學習研究團隊,進行大型語言模型(
LaMDA/Bard)、神經網路推薦系統(neural recommendations)、可靠性機器學習(reliable machine learning)等相關研究
貢獻: 他所帶領的研究團隊協助推出Bard,並從2013年起為YouTube、Google 新聞、等產品帶來超過720項改進。紀懷新著名的研究領域為網路和線上社群系統對使用者行為的影響,並擁有39項專利和200多篇研究論文的發表
經歷: 帕羅奧多研究中心(Palo Alto Research Center)增強社群認知小組的區域經理及首席科學家,帶領團隊了解社群系統如何幫助人們的記憶、思考和推理
學歷: 在六年半內取得明尼蘇達大學(University of Minnesota)學士、碩士和博士三個學位。他獲選為電腦協會院士(ACM Fellow)和人機互動學會院士(CHI Academy),也因在資訊視覺化研究貢獻獲頒20 年的Test of Time Award。他的相關研究與言論曾被《經濟學人》、《時代雜誌》、《洛杉磯時報》和《美聯社》等媒體報導和引用。
興趣: 高爾夫、游泳、攝影和滑雪,且擁有跆拳道黑帶。

🔥每日精選最重要區塊鏈新聞、第一手採訪 👉歡迎加入《WEB3+》LINE官方帳號

責任編輯:林美欣、高敬原

往下滑看下一篇文章
從智慧助手到自主代理:博弘雲端如何帶領企業走上 AI 實踐之路
從智慧助手到自主代理:博弘雲端如何帶領企業走上 AI 實踐之路

「代理式 AI 」(Agentic AI)的創新服務正在重新塑造企業對AI的想像:成為內部實際運行的數位員工,提升關鍵工作流程的效率。代理式AI的技術應用清楚指向一個核心趨勢:2025 年是 AI 邁向「代理式 AI」的起點,讓 AI 擁有決策自主權的技術轉型關鍵,2026 年這股浪潮將持續擴大並邁向規模化部署。

面對這股 AI Agent 浪潮,企業如何加速落地成為關鍵,博弘雲端以雲端與數據整合實力,結合零售、金融等產業經驗,提出 AI 系統整合商定位,協助企業從規劃、導入到維運,降低試錯風險,成為企業佈局 AI 的關鍵夥伴。

避開 AI 轉型冤枉路,企業該如何走對第一步?

博弘雲端事業中心副總經理陳亭竹指出,AI 已經從過去被動回答問題、生成內容的智慧助手,正式進化為具備自主執行能力、可跨系統協作的數位員工,應用場景也從單一任務延伸至多代理協作(Multi-Agent)模式。

「儘管 AI 前景看好,但這條導入之路並非一帆風順。」博弘雲端技術維運中心副總經理暨技術長宋青雲綜合多份市場調查報告指出,到了 2028 年,高達 70% 的重複性工作將被 AI 取代,但同時也有約 40% 的生成式 AI 專案面臨失敗風險;關鍵原因在於,企業常常低估了導入 GenAI 的整體難度——挑戰不僅來自 AI 相關技術的快速更迭,更涉及流程變革與人員適應。

2-RD096270.jpg
博弘雲端事業中心副總經理陳亭竹指出,AI 已經從過去被動回答問題的智慧助手,正式進化為具備自主執行能力、可跨系統協作的數位員工。面對這樣的轉變,企業唯有採取「小步快跑、持續驗證」的方式,才能在控制風險的同時加速 AI 落地。
圖/ 數位時代

正因如此,企業在導入 AI 時,其實需要外部專業夥伴的協助,而博弘雲端不僅擁有導入 AI 應用所需的完整技術能力,涵蓋數據、雲端、應用開發、資安防禦與維運,可以一站式滿足企業需求,更能使企業在 AI 轉型過程中少走冤枉路。

宋青雲表示,許多企業在導入 AI 時,往往因過度期待、認知落差或流程改造不全,導致專案停留在測試階段,難以真正落地。這正是博弘雲端存在的關鍵價值——協助企業釐清方向,避免踏上產業內早已被證實「不可行」的方法或技術路徑,縮短從概念驗證到正式上線的過程,讓 AI 真正成為可被信賴、可持續運作的企業戰力。

轉換率提升 50% 的關鍵:HAPPY GO 的 AI 落地實戰路徑

博弘雲端這套導入方法論,並非紙上談兵,而是已在多個實際場域中驗證成效;鼎鼎聯合行銷的 HAPPY GO 會員平台的 AI 轉型歷程,正是其最具代表性的案例之一。陳亭竹說明,HAPPY GO 過去曾面臨AI 落地應用的考驗:會員資料散落在不同部門與系統中,無法整合成完整的會員輪廓,亦難以對會員進行精準貼標與分眾行銷。

為此,博弘雲端先協助 HAPPY GO 進行會員資料的邏輯化與規格化,完成建置數據中台後,再依業務情境評估適合的 AI 模型,並且減少人工貼標的時間,逐步發展精準行銷、零售 MLOps(Machine Learning Operations,模型開發與維運管理)平台等 AI 應用。在穩固的數據基礎下,AI 應用成效也開始一一浮現:首先是 AI 市場調查應用,讓資料彙整與分析效率提升約 80%;透過 AI 個性化推薦機制,廣告點擊轉換率提升 50%。

3-RD096215.jpg
左、右為博弘雲端事業中心副總經理陳亭竹及技術維運中心副總經理暨技術長宋青雲。宋青雲分享企業導入案例,許多企業往往因過度期待、認知落差或流程改造不全,導致專案停留在測試階段,難以真正落地。這正是博弘雲端存在的關鍵價值——協助企業釐清方向,避免踏上產業內早已被證實「不可行」的方法或技術路徑,縮短從概念驗證到正式上線的過程,讓 AI 真正成為可被信賴、可持續運作的企業戰力。
圖/ 數位時代

整合 Databricks 與雲端服務,打造彈性高效的數據平台

在協助鼎鼎聯合行銷與其他客戶的實務經驗中,博弘雲端發現,底層數據架構是真正影響 AI 落地速度的關鍵之一,因與 Databricks 合作協助企業打造更具彈性與擴充性的數據平台,作為 AI 長期發展的基礎。

Databricks 以分散式資料處理框架(Apache Spark)為核心,能同時整合結構化與非結構化資料,並支援分散式資料處理、機器學習與進階分析等多元工作負載,讓企業免於在多個平台間反覆搬移資料,省下大量重複開發與系統整合的時間,從而加速 AI 應用從概念驗證、使用者驗收測試(UAT),一路推進到正式上線(Production)的過程,還能確保資料治理策略的一致性,有助於降低資料外洩與合規風險;此對於金融等高度重視資安與法規遵循的產業而言,更顯關鍵。

陳亭竹認為,Databricks 是企業在擴展 AI 應用時「進可攻、退可守」的重要選項。企業可將數據收納在雲端平台,當需要啟動新型 AI 或 Agent 專案時,再切換至 Databricks 進行開發與部署,待服務趨於穩定後,再轉回雲端平台,不僅兼顧開發效率與成本控管,也讓數據平台真正成為 AI 持續放大價值的關鍵基礎。

企業強化 AI 資安防禦的三個維度

隨著 AI 與 Agent 應用逐步深入企業核心流程,資訊安全與治理的重要性也隨之同步提升。對此,宋青雲提出建立完整 AI 資安防禦體系的 3 個維度。第一是資料治理層,企業在導入 AI 應用初期,就應做好資料分級與建立資料治理政策(Policy),明確定義高風險與隱私資料的使用邊界,並規範 AI Agent「能看什麼、說什麼、做什麼」,防止 AI 因執行錯誤而造成的資安風險。

第二是權限管理層,當 AI Agent 角色升級為數位員工時,企業也須比照人員管理方式為其設定明確的職務角色與權限範圍,包括可存取的資料類型與可執行的操作行為,防止因權限過大,讓 AI 成為新的資安破口。

第三為技術應用層,除了導入多重身份驗證、DLP 防制資料外洩、定期修補應用程式漏洞等既有資安防禦措施外,還需導入專為生成式 AI 設計的防禦機制,對 AI 的輸入指令與輸出內容進行雙向管控,降低指令注入攻擊(Prompt Injection)或惡意內容傳遞的風險。

4-RD096303.jpg
博弘雲端技術維運中心副總經理暨技術長宋青雲進一步說明「AI 應用下的資安考驗」,透過完善治理政策與角色權限,並設立專為生成式 AI 設計的防禦機制,降低 AI 安全隱私外洩的風險。
圖/ 數位時代

此外,博弘雲端也透過 MSSP 資安維運託管服務,從底層的 WAF、防火牆與入侵偵測,到針對 AI 模型特有弱點的持續掃描,提供 7×24 不間斷且即時的監控與防護。不僅能在系統出現漏洞時主動識別並修補漏洞,更可以即時監控活動,快速辨識潛在威脅。不僅如此,也能因應法規對 AI 可解釋性與可稽核性的要求,保留完整操作與決策紀錄,協助企業因應法規審查。

「AI Agent 已成為企業未來發展的必然方向,」陳亭竹強調,面對這樣的轉變,企業唯有採取「小步快跑、持續驗證」的方式,才能在控制風險的同時,加速 AI 落地。在這波變革浪潮中,博弘雲端不只是提供雲端服務技術的領航家,更是企業推動 AI 轉型的策略戰友。透過深厚的雲端與數據技術實力、跨產業的AI導入實務經驗,以及完善的資安維運託管服務,博弘雲端將持續協助企業把數據轉化為行動力,在 AI Agent 時代助企業實踐永續穩健的 AI 落地應用。

>>掌握AI 應用的新契機,立即聯繫博弘雲端專業顧問

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
2026 大重啟
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓