農曆年假期間，我身邊不少朋友花了大量時間「訓練小龍蝦」——這是大家替 OpenClaw 這套 agentic AI 系統取的暱稱。安裝完成後，使用者可以透過聊天室或 email 與代理互動；只要把高階目標講清楚，任務便可交給 AI 代理獨立執行。只要你授權它以你的名義操作，代理幾乎能完成你平常在電腦上做的多數工作。
我看過一則很震撼的案例：某名新創創辦人直接「拉起一支代理團隊」跟既有員工並肩工作。他替每個代理分配專屬email、Discord帳號、工具權限，甚至各別一張信用卡，讓代理能幫他直接完成採購。
但問題也正出在這裡：如果你聘請一名真人私人助理，交付大量權限前，一定會查核背景、打聽推薦人，並設好防呆機制。當我們把AI變助理，其實更需要提高警覺，因為它一旦被誤導，影響面往往更大、更快、也更難追溯。
像是很多人會先用「雲端LLM」來跑OpenClaw。此時，你要求代理幫你篩信、讀本機硬碟裡的 PDF，或翻閱共享資料夾中的試算表，這些資訊都會上雲端。你是否清楚你所使用的雲端供應商是誰？是否讀過其隱私與資安政策？你有多大把握資料不會被不當處理、外洩或被用於你未預期的用途？
更進一步，即使是大型、知名公司提供的LLM，也曾出現系統被「提示注入（prompt injection）」攻擊的案例。提示注入的典型手法是：攻擊者把指令藏在email或網頁中——人眼不可見，但 AI 會將之視為指令執行——AI 無法判斷這些隱藏提示的惡意，於是照單全收，反而成為攻擊者的代操工具。
因此，有人會選擇把 LLM 改成「本地端運行」，以換取更高的隱私、更強的控制力，甚至降低成本。然而現實是：多數人不會自己訓練模型，而是直接使用第三方提供的開源模型。開源 LLM 動輒數十億，乃至上千億參數，幾乎不可能以人工全面檢驗模型內部行為，並保證它不會在特定條件下產生危害性輸出。
這也帶來另一種風險：開源模型可能被植入觸發機制，一旦模型讀到某個「喚醒詞」（wake-up phrase）便啟動預先設計的行為。更麻煩的是，喚醒詞可能藏在email文句、圖片或附件中。
聽起來像科幻電影，但在對抗性提示注入（adversarial prompt injection）領域，市場上已有公司展示過類似攻擊手法並提出防衛方法；例如HiddenLayer、Lakera和Protect AI 這類專注於LLM安全的業者。
再談回OpenClaw，它所整合的技術不見得是突破性的，許多大公司也有能力打造類似系統。但大企業必須承擔品牌與法務風險 ——一個能接管使用者電腦的強大代理，一旦造成損害，後果將難以收拾。相對地，OpenClaw作為「開源、使用者自負風險」的專案，更敢把能力開到很滿：代理可以接手許多原本使用者親自處理的事（如回信、採購、社群發文）。這種能力一旦放錯位置或缺乏管控，傷害可以非常大。
延伸閱讀｜AI瀏覽器爆資安漏洞！Perplexity Comet擋不住「隱形字」提示攻擊，ChatGPT Atlas也中招？
竊密提示隨處可植，慎開權限防彈
傷害來源很多，最典型的就是提示注入：代理可能只是瀏覽一個看似無害的網頁、讀入一份 PDF或協助回一封email，但攻擊者可能在內容中埋入隱藏提示，誘導 LLM 做出有害行為，如外洩用戶個資（密碼、加密貨幣錢包金鑰等），甚或把機器鎖住並要求支付贖金。
這也是為何大型公司對代理型 AI特別謹慎。你若採用來自大型、可信賴公司的代理產品，至少可以合理期待它經過一定程度的驗證。
在理解風險後，合理的做法不是拒絕，而是建立「可控的信任」。就像你不會未查核背景，便讓新聘的私人助理掌握所有銀行帳戶及密碼，同樣地也不該在缺乏制衡機制（check and balances）的前提下，把 AI 助理的權限與資源一口氣開到最大。
較務實的做法包括：
不要讓助理直接使用你的主信用卡與銀行資訊，而是先提供一個獨立帳戶，具備清楚的追蹤機制與支出上限；
不要讓它直接替你回信或社群內容，而是讓代理先生成建議回覆，由你核准後再送出；
不要交出整台個人電腦的存取權，而是以共享資料夾作為工作區，只提供完成任務所必須的資料。
儘管如此，從OpenClaw率先在美國引爆熱潮來看，我仍認為這是AI普及化的一個里程碑。我上次對AI進展感到如此興奮，還是在2023年3月ChatGPT被推出後。這一波浪潮更令人樂觀的是：它起於一名資源有限的獨立開發者，再加上一個快速擴張的開源社群志工群體——這反而代表AI世界仍充滿機會，並非只屬於資本雄厚的大公司。
過年前我也參加了一場由台北當地OpenClaw愛好者舉辦的聚會。現場創業者、中小企業主與創投圈朋友分享的案例相當精采，能感受到大家對「代理型 AI」的想像正快速成形。
在這個階段，我認為任何CEO都應認真思考：如果你能把一支「博士後等級」的代理團隊當作公司成員使用，你的組織能力邊界會被推到哪裡？我也常聽到許多CEO抱怨：軟體工程師難找、AI 專家難找、某些產業（如化工、紡織）更是領域專家稀缺。但在 AI 能力快速躍升的此刻，你其實正在獲得一種前所未有的「可即時調度的人才資源」。
以目前最成熟的軟體開發領域為例，像 Anthropic的Claude Code、Google的Antigravity這類AI程式代理，已逐漸具備資深工程師，甚至架構師等級的能力。AI會帶來更多機會，不過多半只落在懂得如何有效運用AI的人身上。
責任編輯：陳祈安
