開發AI武器能救更多性命?新創Clarifai助美軍惹爭議
開發AI武器能救更多性命?新創Clarifai助美軍惹爭議

去年12月,總部位於紐約的AI新創公司Clarifai因與美國國防部進行合作專案而受到矚目,Clarifai將利用辨識技術協助軍備更精準。

當時,針對AI技術是否會被用來強化軍事武器的問題,公司創辦人暨執行長Matt Zeiler強調,這項合作案的重點在於協助拯救更多士兵與平民的性命。他表示,公司正計劃增設一個新的管理職位,專門審核新企劃是否符合企業道德及倫理。

然而,這個「倫理守門人」的角色始終沒有出現,Clarifai的員工也對此產生疑慮與不滿。

Zeiler與美軍方合作AI,引發自家員工抗議

擔心自己的工作成果被濫用,Clarifai的員工於今年一月底向Zeiler遞出公開信,對公司未來的方向提出質疑。信中寫道:「我們必須要有足夠的企業操守,才能在得到大眾信賴的基礎下開發我們的技術。向外界說明我們的企業倫理,也是我們該擔負的社會責任。」

員工們最後並沒有得到想要的回答。根據三名匿名內部人士表示,Zeiler在數天後召開了一場內部會議,直白地表示倫理長的職位設置不符合小公司的利益,並告訴員工們,投入開發AI武器是Clarifai未來的方向。

Zeiler認為,AI武器最終會協助拯救更多性命,因為它能讓武器變得更精準,因而減少平民的傷亡。

AI技術發展,是增進人類福祉還是開發殺人武器?

Clarifai的技術強項在於即時辨識相片及影片中物件的分析能力。這項技術像是一把雙面刃,既可以協助開發運輸、醫療及科研等領域的技術,增進人類福祉,同時也能被國家利用,成為網路監控、散播假新聞以及提升軍武設備的幕後幫手。

微軟CEO Satya Nadella 於 Microsoft Build 2018 開發者大會主題
日前微軟員工透過公開信,反對公司與美國軍方的一筆高達480萬美元的合作案。
圖/ 截自 Microsoft 直播

除Clarifai外,許多大公司也陷入同樣的難題。日前微軟員工也透過一封公開信,反對公司與美國軍方的一筆高達480萬美元的合作案。對此,微軟執行長Satya Nadella表示微軟願意將技術提供給透過民主制度選出來的政府,協助他們保護民主自由。

微軟:科技公司有維護人權的道德責任

事實上,在美中俄等強權在軍事發展上相互較勁的國際局勢下,開發關鍵AI技術的公司,很難不在企業倫理上作出讓步。許多倡議者甚至公司本身都認為法律制度才是保障公司企業倫理的唯一途徑。就連微軟自家總裁兼首席法務長Brad Smith都曾表示科技公司有維護人權的道德責任,而且相關法規的制定是必須的。

一間專門探討AI如何影響社會的研究機構AI Now Institute的共同創辦人Meredith Whittaker表示,許多人慢慢開始意識到AI技術所帶來的倫理及社會問題,並想要改變它。

Clarifai員工的抗議行為就是一個例子。不過Whittaker也認為,這樣的改變不能只來自於公司內部,外部的法規也是必要的。然而,在經濟利益的誘惑下,科技公司發展並應用AI技術的速度,恐怕也將快過守護企業倫理的速度。

資料來源:The New York TimesFastCompanyZDNet

往下滑看下一篇文章
中華創智打造 AI Agent 可信可控的治理新解方
中華創智打造 AI Agent 可信可控的治理新解方

過去兩年,企業討論最熱烈的議題無非是「如何導入生成式 AI」;然而,隨著 AI Agent 技術的快速發展,未來幾年,企業關注的焦點很有可能轉向「如何治理 AI Agent」。相較於過去只能被動回應問題的生成式 AI,AI Agent 更像一個虛擬人,可以自主查詢資料、操作系統與執行流程,這也使得 AI 在企業中的角色被重新定義,從單純的輔助工具,正式升級為企業的「數位員工」。

然而,當 AI 被賦予更多權限與自主性時,也意味著企業必須面對全新的治理挑戰。尤其對金融業、公部門等受到高度監管的組織而言,若缺乏完善的權限管理、決策追溯與監控機制,AI 應用將衍生資料安全、法規遵循與營運風險,反而難以真正發揮 AI Agent 的價值。

為此,中華創智推出 AgentHub 平台,協助企業建立符合治理需求的 AI Agent 管理機制,讓 AI 在安全、可信、可控的前提下真正投入營運。

AI 升級「數位員工」:權限與責任歸屬成企業治理深水區

中華創智總經理李柏青認為,在 AI Agent 時代,企業首先必須思考的核心命題是:「我們可以授權它做到什麼程度?」

中華創智x數位時代_2.jpg
中華創智總經理李柏青認為,在 AI Agent 時代,企業首先必須思考的核心命題是:「我們可以授權它做到什麼程度?」
圖/ 數位時代

他指出,AI Agent 若要順利完成一項完整任務,勢必要具備相應的資料存取與系統操作權限。然而,這也正是企業最兩難的地方:一旦賦予 AI 過大的權限,很可能因誤判或操作失誤而引發資料外洩等風險,但若權限不足,又無法真正發揮 AI Agent 的價值。「授權與責任歸屬,正是企業導入 AI Agent 時最難以切割,卻也最關鍵的一環。」李柏青直言。

李柏青的觀察,在第一線客戶身上獲得了印證。中華創智業務行銷副總粟郁杉表示,早在去(2025)年,就有客戶與中華創智討論 AI Agent 的管理模式。不同於過去導入 AI 應用時,多半先從單一部門開始試行,客戶在規劃 AI Agent 時,希望從企業整體出發,讓不同部門、不同職務的員工都能擁有一位 AI 助手。然而,當 AI Agent 的數量快速增加、遍布各部門後,企業真正需要解決的問題,就不只是如何部署,還有如何以系統化的方式進行管理。

正是這些來自客戶的需求與討論,促使中華創智投入開發 AgentHub。「我們的使命是打造一個平台,讓企業能夠快速、安全地使用與管理 AI Agent,」李柏青說,未來企業需要管理的不只是員工,更是一支由 AI Agent 組成的數位工作團隊;而 AgentHub,就是協助企業管理這支團隊的治理平台。

中華創智x數位時代_3.jpg
中華創智業務行銷副總粟郁杉表示,當 AI Agent 的數量快速增加、遍布各部門後,企業真正需要解決的問題,就不只是如何部署,還有如何以系統化的方式進行管理。
圖/ 數位時代

打造數位員工的「生產履歷」!AgentHub建立可追溯的稽核機制

中華創智技術副總黃文俊強調,AgentHub 管理的不只是 AI Agent 本身,而是AI Agent的全生命週期管理。

企業可在平台上完成 AI Agent 的開發、版本更新、權限設定與部署管理,並透過完整的日誌記錄建立起稽核機制,這項機制能清楚追溯每一隻 Agent 是由誰開發、獲准存取哪些內部資料或系統、由誰負責審查授權,以及哪些員工有權調用。「這就像是 AI Agent 的『生產履歷』,當系統運作遭遇異常或疑慮時,企業才能在第一時間精準追溯責任歸屬。」黃文俊解釋。

黃文俊進一步透露,第一線客戶、特別是金融與政府單位,在實務上特別重視AI Agent 的執行環境與權限邊界,也就是「這隻 Agent 應該活在哪裡」。因此,中華創智在協助企業導入 AgentHub 時,不僅協助建立底層架構與權限管理機制,更會依據不同應用情境,與客戶逐一討論 Agent 的部署方式、資料存取範圍及治理規範,協助企業為不同 AI Agent 建立符合治理要求的執行環境,在兼顧安全與效率的前提下發揮價值。

中華創智x數位時代_4.jpg
中華創智技術副總黃文俊強調,AgentHub 管理的不只是 AI Agent 本身,而是AI Agent的全生命週期管理。
圖/ 數位時代
中華創智x數位時代_5 Agent監控和成本.png
AgentHub 也讓管理者能即時掌握每一隻 Agent 的運行狀況——呼叫次數、Token 消耗與成本,都在同一個儀表板上一目了然。協助企業掌握運行狀況並控管支出。
圖/ 中華創智

從 MLOps 到 AgentHub:把 AI 落地經驗延伸到 Agent 時代

面對市場上百花齊放的 AI Agent 平台,AgentHub 最大的差異化優勢,莫過於中華創智多年協助企業導入 AI 的實戰經驗。

黃文俊表示,中華創智過去協助金融、公部門等高度監管產業建置 MLOps 與 LLMOps 平台時,便已深入企業地端環境,相當熟悉資料治理、權限管理、系統介接與法規遵循等。這意味著,企業導入 AI 最容易「撞牆」的痛點,中華創智早已陪同客戶提前走過一遍並逐一克服。這些累積於 MLOps 與 LLMOps 時代的治理經驗,也成為 AgentHub 最重要的設計基礎,讓 AI Agent 能真正融入企業日常營運,而非停留在概念驗證階段。

除了完整的治理機制與企業落地經驗外,AgentHub 的另一項優勢,在於採用 No-Code/Low-Code 開發模式,使用者不需要具備程式能力,只需透過拖拉元件,即可快速打造符合業務需求的 AI Agent,讓真正熟悉業務流程的人,也能成為 AI Agent 的開發者。

然而,「人人都能輕鬆開發」的背後,並不代表「任何人都能隨意上線」。黃文俊指出,在 AgentHub 的架構下,每一隻 AI Agent 投入實戰前,都必須經過嚴謹的審核機制,並留下不容竄改的完整軌跡——從最初由誰開發、經誰核准部署、到由誰負責維運都一目了然;若 Agent 後續表現不如預期或出現偏差,管理者也能決定是否要調整或下架退場。「這就如同企業管理真人員工一樣,必須擁有完善的招募、考核與動態管理流程。」黃文俊生動比喻。

AI Agent 能否真正改變企業,關鍵從來不只是 AI 本身。黃文俊認為,AI 會放大企業原有的優勢,也會放大既有的管理斷點,因此,資料治理、權限管理與 IT 基礎架構,才是企業邁向 AI Agent 時代最重要的基石。

李柏青則指出,真正的挑戰才正要開始。未來企業不僅需要導入 AI Agent,更必須重新思考組織分工、管理制度與營運流程,將 AI Agent 納入企業日常運作的一部分。中華創智期待,未來持續扮演企業 AI 治理夥伴。想了解 AgentHub 如何協助你的組織建立安全、可信、可控的 AI Agent 治理機制,歡迎與中華創智團隊聯繫
https://www.chtinventai.com/

中華創智x數位時代_6.jpg
中華創智期待,未來持續扮演企業 AI 治理夥伴,協助企業打造安全、可信且可控的 AI Agent 管理機制,讓 AI Agent 真正成為驅動企業成長的新力量。
圖/ 數位時代

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
代理式商務連動百兆商機
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓