亞馬遜近年大力推動全公司擁抱生成式AI,以提升公司的營運效率,維持市場競爭力。然而這股熱潮卻在內部引發意想不到的管理危機,陷入不斷開發出重複的AI工具的「AI蔓延」(AI Sprawl)泥沼。
各個部門能夠運用AI技術,快速開發適合公司內部需求的功能與服務,原先是許多企業積極導入AI的理想場景,然而對亞馬遜如此規模的公司來說,這種創新作法帶來了一些問題。根據《Business Insider》報導,一份來自亞馬遜零售部門內部文件指出,「AI正在使工具重複問題惡化,更多的冗餘工具正以更快的速度被創造,而能被清理掉的卻少之又少。」
儘管亞馬遜發言人強調,這份文件僅是個別團隊的看法,並不適用亞馬遜整體狀況,但業界普遍認為這反映了當前企業轉型AI的共同困境。
在過去的技術架構下,軟體開發需要一定的時間與工程資源,這種天然門檻降低了開發出重複工具的機會,並且更容易被盤點與整合。然而,生成式AI的出現徹底打破了這個平衡。該文件指出,AI大幅降低打造工具的門檻,過去需要數週時間才能完成的工具,現在工程師可以在數分鐘內利用大型語言模型產出原型並上線。
現在任何人都能在一個下午產出具備AI功能的內部工具,且維護成本極低,導致開發團隊缺乏動力去合併或刪除功能重疊的系統。這種情況在亞馬遜引以為傲的「兩個披薩原則」(two-pizza team)文化下尤為顯著,小規模且高度自治的團隊雖然提升了創新效率,卻也成為重複建設的溫床。
亞馬遜兩個披薩原則
亞馬遜創辦人貝佐斯提出「兩塊披薩原則」,意即如果兩塊披薩沒辦法讓與會者果腹,那麼會議人數顯然就過多了!貝佐斯相信與會人數少,會議進程將會比較順利,同時減少人多嘴雜,意見不同的機率。
AI工具重複讓資料難管理,恐造成資安風險
那麼重複的AI工具會帶來什麼問題?除了徒增冗餘、浪費開發資源外,最關鍵的是資安風險。當亞馬遜內部數據透過AI系統轉化為知識庫、摘要、會議記錄摘要等新形式時,往往與原始資料分別儲存,並且兩者沒有聯動。
這代表著,即使原始資料刪除或更改內容權限,仍不會反應到AI系統上。這導致了幾個弊病:
- 權限不同步: 原始資料調整權限,無法自動套用至衍生內容。
- 資料難以刪除: 刪除原始資料後,AI生成的摘要與資料仍存於其他團隊的檢索結果中。
亞馬遜內部的一個名為「Spec Studio」的系統便是典型案例。儘管原始程式碼已設為私有,但該系統先前生成的知識庫仍會持續顯示敏感細節。「任何攝取資料、利用AI轉化並將輸出結果單獨儲存系統都會面臨同樣的問題:當來源權限發生變化或資料被刪除時,這些衍生出的資料仍會保存下來。」該文件指出。
AI蔓延怎麼辦?亞馬遜用AI「以毒攻毒」,自動偵測重複工具
面對持續增加的內部AI應用,亞馬遜得出的結論是「以毒攻毒」。人類的審核流程已無法跟上生成的腳步,必須用AI治理AI。亞馬遜正探索利用AI自動偵測重複工具、標記資料風險,並在重複問題難以處理前,提醒團隊進行整合。
不過,這也產生一個疑慮。為了管理AI蔓延造成的混亂,他們必須部署新的AI系統負責監管,然而這個新AI系統本身也可能在未來成為新一輪AI蔓延的來源,但當下這或許是唯一具備拓展性的解決方案。
延伸閱讀:
Google Cloud發布日企AI實戰案例!唐吉訶德、朝日電視台、Mercari⋯120家轉型AI代理新時代
一個Chrome擴充,讓NotebookLM幫你把YouTube精華轉成大師知識庫,隨時線上請教!
資料來源:Business Insider、 LinkedIn
本文初稿為AI編撰,整理.編輯/陳建鈞
