【觀點】人工智慧比原子彈更可怕？除了「詠唱師」未來世界更需要「AI調音師」|數位時代 BusinessNext

【觀點】人工智慧比原子彈更可怕？除了「詠唱師」未來世界更需要「AI調音師」

生成式AI的崛起，被譽為超越「iPhone高光時刻」的壯舉，卻也可能釀成類似原子彈的巨大災禍，除了「詠唱師」未來世界更需要「AI調音師」。

🔥每日精選最重要區塊鏈新聞、第一手採訪 👉歡迎加入《Web3+》官方Telegram

（觀點文章呈現多元意見，不代表《Web3+》的立場）

##### AI的iPhone時刻，還是哀痛時刻?

生成式AI的崛起，被譽為超越「iPhone高光時刻」的壯舉。2023年5月，生成式AI – ChatGPT正醞釀著另一股科技大潮流，在正式開放使用者註冊後的半年，它以異軍突起的多語言流利對答能力、深入至微的使用者意圖理解能力、以及前瞻的邏輯推理能力，搏出驚人的一擊。

加上行動裝置版本APP的及時推出，ChatGPT在資本市場繼續引領一場AI應用情境的熱潮。

但同時，美軍在近期一次模擬測試中，卻傳出為了了解AI無人機的成效。結果AI在過程中採取了「高度無法預期的戰略」，無預警的殺害了它的操作員。雖然此傳聞立即遭到官方否認，但人工智慧的風險無所不在，卻是無可否認的事實。

早在2018年三月，特斯拉執行長馬斯克（Elon Musk）就提出「AI比核彈還要來的危險」的觀點。無獨有偶，美國國會日前對人工智慧影響的公聽會中，聯邦參議員霍利（Josh Hawley）也警告：「生成式AI的規模宛如網際網路的全球布局，可能釀成類似原子彈的巨大災禍」。

ChatGPT推手OpenAI的CEO阿特曼（Sam Altman）亦附和，生成式AI的出現好比「印刷機發明」，能夠改善和創造工作，但他更對AI可能對世界帶來危害深感憂心。

而研究人工智慧的先驅，被視為「人工智慧教父」之一的辛頓（Geoffrey Hinton）在接受國際媒體訪問時更直言，人工智慧給人類帶來的威脅可能比氣候變遷「更加急迫」。

生成式AI所造成的危機，除了眾所皆知，被用以撰寫駭客網路攻擊程式、挖掘系統漏洞、創作擬真的釣魚郵件，或是如三星集團因使用ChatGPT，而洩漏商業等等層出不窮的資安事件外，更令AI專家與政治人物擔心的是越來越無法受控的資訊迷霧風暴，充斥真假難辨及資訊汙染的網際空間，甚至利用AI的能力，引發新型態的犯罪和道德違規行為。

近期，一位美國律師利用ChatGPT來協助整理開庭所需的參考判決與案例，然而卻被發現這些判決是ChatGPT杜撰的，引起軒然大波，不但律師可能會被懲處，連「司法」這道維護正義的最後一道防線都可能受到ChatGPT的影響。

🛎️延伸閱讀： ChatGPT之父推「世界應用程式」！能作為AI時代人類證明？一次看懂怎麼用

##### 除了「詠唱師」，新人工智慧還需要「調音師」

無論政府是否將對科技和AI市場的繁榮展開更深層的監管，邁向數位轉型的企業都必須具備風險意識和自救能力。

在人工智慧商用的新賽道上，企業除了大量招聘資訊工程師，投入各種AI相關的模型或延伸應用開發，更有積極進行數位轉型的企業，開始招募無需科技背景，但年薪號稱逾千萬新台幣的「AI詠唱師」、或「AI溝通師」，他們被定位為一群擅長使用ChatGPT、Midjourney等新AI工具的專家，同時運用商業知識與專業語言，喚醒生成式AI的靈魂，企圖讓人工智慧發揮最大的商業價值與創造最高的生產力。

例如，美國有公司成立了致力於開發和部署「當責人工智慧」（Responsible AI）的專門委員會，分別是為技術團隊提供有關如何實作人工智慧風險管理的開發指引，同時與使用者及社會大眾分享人工智慧知識，做到技術知識透明化。

在台灣，我們也看見少數具備前瞻思維的公司，將人工智慧治理，引進數位轉型的流程中，開始招聘「AI策略與治理顧問」，負責預防生成式AI商用可能引發的道德和法規問題。

進一步為了避免內部開發與治理人員的同質性，無形中轉化內建為新應用的「AI偏見」，企業需要把更多不同利益群體，例如政策制定者、網路使用者，及外部風險顧問等的觀點，引入AI開發和應用過程，這也是當責人工智慧的當務之急。

##### 避免AI危機引爆的拆彈工程

因為人工智慧帶來的迫切危機，OpenAI的CEO阿特曼在前述的聽證會建議美國政府，考慮成立新的機構核准AI模型、建立一套AI安全準則規範，及要求獨立專家對AI模型進行審核。

此外，在美國已有法官考量到ChatGPT生成的資訊的正確度亟待商榷，也開始求訴訟雙方必須揭露是否使用生成性AI技術準備訴訟文件，也必須提出已通過人類審查內容正確性的證明。

近期美國會計師協會公布的一篇專文中也特別提到，ChatGPT號稱可以運用其巨大的知識資料庫回答任何問題，然而，其設計者卻從未揭露此知識資料庫的範圍與規模。

未來當責人工智慧，更被期待應如同企業財報一樣，針對系統功能範圍（避免誤用）、安全性（避免系統與演法模型被攻擊）、穩健性（避免答案不一致）、可靠性（避免答案錯誤）、合規性（避免違反與道德）、可解釋性（避免決策過程黑箱難以理解）、公平性（避免偏見）等，由第三方機構進行稽核、審查、確信或驗證，來確保人工智慧應用的可信任程度。

面對AI的機會與挑戰，企業需扮演當責人工智慧的倡導者，結合詠唱專家、調音工程師及接受利害關係方監督，以確保AI在創新與倫理之間取得平衡，讓科技的力量更具社會價值。

🔥每日精選最重要區塊鏈新聞、第一手採訪 👉歡迎加入《Web3+》官方Telegram

（觀點文章呈現多元意見，不代表《Web3+》的立場）

核稿編輯：高敬原

快速展店背後的挑戰　如何降低跨據點管理與維運負擔

對連鎖零售企業而言，展店代表商機與成長，但當門市數量快速增加，營運與管理的複雜度也隨之提升。尤其對便利商店（C-store）、餐飲連鎖與其他高密度展店型態的企業而言，總部需要面對的不只是據點數量增加，更包括不同門市的設備管理、系統維護、日常維運與人力配置等多方面挑戰。

過去多據點門市的設備與資訊管理，往往以單一門市為單位，各據點可能擁有不同的攝影機、錄影設備配置與管理模式。當總部需要掌握事件狀況、確認門市營運情形，或進行跨區域管理時，往往需要投入大量人力逐一確認資訊，不僅增加管理負擔，也提高維運成本。

此外，零售產業本身具有高度變動性。門市可能因應市場策略進行展店、搬遷、改裝，甚至調整營運規模。傳統一次性設備投資模式，容易讓企業在面對據點變化時缺乏彈性，也增加設備重新配置與後續維護的負擔。

因此，現代零售企業所需要的不只是單純記錄事件的設備，而是一套能隨企業成長彈性調整、協助總部有效掌握多據點安全資訊，並支援未來智慧應用發展的智慧化管理架構。

從既有設備開始升級　降低全面汰換設備的轉型負擔

面對智慧化轉型需求，許多企業最大的挑戰並非是否需要升級，而是如何在不中斷現有營運的情況下完成轉型。

對已經投入大量資源建置安全系統的零售企業而言，全面汰換既有架構不僅成本高，也可能影響門市日常運作。因此，能夠兼容既有設備並逐步升級的彈性架構，成為企業導入智慧安全管理的重要關鍵。

透過混合雲架構，企業可以從既有設備開始，逐步整合不同據點的安全資訊與管理需求，同時導入雲端管理能力。相較於一次性重新建置，新一代平台架構能協助企業延續既有投資價值，並依照實際需求逐步導入更集中化、智慧化的管理能力。

此外，訂閱式雲端服務模式和混合雲安防架構，也為零售企業帶來更靈活的資產管理方式。相較於頻繁的硬體汰換、傳統一次性採購或繁瑣的跨品牌安防系統的管理，企業更有彈性的因應門市拓展、搬遷、調整或營運規模調整，精準配置資源，降低一次性投入壓力，也減少因據點變動造成設備閒置的情況。

對快速成長的連鎖零售企業而言，安全管理不再是一套固定且難以調整的架構，而是一個能隨企業規模與需求持續演進的平台。無論是新增門市、跨區域管理，或因應營運策略調整，都能以更彈性的方式完成管理升級。

AI 不只是安防工具　更開始協助零售提升營運效率

隨著 AI 技術快速發展，安全管理的角色也正在改變。過去企業導入影像系統主要用於事件記錄、事後查看與追蹤；如今，智慧雲端安防平台則能進一步從大量影像資訊中辨識人、車與行為，協助企業從「看見發生什麼」進一步「理解正在發生什麼」，甚至主動協助管理者發現與處理事件。對門市數量眾多、人力有限的連鎖零售業者而言，AI 正逐步成為降低管理負擔、提升營運效率的重要工具。

從基本事件偵測到自然語言規則　讓 AI 主動理解更多異常情境。 AI 智慧辨識已能針對跌倒、奔跑、徘徊、跨線等常見事件進行自動偵測，協助門市減少人工查看影像的需求。而進一步透過 Think Alert，管理者更可以直接以自然語言設定客製化的偵測條件，將 AI 應用延伸至傳統事件規則以外。以門市尖峰時段為例，店員往往需要同時處理結帳、補貨與顧客服務，總部也難以持續掌握每個據點的即時狀況。透過 Think Alert，管理者可以直接以自然語言設定「在門店入口抽菸的人」等情境；當符合設定條件的畫面出現時，系統即可主動發出警報，協助管理者即時掌握異常狀況。對於門市數量龐大的企業而言，這代表 AI 不只是協助辨識既定事件，更能依據不同營運需求，讓管理者以更直覺的方式設定希望 AI 主動關注的情境。

從大海撈針到快速完成調查　Think Search 搭配 Case Vault(案例庫) 掌握完整事件脈絡。 當事件發生後，如何從大量、多據點的影像中找到關鍵人物與事件脈絡，往往是最耗費人力的環節。透過 Think Search，管理者可以直接用自然語言描述想尋找的對象與情境，例如，當家長反映孩童可能在門市附近走失時，店員或總部人員不需要逐一查看不同攝影機的錄影畫面，只要在 Think Search 輸入「昨日上午，牽著小女孩的男性」等自然語言描述，系統即可協助從大量影像中篩選相關畫面，快速找到相關人物可能出現的時間與位置。若需要進一步追蹤，還能將不同搜尋階段找到的重要畫面與資訊整理至 Case Vault，建立事件時間線與人物移動路徑，協助管理者更完整掌握事件脈絡。

從安全管理延伸至顧客服務與門市營運　讓既有影像創造更多價值。 AI 的應用也不只限於安全事件。例如在咖啡店、餐飲等場景，若顧客將手機、包包等物品遺留在座位或櫃台附近，遺留物與遺失物偵測可以協助門市人員更快發現異常，主動確認並協助顧客處理失物問題；人流分析則能協助企業掌握不同時段的門市活動趨勢，作為空間配置與人力安排的參考；車牌辨識可應用於停車區域或門市周邊管理，而工安防護裝備辨識則能協助後場、倉儲等區域進行安全規範管理。透過這些應用，企業能在既有設備基礎上，進一步將影像資料延伸至安全、服務與營運等不同場景。

對連鎖零售業而言，AI 的價值已不只是「看得更清楚」，而是讓企業更快發現問題、更快找到資訊，並進一步理解事件脈絡與營運狀況。從基本事件偵測、自然語言設定規則，到 AI 搜尋與事件調查，再延伸至顧客服務與營運分析，雲端安防平台正讓影像從被動的紀錄工具，逐步成為支援多據點安全管理與營運決策的重要資訊來源。