新AI職業誕生!Gartner:未來75%企業需僱用「人工智慧檢查官」
新AI職業誕生!Gartner:未來75%企業需僱用「人工智慧檢查官」

AI大浪潮來襲,Gartner大中華區資深合夥人龔培元(Michael Kung)今(4)日指出,預期2023年將有75%大型組織會雇用「人工智慧檢查官」,針對非法行為、隱私、客戶信任等面向監督,幫企業降低風險。

他指出,人工智慧跟機器學習技術發展,將使人類決策力大提升,未來「超級自動化」及「自主物件」將成為企業轉型利器,但也因為網路串連更緊密,遭受惡意攻擊度也提高,帶來新的企業風險。

企業大量導入AI,「人工智慧檢查官」職位興起

當企業大量引用AI專案,就需要注意 數據偏差 ,因為對AI而言,事物沒有常識與否的問題,一切都是數據導引出來的結果,然後就會毫不思索的執行,所以餵給AI的數據好壞,將為企業帶來正面效益,同時也可能面對負面挑戰。數據偏見將會導引出隱私權跟種族歧視等問題,讓企業不知不覺走向非預期方向。

Gartner 龔培元 呂俊寬
Gartner大中華地區資深合夥人龔培元(左)與 資深研究總監呂俊寬(右)預測未來AI安全會是大議題
圖/ 王郁倫攝影

因此人工智慧檢查官這個工作至關重要,龔培元說,當企業收納很多數據,就必須注意數據是否中毒或被破壞,導致AI系統不可信賴,這與10年前大家為資訊安全,催生「可信賴電腦運算系統」一樣,企業如何信任AI帶來的結果,AI是否跑偏?都是靠機制監督。

在企業大量投入AI下,AI安全未來將是重要議題。龔培元說,未來網路駭客可能攻擊的層次將升高,目前共有三種攻擊手法,包括訓練數據病毒、竊取AI模型,甚至從數據源頭就放毒,藉此掌握對手企業的AI模型,誤導對手AI演算結果來競爭。

靠AI決策,企業人才荒將爆發

Gartner資深研究總監呂俊寬(CK Lu)也分享,2022年將有30%企業靠AI做決策,目前調查,平均一間企業手上有3個AI專案,但預計5年內企業導入的AI專案將倍增至30件,所需要花費時間將數十年,這其中關鍵問題是AI科學家太少,無法應付太多AI場景,所以企業必須讓AI技術不強的員工也加入專案協助。

提到AI前景,呂俊寬表示不得不提到「Shadow AI」這個觀念,這是指企業根本不知道的AI訓練,由員工自行研發,現在企業非常欠缺AI規範,員工自行做的AI訓練是否合規?所取得的數據來源合法嗎?企業掌握度並不高。

為了規範AI模型,部分科技大廠已經建立AI計畫平台,讓數據跟模型都公開透明,類似建立一個AI廚房供各部門使用。

針對AI興起帶來的隱私權跟安全性問題,各國都給予高度重視,新歐盟執行委員會主席馮德萊恩(Ursula von der Leyen)12月上任,也宣示將在就任後的一百天內推出規範人工智慧(AI)及大數據應用的新法,加強管理AI機制。

不過如何監管AI是一個難題,近期社會上出現許多AI演算法大規模失誤造成的人身安全危害事件,比方自駕車撞死人,引起市場廣泛注意。若要保護大眾不被演算法影響,就必須追究演算法失誤的法律責任,而指定相關法規也會延長人工智慧跟機器學習演算法發展週期,企業人力的培訓跟認證將更花時間。

延伸閱讀:
11個趨勢預測:人工智慧將會如何影響人類的職業?
AI是品牌最大威脅者!Google、微軟不約而同提出人工智慧隱憂

責任編輯:陳映璇

往下滑看下一篇文章
保育類食蟹獴回來了! 晶睿通訊「安全地圖」賦能南投種瓜溪重開機
保育類食蟹獴回來了! 晶睿通訊「安全地圖」賦能南投種瓜溪重開機
晶睿通訊
晶睿通訊安防解決方案成功捕捉到保育類動物食蟹獴在種瓜溪旁覓食的珍貴影像。
圖/ 晶睿通訊

「當許多地區為防洪而大肆築牆時,我們反其道而行,用減法思維打造全台第一個還野於溪,承洪韌性更佳的生態廊道。」中興大學生命科學系許秋容與Peter Chesson教授,娓娓道來這個位於南投縣國姓鄉種瓜溪的溪望故事,在拆除長近兩百公尺、高四公尺的防洪牆後,逐漸恢復原有生態樣貌。晶睿通訊舉辦第五屆「安全地圖」永續活動,聚焦守護生物多樣性,攜手中興大學社會責任(University Social Responsibility, USR) 「環境韌性與永續」團隊,發起「復育種瓜溪 生態安全地圖」任務,在種瓜溪為動植物構築家園,並導入安防解決方案監測生態,成功捕捉到保育類動物食蟹獴覓食的珍貴影像,期盼更多生物到此定居,讓安全成為人與自然共生的連結。

晶睿通訊
中興大學許秋容教授推動復野工程,讓種瓜溪從水泥建設掙脫,復育生態。
圖/ 晶睿通訊

「還地於溪」 復育種瓜溪的願景

2004年受颱風侵襲後,種瓜溪為防洪而築高牆、設固床工,但也形成阻隔和破壞生態系。多年來,護牆出現裂隙、基腳淘空和固床工鋼筋外露,反成安全隱憂。2018 年,許秋容與Peter 教授入住溪畔農舍,倡議用減法思維,以拆牆「還地於溪」方式兼顧防洪與保育,經過努力奔走,最終2023年促成台灣首宗由居民發起的溪流復育工程。目前由中興大學許教授等人所組成的USR團隊持續進行生態監測研究與棲地維護,晶睿通訊則透過「安全地圖」活動,投入技術與人力,共同守護這條重生的溪流。

晶睿通訊
晶睿通訊為種瓜溪導入安防解決方案,守護動植物與棲地生態。
圖/ 晶睿通訊

以行動實踐關懷 安防科技讓人與自然共好

晶睿通訊總經理廖禎祺表示:「公司以『關懷』作為品牌催化劑,在2010年智利礦災時,我們的攝影機深入礦坑,記錄受困礦工的生命跡象,將畫面傳給救援團隊,為這場奇蹟營救盡一份心力。在澳洲維多利亞公園,我們運用 AI 解決方案,觀測菲利普港灣的海豹棲地,掌握漁線、繩索等潛在威脅。這次『安全地圖』活動,晶睿通訊攜手中興大學USR團隊,將關懷、守護社會安全的初心,轉化為對溪流生態系與野生動植物保育的投入,讓科技成為人與自然共好的基礎設施。」

晶睿通訊
晶睿通訊同仁齊力打造生態池,現迎來澤蛙、蜻蜓、划蝽等動物入住。
圖/ 晶睿通訊

築起安全棲息的家園 讓自然重回生機

在中興大學 USR 團隊引導下,晶睿通訊安防小隊觀察種瓜溪水生昆蟲、原生植物,理解溪流復育拆除水泥護岸前、後對生物的影響。隨後以分組形式,一邊打造小型生態池,並以竹筒為艾氏樹蛙搭建新家;一邊則是整地並清除外來入侵種包括含羞草、香澤蘭和象草等,栽種葦草蘭、野牡丹、金銀花、紫珠、臺灣山桂花和月橘等台灣原生植物,以穩定水土和復育濱溪植被。

連續5年參與「安全地圖」活動的工程師Ben表示:「能親手參與復育工作、為自然盡一份力,是身為晶睿人的驕傲。」首度參加的影像設計師Abbie說:「加入『安全地圖』活動,我看見安防科技能為永續帶來更多正向影響,期待未來將這些現場經驗融入設計工作,讓影像更具溫度與說服力。」

晶睿通訊
晶睿通訊邀請DATAYOO悠由數據加入活動,提供種瓜溪生態研究的數據基礎。
圖/ 晶睿通訊

晶睿通訊與DATAYOO悠由數據合作 大數據掌握溪流復育

晶睿通訊發言人暨企業品牌永續室處長謝邦彥指出:「『安全地圖』活動從鄰里社區、教養院、學校、歷史聚落,到種瓜溪,累積上百人次的公司員工一起健檢各場域、提出安全解決方案。透過這些實踐,我們將「安全」的定義從單純守護人,延伸至守護動植物與棲地,看見了安全的多元面向。未來,我們將持續號召產業跨界合作,以安防專業為基石,更廣泛地擴大社會影響力,創造更具包容性的安全價值與樣貌。」

晶睿通訊
晶睿通訊員工落實永續行動,與許秋容教授(前排右1)和Peter教授(前排右5)一起合作。
圖/ 晶睿通訊

今年晶睿通訊也邀請以AI大數據推動精準農業的合作夥伴DATAYOO悠由數據,加入行動,透過其FarmiSpace PRO監測服務,使用AI作物監測系統,透過衛星光譜資料運算出的各項作物指數進行分析,提供中興大學USR團隊進行種瓜溪生態研究的數據基礎、以科學化方式掌握自然復育方向,讓科技成為助力。

晶睿通訊
晶睿通訊員工分組種植台灣原生植物,以及清除外來入侵種。
圖/ 晶睿通訊

此次棲地復育行動已有初步成效,晶睿通訊員工打造的生態池,很快地吸引澤蛙、蜻蜓、划蝽和龍蝨等生物入住。許秋容教授表示:「企業主動提案,並願意帶著公司同事親身參與,是實踐復育行動最具力量的表現。透過晶睿通訊的安防專業與志工投入,以及AI解決方案帶來長期生態監測,讓我們加速復原種瓜溪的生態系,讓更多人看見人與自然的共好。」

晶睿通訊
晶睿通訊員工協助復育種瓜溪,已收穫初步成果。
圖/ 晶睿通訊

【關於晶睿通訊VIVOTEK】

晶睿通訊在2000年於台灣成立,2011年在台灣證交所上市(股票代號:3454),陸續與全球夥伴建立策略聯盟,成功攜手逾100個國家、超過200家授權經銷商合作,且於美國、日本、荷蘭、印度、墨西哥等地設有子公司或辦公室。晶睿通訊擁有20多年經驗,以深耕影像及音訊的領先技術能力而廣受市場認可,聚焦台灣研發、生產、製造基礎,致力發展IP攝影機、影像管理軟體、雲端安防服務,更將人工智能、邊緣運算等廣泛應用於服務內容。2017年,加入全球電源管理解決方案領導品牌台達集團,成為樓宇自動化業務安全與智能的核心事業之一。自從2021年進行品牌銳變後,朝向更安全、更智慧、更永續的品牌前進,更於今年發起「MAKE TOMORROW EASIER, TODAY!」宣傳活動,期望深植品牌口號「We Get The Picture」,致力成為全球最值得信賴的安防品牌。更多信息,請見官網 https://www.vivotek.com/

晶睿通訊
圖/ 晶睿通訊

【關於中興大學USR團隊】

中興大學USR團隊「環境韌性與永續——生態復育森川里共榮」成立於2024年,是延續由成員所發起臺灣第一次的溪流復育 (南投國姓的種瓜溪),以培養人才、支持偏鄉、生態復育及推廣啟發為目標 ; 對應SDGs 6、11和15。連續3年外來種移除吳郭魚從75%降至0和持續增加的生物多樣性顯示「溪流復野 (River Rewilding) 」的價值和生態系的韌性、年度到訪超過1300人次及公司企業參與的加入在在顯現溪流復育的強大生命力和看見未來的「溪望」。更多訊息請見團隊粉專https://reurl.cc/zKZjAQ

晶睿通訊
圖/ 晶睿通訊

【關於DATAYOO悠由數據】

DATAYOO 悠由數據是一家專注於智慧農業創新的AI數據分析公司,以「用AI賦能農業」為使命。公司擁有超過六項全球專利,能精準運算各類土地相關資訊,協助農企業與政府在作物精準操作、水分管理、作物辨識與產量預測等方面提升效率與決策品質。旗艦產品FarmiSpace是一款AI衛星作物監測系統,不需安裝感測器就可立即透過太空衛星和作物演算法,了解作物生長狀態,協助農企業快速精準判斷施作決策,提升產量和收益。更多資訊請見官網https://datayoo.com.tw/

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
進擊的機器人
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓