網路虐童影像抓不完?Google出招加快審查團隊效率
網路虐童影像抓不完?Google出招加快審查團隊效率
2018.09.04 | Google

每一秒鐘,都有大量的文字、影像內容在網路世界中生成,內容是否符合規範?演算法會不會構成偏誤?這些都是近來讓科技巨頭們傷腦筋的問題,像是美國總統川普(Donald Trump)上周就在Twitter上抱怨,Google搜尋輸入「Trump News」出來的結果都是負面報導,質疑Twitter審查保守派言論,直言:「他們(指Twitter)正在控制我們什麼能看,什麼不能看。」

此外,兒童色情影像氾濫的問題,近年也日趨嚴重,英國許多媒體機構紛紛呼籲政府,應該組成一個獨立監管機構,解決假新聞、兒童性剝削等問題,當然,科技巨頭們也是難辭其咎,Google本周就宣布推出一項AI工具,要為網路內容的把關,提出更有效率的解決方案。

直播、手機普及,兒童網路性威脅事件暴增

兒童色情在網路世界有多嚴重?英國國家家打擊犯罪調查局(National Crime Agency)在周一時表示,光是2017年,英國就有八萬多人在網路上對兒童構成某種性威脅,而這樣的情況在過去五年增加了七倍之多,10歲以下的兒童受害的比例也激增。

當然,兒童色情的惡化,跟近年行動裝置、直播平台的興起脫不了關係,除了傳統的影片照片,近年「直播式的虐待」比例直線上升,過去這類影像比較多存在於暗網(Dark Web),而現在只要有一台手機,加上方便使用的直播平台服務,一連上網路,影像就能即時傳千里,根據英國國家家打擊犯罪調查局統計,2017年平均每天就有15名兒童在網路上受虐。

live streaming
兒童色情的惡化,跟近年行動裝置、直播平台的興起脫不了關係,除了傳統的影片照片,近年「直播式的虐待」比例直線上升。
圖/ shutterstock

也正因為如此,英國廣播公司(BBC)、英國獨立電視台(ITV)、第四頻道(Channel 4)等主流媒體高層近日聯合呼籲,當局應該設立一個獨立監管機構,來解決假新聞、兒童性剝削、騷擾等網路問題,這些媒體高層認為,在沒有任何第三方監督的狀態下,要指望網路巨頭對內容做出正確的判斷,不僅不現實,同時也不適合,「這不是網路審查,而是要讓網路平台更安全,確保這些私人企業做出有透明度的決定。」他們說。

Google推新AI工具,工程負責人:避免兒童受進一步侵犯

網路兒童性虐待爭議持續延燒,英國內政大臣賈維德(Sajid Javid)公開表示:「這類威脅的發展比業界回應速度還要快,簡直跟不腳步。我對Google、Facebook、微軟、蘋果、Twitter在反恐方面進展印象深刻,但他們現在必須在防制兒童性剝削上,作出同等程度的努力才可以。」英國當局本周發出警告,如果這些網路巨頭不能好好處理網路兒童性虐待問題,未來將面臨嚴重懲處。

child abuse
網路兒童性虐待爭議持續延燒,英國內政大臣賈維德(Sajid Javid)表示,Google、Facebook、微軟、蘋果、Twitter等科技巨頭必須在防制兒童性剝削上作出努力。
圖/ shutterstock

微軟(Microsoft)表示:「正與其他業者、政府和民間社會密切合作。」;歷經個資風波的Facebook強調,網路兒童性剝削是真正的挑戰,也是必須非常認真看待的問題,「這就是我們跟兒童保護專家、警方以及其他科技公司密切合作的原因。」

在這股打擊網路兒童性虐待的浪潮下,Google則是採取更積極的作為,宣布推出一個「內容安全應用程序界面(Content Safety API)」,能透過深層神經網絡來處理圖片,可以更有效率審查可能違規的影像內容。

其實,這類結合人工智慧(AI)的工具早已不稀奇,不過這類型的科技,都是以先前被辨識出違規的影像資料庫為基礎,來檢核圖片或影片,像是由微軟所開發的工具PhotoDNA,被應用在 Facebook以及Twitter上,算是一個蠻有效率的方式,去阻止這類已知的色情圖片散布。

但有個缺點,如果沒有被事前標記出來的圖片(像是新的性虐待招式等),可能就會無法辨識,這時候就必須仰賴人類審查員的介入。而這樣的痛點,正是Google新AI工具想要解決的,透過機器視覺(machine vision),可以協助審查員分類影像、下標籤分類,將這些可能違規的檔案,排列出優先順率,加快審查員的效率。

google
「迅速辨識新圖片,意味著那些遭到性侵犯兒童的影像,被辨識出來的可能性增加,有助於避免他們受進一步侵犯。」Google工程負責人Nikola Todorovic說。
圖/ shutterstock

「迅速辨識新圖片,意味著那些遭到性侵犯兒童的影像,被辨識出來的可能性增加,有助於避免他們受進一步侵犯。」Google工程負責人Nikola Todorovic說。根據Google官方說法,這項AI工具可以幫助人類審查員,移除比平常多出700%的違規內容,能讓人力吃緊的審查團隊,運作得更有效率。

關鍵字: #直播
往下滑看下一篇文章
《星城》告別 Online,打破的不只是名字!網銀國際的「泛娛樂」願景,下一步怎麼走?
《星城》告別 Online,打破的不只是名字!網銀國際的「泛娛樂」願景,下一步怎麼走?

近年遊戲公司的競爭早已不只是留住玩家,而是爭奪使用者的日常娛樂時間。遊戲、短影音、直播、社群、IP 授權、線下活動都在搶同一批注意力;當遊戲產業的競爭從單一產品體驗,轉向使用者日常娛樂時間的爭奪,品牌能否跨出遊戲場景、進入影音、社群與生活,便成為老牌遊戲平台延長生命週期的關鍵。因此,遊戲品牌從「產品經營」走向「內容經營」,成為產業發展的合理趨勢。

2026 年 7 月起,網銀國際旗下經營超過 18 年的休閒娛樂品牌《星城 Online》正式更名為《星城》,同步啟動為期一個月的品牌月系列活動,從線上遊戲福利、影音內容、社群貼圖,到線下實體互動全面鋪開。

拿掉「Online」,看似只是識別上的調整,實際上是一次明確的宣告:這個品牌不再把自己定義為「一款線上遊戲」,而是要往內容娛樂、IP 經營、跨界合作的方向延伸。用網銀國際的說法,目標是「把娛樂融入生活」。

從產業角度來看,單一遊戲產品的生命週期往往有限,玩家喜新厭舊的速度很快,一款遊戲再怎麼長青,終究會面臨用戶成長趨緩的天花板;相較之下,內容與 IP 的價值可以跨平台、跨載體被重複利用,也更容易隨著時間累積成品牌資產。對一個已經經營 18 年的老牌來說,與其持續在單一產品上加碼,不如把長期累積的用戶基礎,轉化成內容娛樂生態的起點。

泛娛樂願景,邊界劃在哪裡

把服務邊界從單一遊戲平台,擴張到內容產製與 IP 經營,幾乎是近幾年線上娛樂產業共同的功課。玩家不再只滿足於一款好玩的遊戲本身,而是期待品牌能提供更有情感連結、更貼近日常的內容體驗,這也是「泛娛樂」這個詞近年頻繁出現在遊戲業轉型論述裡的原因。

對網銀國際來說,這樣的路線並非臨時起意。這家成立於 2009 年的集團,本業雖以遊戲研發與代理起家,但版圖早已橫跨數位娛樂、影視製作、電競戰隊等多元領域,而《星城》正是集團資源品牌化的重要窗口。網銀國際本來就具備豐沛的泛娛樂資源,透過這次《星城》的更名,這些資源才更容易被消費者理解成一個具體的品牌體驗,也讓外界更容易看見「泛娛樂」布局的落地。

IP 經營,是願景的現在進行式

比起口號,更能說服人的永遠是正在發生的行動。品牌月期間,全新 YouTube 頻道《XinFun 星泛娛樂》於 7 月 1 日正式上線,讓品牌指標性的遊戲角色跳脫原本的機台設定,化身生活短劇主角,一連 7 天每晚 7 點固定釋出新內容,後續也將持續規劃角色短劇、節慶互動與玩家共鳴題材,成為長期經營的內容入口;同步上線的還有角色版 LINE 個性貼圖,把遊戲角色帶進使用者的日常對話裡。品牌吉祥物「星城好冰友」也在這波煥新中迎來視覺升級,新增「小鵝」「小鴨」兩個角色,把「小額娛樂、理性遊玩」的概念轉化成更親和的形象。

星城-2.png
網銀國際旗下《星城》品牌煥新,吉祥物「星城好冰友」新增「小鵝」「小鴨」兩角色,將「小額娛樂、理性遊玩」理念轉化為更親和的視覺形象。
圖/ 網銀國際
星城-3.jpg
品牌月期間同步推出角色版 LINE 個性貼圖,讓《星城》遊戲角色走入玩家日常對話,強化 IP 在社群場景的日常曝光與情感連結。
圖/ 網銀國際

IP 走出螢幕的動作,也不只發生在線上。今年 4 月,《星城》連續參與白沙屯媽祖進香與大甲媽祖遶境,並特別加開「累了請上車」休息巴士,陪伴信眾走過前後橫跨 15 天的年度信仰巡禮。從角色內容化到走進廟會現場,這類操作要驗證的其實是同一件事:「娛樂融入生活」不是一句廣告詞,而是品牌願意把資源實際投入到玩家生活場景裡的具體行動。

這種「虛實整合」的操作邏輯,其實也呼應了內容產業近年的共同趨勢:IP 的價值不再只靠單一載體撐起,而是要靠角色、影音內容、線下場景多點觸及,才能真正在使用者心中留下記憶點。

星城-4.jpg
今年 4 月《星城》連續參與白沙屯媽祖進香與大甲媽祖遶境,加開「累了請上車」休息巴士,陪伴信眾走過橫跨 15 天的信仰巡禮。
圖/ 網銀國際

數位信任工程,是願景能走多遠的地基

不過,一個品牌想從遊戲延伸到內容、IP 甚至跨界合作,光有創意還不夠,背後的信任基礎才是能不能走遠的關鍵。尤其對仰賴金流與帳號安全運作的娛樂平台而言,信任從來不是加分項,而是先決條件。

網銀國際在這塊的布局,其實已經行之有年。平台導入 OTP 驗證與帳號多層防護機制,針對異常儲值行為與高風險帳號建立風險監測與處置流程,並設有 24 小時客服巡檢與主管機關聯繫窗口,持續參與防詐治理相關會議。這些機制平常不太會被玩家注意到,卻是支撐品牌敢往內容娛樂、跨界合作等更複雜業務延伸的底氣。

而從集團近期布局來看,網銀國際投資信任科技與防詐服務業者 Gogolook,也透露出其對數位信任基礎建設的重視。對《星城》這類高度仰賴帳號、金流與使用者信任的平台而言,防詐能力與風險治理,將是品牌能否走向更大泛娛樂合作場景的重要底層能力。

另一個值得留意的細節是,《星城》過去成功取得日本講談社等國際知名動漫 IP,如新世紀福音戰士等的官方授權,開發聯名機台。國際版權方在授權合作前,通常會針對合作企業進行嚴格的商譽與信用調查,順利通過審查,某種程度上也是外部對企業信譽的一次客觀驗證,而不只是單方面的自我宣稱。

對線上娛樂產業而言,信任機制往往是「看不見卻決定成敗」的一塊。玩家不會因為平台治理做得好而每天掛在嘴邊,但一旦信任出現破口,品牌過去累積的內容力與 IP 資產都可能一夕歸零。換個角度看,能夠通過國際版權方的商譽審查、持續維持與監理單位的溝通管道,也讓網銀國際在後續尋求跨界合作與 IP 授權時,握有更高的議價籌碼。

更名是起點,行動已經在路上

把《星城》放回台灣泛娛樂產業的座標來看,這不是第一家想從遊戲公司轉型成內容集團的業者,卻是少數把「信任機制」和「IP 內容」同時當成轉型兩隻腳、同步往前走的案例。

不過,從遊戲平台走向泛娛樂品牌,真正的考驗不在於一次品牌月能創造多少聲量,而在於內容是否能持續更新、角色能不能累積辨識度,以及線上下互動能否形成長期社群關係。對《星城》而言,告別 Online 是起點,能否把短期活動轉化為穩定內容資產,才是這場品牌煥新的關鍵。

觀察其未來走向,主要可以從三個面向切入:

  1. 內容頻率:《XinFun 星泛娛樂》能否從品牌月短期企劃變成穩定的內容頻道,持續維持更新動能。

  2. IP 延展:角色能否從貼圖、短劇走向更多授權、聯名與線下體驗,累積長期辨識度。

  3. 信任治理:責任遊戲、防詐與平台安全能否成為品牌差異化的底層能力,而不只是合規描述。

這條路已經開始走,接下來能否將短期聲量沉澱為長期的社群資產與防禦壁壘,將是這場轉型能否走得遠的真正考驗。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓