一下影片造假、一下搞錯膚色!在AI這一仗連續翻車,Google真的要變天了?
一下影片造假、一下搞錯膚色!在AI這一仗連續翻車,Google真的要變天了?
2024.03.18 | AI與大數據

Google 幾乎每次發布 AI 產品都會出點狀況。

2023 年 2 月,Bard 在演示時犯了事實錯誤,儘管每個大模型都有幻覺,但 Google 的運氣不好,先被全世界看見了,市值縮水 1000 億美元。

2023 年 12 月,Gemini 在演示裡如同現實賈維斯,和用戶實時交談、分析畫面內容,然而影片經過後期處理,效果被部分誇大,但黑紅也是紅。

今年 2 月,Gemini 1.5 官方宣布幾個小時後,被文生影片的 Sora 搶去風頭。

同月,Gemini 生成的歷史人物「過度多樣化」,被扣上歧視白人的帽子,母公司 Alphabet 股價一度下跌 4.5%。

Google,矽谷的代言人,AI 界的巨擘,為什麼總是會發生一些狀況外的事情?

Google 最好的日子或許已經過去了

「我們在圖像生成方面確實搞砸了。」

近日,半退休的 Google 聯合創辦人謝爾蓋·布林,參加了舊金山黑客松活動,承認了 Gemini 的問題,給出了一個中規中矩的理由:測試不徹底。

不過,科技媒體 Pirate Wires 採訪了多位 Google 員工,解釋了另外一種可能——Gemini 的「過度多元化」,可能是故意的。

當使用者輸入圖片的提示詞後, Gemini 會在較小的語言模型上重寫提示詞,加上更「政治正確」的前綴。

舉個例子,平平無奇的「汽車修理工」,可能會變成「穿著工作服微笑的亞洲汽車修理工」「拿著扳手的非裔美國女性汽車修理工」「戴著安全帽的美洲原住民汽車修理工」 。

看似是個「矯枉過正」的小問題,但恨鐵不成鋼的員工們認為,根源在於 Google 這個「龐然大物」的管理混亂。

截至 2023 年底,Google 母公司 Alphabet 約有 18.2 萬名員工。 這個很嚇人的數字,是多年來無序擴張、過度招募的結果。2014 年,Google 員工數僅在 5 萬左右。

對科技業來說,人海戰術未必是正向的。

以皮蔡為代表的溫吞的、規避風險的管理層下,各個團隊如同孤島,不能愉快地合作,連接員工的唯一渠道,是一個強大的人力資源官僚體系,這個體系可能還在政治立場「偏左」,然後輻射到整個公司。

Demis Hassabis
DeepMind 執行長 Demis Hassabis。
圖/ ifanr

最典型的例子就是,Google 收購了 DeepMind 之後,DeepMind 和 Google Brain 組織文化不同,長期明爭暗鬥,去年 4 月為了對抗 OpenAI,才匆忙合併為 Google DeepMind。

疫情短暫的紅利期後,Google 意識到了人太多的壞處,2023 年 1 月宣布裁員 1.2 萬人,佔其全球員工總數的 6%。 如此規模的裁員,過去 20 年從未有過。

裁員摧毀了員工的信任,皮之不存,毛將焉附,當生存成為第一順位,創新和自我價值就難以實現。每個員工都在想辦法加入最不可能裁員的團隊,先把飯碗保住。

十多年之前,Google 並不是這樣的。

當時的 Google 是工程師的天堂,崇尚的是自下而上的「草根文化」和本職工作之外的「20% 時間」,員工們發現一個問題,就找志同道合的同事擼起袖子加油幹。

如今,欣欣向榮的「極客」氛圍一去不復返,公司規模必然要擴張,也必然要華爾街和投資人打好關係,壯志未酬的人才也做出了自己的選擇。

為 ChatGPT 做嫁衣的 Transformer 論文出自 Google,然而截至去年 7 月,8 位作者都已離開 Google,有的自立門戶,有的加入 OpenAI 奔赴 AGI 的星辰大海。

談到離開的原因,他們不約而同地表達出對 Google 官僚主義的不滿——不允許冒險,不允許快速推出新產品。

2021 年時 Google 也有一波離職潮,一群 Lamda(Bard 前身)研發人員集體辭職,原因是他們不被允許在語音助理 Google Assistant 中引入聊天機器人。

被ChatGPT 搶先一步之後,Google 恍若睡醒,加快了發布的節奏,午夜夢迴也想著對標GPT-4,然後超越GPT-4,但又產生了一個問題:推出的AI 產品太混亂 了。

Bard 改名為Gemini,對標GPT-4 的Gemini Advanced 聊天機器人基於Gemini Ultra 模型,Gemini Business 是為Google Workspace 推出的AI 服務,Goose 是供員工訪問的內部大模型,另外還有開源模型Gemma 和基礎世界 模型Genie…

google gemini io.JPG
Google把Bard 改名為Gemini。
圖/ 隋昱嬋攝影

別說一臉懵逼的用戶不知道哪個產品適合自己,連Google 員工們也記不全這些G 開頭的名字代表什麼,匿名做了一堆梗圖嘲笑管理層:給AI 產品命名難道是副總裁們 的OKR 嗎?

大大小小的問題,都和管理離不開關係。

「Google 的史蒂夫鮑爾默」

Gemini 醜聞之後,皮蔡在給員工的備忘錄承認,Gemini 生成的圖片「完全不可接受」,接下來公司將採取一系列行動。

很有趣的是,「結構變革」被排在第一位,之後才是「更新產品指南」「改進發布流程」「強化評估」等涉及產品的部分。

承認錯誤只是改變的開始,越來越多人將矛頭對準了掌舵的皮蔡,讓他下台的聲音在 Google 內外都不是秘密。

在媒體的報導裡,他的形象出奇一致:低調、溫和、謙遜,但少了點殺伐果斷,也不夠鐵血強勢。

批評者們毫不留情,稱皮蔡是「Google 的史蒂夫鮑爾默」。 鮑爾默是微軟前 CEO,在任職期間錯過了智慧型手機等科技革命。

然而在幾年前,皮蔡還被認為是一位優秀的「和平時期」CEO。

皮蔡2004 年加入Google 擔任產品經理,負責Google 的工具欄,而後推動Chrome 瀏覽器的開發,2013 年接管Android 部門,又陸續負責了Google+、地圖、搜尋、商業和廣告等業務,被譽為僅次於創辦人的「二號人物」。

2015 年,皮蔡擔任 Google CEO,負責搜尋、YouTube 和 Android 業務,2019 年升任 Alphabet CEO。

在維護搜尋等核心業務、讓投資者和監管部門滿意方面,皮蔡確實做了 CEO 該做的事。

桑德·皮蔡(Sundar Pichai)
圖/ ifanr

自 2015 年以來,Google 母公司 Alphabet 市值從 4,000 億美元漲到 1.7 兆美元,每年淨利高達 800 億美元。

然而,主營業務一枝獨秀,不一定意味著好事,也可能是致命的「阿基里斯之踵」。

時至今日,Google 母公司 Alphabet 80% 的收入仍來自廣告,其中大部分又是世紀之交就有的搜尋頁面文字廣告。 因此,也有人將 Google 戲稱為「廣告公司」。

雲端業務雖然同樣是皮蔡的重點,但 2023 年一季度,Google 雲端業務才在披露以來首季度盈利,市佔也不如亞馬遜的 AWS 和微軟的 Azure,是個萬年老三。

過去 10 年,Google 也沒有推出什麼令人印象深刻的消費產品,社交領域(Talk、Hangouts、Allo 等)沒支棱起來,遊戲領域也只是短暫涉足。謝爾蓋·布林在 Google I/O 大會戴著單腳眼鏡框的 AR 眼鏡驚艷亮相,但這已經是 2012 年的事了。

AI 本該是 Google 的驕傲,皮蔡曾經說過:「自 2016 年以來,我們一直是 AI-first 公司,AI 是實現我們使命的最重要方式。」

Google 做研究的實力沒人質疑,ChatGPT 的 Transformer 架構出自 Google,Sora 的時空 Patch 技術也站在 Google 的肩上。

但在發表論文、雪藏模型、預測蛋白質、打敗圍棋世界冠軍之外,對於 Google 自己,AI 反應在消費性產品上的更多是漸進式創新。

搜尋、翻譯、YouTube、Gmail、計算攝影,Google 幾乎每項業務都有 AI 的存在,滲透進了用戶的日常生活。

然而,科技媒體 Business Insider給出「Google 變得無聊了」的評價,也同樣恰如其分。

無聊不代表過時和實力不濟,而是不再先鋒,Google 所做的事情,別的科技公司也都在做,甚至被搶了先機。

當 ChatGPT 橫空出世,Google 抱住一棵搖錢樹更是不夠的了。 Google 給人的印象,不能再是一家 AI 技術似乎很厲害的搜尋壟斷公司。

搜尋不再為王的未來

當年,Google 的兩位創辦人,拉里·佩奇和謝爾蓋·布林,用更準確和相關的搜尋演算法重塑了網路入口。

買下 Google 網域後窮得叮噹響的兩人,因為 1998 年投資人一張 10 萬美元的支票,慢慢走上了人生巔峰。

不知道他們有沒有從微軟拿到 100 億美元、因為 GPT-3.5「低調的研究預覽」聞名世界的 OpenAI,看到當年青澀的自己。

比 OpenAI 大 17 歲的 Google,已然脫離了青春期,有了新的功課:走出「創新者困境」。

Google 應如初出茅廬的創業公司那樣更快地拿出成果,演示影片是虛的,用不上的產品就失去了被世界看見的資格。

同時,Google 又要承擔巨大的體量之下犯錯的後果,一個錯誤就可能是股價和聲譽的暴跌。

更重要的是,Google 跟進新的技術,也意味著顛覆自己持續了 20 多年的商業模式,甚至影響公司所有業務的佈局。

使用者不會關心用的是誰家的什麼模型,只是希望更快找到想要的答案。

想像未來,當我們直接從聊天機器人中獲取資訊或跳轉連結時,傳統意義上的 Google 搜尋更像一個網址導航,對於廣告商的價值就降低了。

OpenAI 不是 Google 唯一的競爭對手。 有人開玩笑說,讓對話式搜尋引擎 Perplexity AI 執行長 Aravind Srinivas 擔任新的 Google CEO。

這位 CEO 還真的做出了回覆,可以簡單概括為:Google 很好,但專注自家,勿擾。

對於未來的搜尋生態,Aravind Srinivas 有個很有趣的看法:

你不需要摧毀 Google,你需要摧毀的只是他們的壟斷。

維持王者的姿態很難,但被從外打破可能比想像得容易。 比起從零開始的新創公司,Google 的過往,某種程度上也是枷鎖。

Google 的主要收入仍是搜尋廣告,雖然也透過 Google One 提供 AI 產品的訂閱模式,但這部分的收入還微乎其微,又要和 OpenAI、Perplexity 等公司競爭市場佔有率。

Google 應該比誰都明白,如果讓 AI 吃掉搜尋的蛋糕,失去核心的搖錢樹,會導致什麼結果。顧問公司 Gartner 預測,因為 Perplexity 等搜尋的 AI 替代品,到 2026 年,傳統搜尋量可能會下降 25%。

不過,Google 到底還是全世界最懂 AI 的公司之一。

Gemini
圖/ shutterstock

Google 也在帶來比搜尋更多的東西,原生多模態的 Gemini 1.5、開源模型 Gemma、基礎世界模型 Genie…

生成式 AI 的未來,就如同孩子天馬行空的想像,誰也不知道我們究竟走到哪裡。 去年 12 月如同現實賈維斯的 Gemini 雖然被後期誇大,但仍然讓人神往。

存取和使用網路的方式,時隔 20 多年,久違地被再次顛覆,從 OpenAI 們身上,我們又看到了 Google 兩位聯合創始人當年拿下支票時意氣風發的樣子。

AI 讓大公司們一夕之間變得年輕,這句話的意思其實是,重燃對創新的熱情,從坐慣了的評審席下場,以挑戰者的姿態出現在擂台。49 歲的微軟強勢回歸,25 歲的 Google 仍有機會再贏一次。

延伸閱讀:Google變「恐龍公司」了嗎?夢幻職業一夕變調:官僚主義與裁員,讓員工「切心」

本文授權轉載自:ifanr

責任編輯:錢玉紘

關鍵字: #Google搜尋
往下滑看下一篇文章
為保戶守護重要資產,南山人壽以黃金眼 AI 防詐模型建構全通路資產防護網
為保戶守護重要資產,南山人壽以黃金眼 AI 防詐模型建構全通路資產防護網

為守護保戶資產,南山人壽集結客戶服務、數位、資訊三個部門的能量,自行研發「黃金眼 AI 防詐模型」,自 2024 年底完成開發後,截至今年 11 月已成功阻擋多起詐騙案件、攔阻金額累計逾新臺幣 900 萬元,並獲得 2025 數位金融獎等殊榮。

「黃金眼 AI 防詐」模型為什麼可以有效防詐、更好守護保戶資產?

南山人壽客戶服務資深副總經理李淑娟面帶微笑地解釋:「『黃金眼 AI 防詐』是透過龐大的保戶資料結合前線客服的實務經驗建構而成的模型,不僅克服了壽險業交易頻率低且詐欺樣本極度不平衡的挑戰,還能夠偵測在臨櫃辦理保單借款或解約的高風險個案,讓客服人員可以主動提醒與關懷,有效降低詐騙風險,守護客戶資產安全與信任。」

南山人壽
南山人壽客戶服務資深副總經理李淑娟指出,詐騙手法快速進化,南山人壽研發黃金眼AI防詐模型,用前瞻科技主動攔截風險,強化保戶資產的安全防護。
圖/ 數位時代

從詐保到詐財,壽險業面臨的風險加劇

過往,壽險業者面對的主要風險是保險詐欺,例如,透過偽造事故情節、虛構醫療紀錄等方式詐領保險理賠金,然而,隨著科技迭代與詐欺集團的組織化、專業化,這類手法已快速進化,從「偽造病歷、輕病久住、醫療共犯」等傳統模式,轉向結合數位科技與精準話術的跨領域詐財操作。

這一波詐欺風險不僅滲透力強、具備高迷惑性,也直接影響保戶資產安全。例如,詐欺集團利用假冒理賠諮詢等方式竊取保戶個資,再一步步誘導客戶辦理解約或申請保單借款,最後要求將資金匯到不明帳戶等,壽險業者面臨的風險範圍也從「詐領保險理賠」延伸到「詐騙保戶資產」。

李淑娟資深副總經理進一步指出,南山人壽每年要處理逾 35 萬件解約與借款案件,很難單憑人力在海量案件中精準辨識高風險個案。「為有效防堵詐欺事件,南山人壽除開發 AI 模型辨識詐保事件,更進一步研發黃金眼 AI 防詐模型,用前瞻科技主動攔截風險,強化保戶資產的安全防護。」

南山人壽以黃金眼 AI 防詐模型守護保戶資產

在打造黃金眼 AI 防詐模型時,南山人壽面臨兩個挑戰:首先是壽險的交易頻率低,導致資料稀缺;其次,是詐欺樣本比例高度失衡,導致 AI 很容易誤判。為化解這些挑戰,南山人壽整合保戶行為、保戶與保單側寫資訊與情境因素等多模態資訊進行模型訓練,爾後,透過集成學習(Ensemble Learning)整合多個不同觀點的「專家模型」共同判讀,提升模型判斷準確性。

南山人壽數位專案經理蔡其杭表示:「以多模態數據源跟集成學習的策略打造黃金眼 AI 防詐模型後,我們除了將模型串連至臨櫃客服系統,以直觀的「紅、黃、綠」三色燈號即時呈現保戶的風險等級,協助客服人員快速識別高風險個案,主動介入並阻斷詐騙,更透過『自適應演進』與『外部資源擴充』兩個機制,持續優化模型辨識精準度。」

南山人壽
南山人壽打造黃金眼AI防詐模型,將模型串連至臨櫃客服系統,以直觀的紅、黃、綠三色燈號,即時呈現保戶的風險等級、協助客服人員快速識別高風險個案。
圖/ 數位時代

「自適應演進」指的是,客服人員會依據模型亮起的燈號,結合系統提供的關懷提問表,向臨櫃辦理解約或借款的保戶進行關懷詢問,如資金用途、是否接獲可疑來電等,藉此釐清是否存在異常情況,並將相關結果回貼標籤,作為後續調校模型的關鍵訓練素材,讓黃金眼 AI 防詐模型越用越精準。

「外部資源擴充」則是透過更多元的外部數據強化模型的防詐能力。例如南山人壽與內政部警政署刑事警察局簽署反詐騙合作備忘錄(MOU),在合規架構下共享情資,協助核對保戶是否曾有詐欺通報紀錄。蔡其杭補充,南山人壽目前正與電信業者合作,將其超過 1,400 項特徵因子導入模型,有效提升模型燈號判斷的靈敏度與可靠度,使黃金眼 AI 防詐成為更全面的金融詐欺偵測引擎。

蔡其杭表示,詐騙的手法日新月異,AI 阻詐模型除了能準確識別可疑的高風險案例外,更重要的是具備與時俱進、持續調優模型能力和效果的機制;如同維持客戶服務的品質一樣,刻不容緩。

南山人壽
南山人壽數位專案經理蔡其杭表示,黃金眼AI防詐模型串連至臨櫃客服系統,以直觀的「紅、黃、綠」三色燈號即時呈現保戶的風險等級。
圖/ 數位時代

李淑娟表示:「隨著模型的持續優化,黃金眼 AI 防詐模型的應用範疇將從目前的『臨櫃防堵』延伸到『全通路、跨產業、事前預警』的防禦機制,以事前預警的方式防堵詐欺事件。」舉例來說,當保戶撥打電話詢問保單借款或解約時,系統就會開始運作、提前識別風險,針對透過手機 APP 或網路平台辦理業務的數位客群,系統也會即時偵測,當出現高風險行為時即會立即展開關懷提問。

不僅從科技著手,南山人壽以 SAFE 逐步提升防詐安全網

值得特別注意的是,南山人壽並未將防詐視為單一的科技工程,而是從 SAFE–Skilled(防詐訓練)、Awareness(全民防詐)、Fintech(科技運用)、Engagement(聯防合作)–四個構面打造更完整的防護機制。

在專業技能方面,南山人壽不僅協助相關人員熟悉黃金眼 AI 防詐模型的操作模式,也持續透過內部教育訓練,以及跟刑事警察局等單位合作舉辦的工作坊等方式,全面提升員工識詐、阻詐的能力,達到 AI 人機互動的阻詐聯防保護網。

在防詐意識宣導方面,南山人壽除於全台 18 個分公司櫃檯播放刑事警察局提供的反詐騙影片,並在櫃檯明顯位置放置防詐文宣,協助來訪保戶掌握最新詐騙趨勢;更主動走入偏鄉、校園與新住民社群,並針對聽語障人士製作友善素材,以多元形式推廣防詐知識,降低詐騙事件發生的可能性。

在公私協力方面,李淑娟表示,南山人壽積極培育、鼓勵每一位壽險業務員成為「防詐大使」,在拜訪客戶時主動觀察各種異常徵兆,例如可疑的投資文宣或陌生人的頻繁出入,並將這些現場蒐集到的「軟性數據」提供回公司,作為模型判斷的補強資訊,以提升事前預警效果。

為了更好的保護高齡與失智等高風險族群,南山人壽也積極推動「保單安心聯絡人」機制,鼓勵保戶指定第二聯絡人,在其申請保單借款或終止契約時,可以主動通知聯絡人介入確認,降低詐騙風險;此外,亦針對受詐保戶提供「喘息關懷服務」,以低利紓困貸款協助保戶在遭遇詐騙後仍能穩定度過財務壓力,將防詐保護從事中攔阻延伸到事前預警與事後援助兩個層面,樹立產業新標竿。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
進擊的機器人
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓