Cloudflare 執行長馬修·普林斯(Matthew Prince)日前宣布推出「pay-per-crawl」(按爬取付費)機制,意圖迫使 Google 及各大 AI 業者為網路內容付費。
普林斯近期在接受電子報《Crazy Stupid Tech》採訪時指出,隨著 AI 聊天機器人普及,傳統以廣告與流量分潤為基礎的網路新聞生態正遭受前所未有的衝擊,若不及時介入,全球新聞產業恐將崩潰。
普林斯表示,Cloudflare 以其龐大的技術基礎與市場滲透率,具備封鎖 AI 爬蟲的能力,並有望促使 Google 及其他 AI 業者進行產業談判,為網路內容創造新的商業模式。
這個願景的最大挑戰,是在搜尋巨頭 Google 開始為網路內容付費之前,很難說服其他 AI 業者為內容付費。
「這就是當我們宣布『按次爬取付費』(pay-per-crawl)時最害怕我們會做的事。」 普林斯說道。 「他們真的以為我們會一夜之間在 20% 的網路上封鎖 Googlebot。」
普林斯表示,目前還沒有這樣的計畫……,至少暫時沒有。「但這已經讓他們(Google)緊張了,因為他們認為:『你可能會讓搜尋功能崩潰。』」
為何要 AI 業者為內容付錢,要先說服 Google?
普林斯曾在科技領導力論壇演說時指出,在過去的 25 年中,Google 一直是網路最大的贊助商,「他們發明了搜尋引擎,提供了一張『藏寶圖』,讓使用者點擊連結瀏覽網頁,還建立了整個廣告生態系和出版商訂閱生態系統,為獨立網站提供了資金。」
但在 10 年之內,這種情況產生了兩次大變化。
第一次是在大約 2015 年,Google 開始在搜尋結果頁面(SERP)頂端顯示「知識面板」(Knowledge Panel),其會在搜尋結果旁的資訊框中提供即時答案。這使得用戶不用點擊任何網頁,使得內容創作者從 Google 獲取流量的難度增加了三倍。
而這種現在被稱之為「零點擊搜尋」的狀況,在 AI Overview 問世之後日益嚴重。最近一年,由於來自 Perplexity、OpenAI 和 Anthropic 等公司的壓力,Google 從「搜尋引擎」轉變為「答案引擎」。
搜尋引擎提供藏寶圖,而答案引擎直接提供答案,這讓使用者更沒有點擊外部連結的誘因。
這種轉變使內容創作者從 Google 獲取流量的難度又增加了三倍,總體而言比 10 年前難了 9 倍。對於 OpenAI,難度增加了 750 倍;對於 Anthropic,則增加了 37,000 倍,嚴重影響內容、新聞網站的廣告收入與生存空間。
普林斯用一個比喻來形容這種變化:內容創作者就像鍋中的青蛙,Google 逐漸提高水溫,青蛙雖然感到不適,但別無他法。
簡單來說,普林斯認為 Google 長年以「免費爬取→導流→廣告分潤」的模式主宰網路生態,而其他 AI 公司擔心「自己付、Google 不付」會失去競爭力,因此不會率先全面付費,除非 Google 也付,才能形成「公平的遊戲場」。
Cloudflare 是做什麼的?為何有望逼 Google 為內容付費?
在解釋普林斯的動機之前,有必要先拆解 Cloudflare 的商業模式,以釐清這間公司身處於使用者、Google,以及其他 AI 巨頭中間的獨特位置。
按照 Cloudflare 官網的解釋,這是一家提供「全球連通雲」(Connectivity Cloud)的公司,透過統一的網路、安全與開發平台,加速並保護網站、應用程式與 API 的效能、可靠性與安全性。核心服務包含 CDN、DDoS 防護、DNS、WAF 與邊緣運算等,協助各規模組織在最接近使用者的節點交付內容與安全。
白話來說,Cloudflare 是一個幫網站「跑得更快、比較不會被攻擊、比較不會當掉」的雲端服務。它在全球很多據點幫忙傳資料、擋壞流量,讓上網體驗更順更安全。
一句話:Cloudflare 類似「內容保鑣」
可以把 Cloudflare 想成三個角色:快遞員、交通警察、保鑣。快遞員會把常用的圖片和檔案先放在離使用者最近的站點,開網頁就更快看到內容(這叫 CDN 快取);交通警察會幫資料挑最快的網路路線傳送,繞開塞車路段(像 Argo 智慧路由);保鑣會在門口擋掉奇怪或惡意的請求,像 DDoS 攻擊、機器人亂撞登入,避免網站被灌爆。
以「pay-per-crawl」機制為例(上段中提到的保鑣),AI 機器人(AI Crawler)想要拿到網站上的資料,必須經過一連串的檢查和審核:
- AI 機器人發出請求
機器人就像一個想進入網站的訪客,先敲門。 - Cloudflare 第一關:自訂規則(WAF)
這一關像是保全人員,會根據網站設定的規則(例如:這個訪客是不是黑名單、是不是行為怪異)來決定要不要放行。 - Cloudflare 第二關:AI 審查(AI Audit)
這一關是更聰明的保全,會用 AI 技術判斷這個訪客是不是不受歡迎的機器人,如果是,就直接擋下來。 - Bot Solutions(機器人專用通道)
如果前面都通過,還會再經過一個專門處理機器人的通道,進一步檢查這個訪客是不是正常的機器人。 - AI 審查:按次付費(Pay Per Crawl)
最後,如果這個機器人真的想進來,還要付錢才能拿到網站的資料。 - 成功進入網站內容
只有通過所有關卡、而且有付錢的機器人,才能真正看到網站上的內容。
普林斯有何動機?為何要幫內容網站向「AI們」收錢?
另一個值得思考的問題是,在科技業進入.com世代以後,就幾乎沒有科技巨頭真正站在內容網站的權益這端(或說,搜尋與內容的利益分配天平長時間傾向前者),為何現在 AI 時代普林斯卻回頭關心這些?
一句話來說,他既想「救網路與新聞」,也想讓 Cloudflare 賺大錢。
動機一:喜歡油墨味,網路與新聞都「不能死」
在理念層面,普林斯被描述為非典型只追求「新」的矽谷 CEO,更像是披著駭客外皮的文藝復興。這種解讀與普林斯的「文組」背景有關。
普林斯在大學期間主修英國文學和電腦科學,但也曾就讀法學院三年並獲得學位,隨後也進入商學院就讀。他曾表示,在他所獲得的學位中,英國文學學位在擔任公司執行長時,在溝通、寫作和團隊協調方面發揮了最大的作用;而他擔任反壟斷律師的經驗,對於 Cloudflare 在「未來網路」的發展中可能遇到的挑戰將極具價值。
值得一提的是,就讀芝加哥大學法學院時,普林斯曾創辦法律雜誌。在《Crazy Stupid Tech》的側寫中,普林斯「喜歡油墨味、重視報業」,甚至與妻子收購了家鄉報紙《Park City Record》。
總而言之,在願景這一端,普林斯希望「拯救網路與新聞」,避免知識被少數 AI 平台壟斷。在極端的「黑鏡式」未來中,這些 AI 公司會僱用所有記者和研究人員,可能使知識被分割成獨立的「筒倉」。
動機二:充當「中間人」錢景可觀
而在商業模式這端,充當一般用戶與 AI 巨頭之間的「中間人」,絕對也是一門好生意。
普林斯指出,目前 80% 的 AI 公司已經是 Cloudflare 的客戶,普林斯與 Sam Altman(OpenAI 執行長)等業界領袖保持著緊密關係;同時,很大一部分的網路內容已經透過 Cloudflare 的網路運行,且全球所有主要內容出版商都在遷移到 Cloudflare。
這種獨特的「中間人」地位,Cloudflare 一方面嘗試為內容創作者建立新的市場機制,類似 iTunes 和 Spotify 振興音樂產業。他認為這有機會將每年 100 億美元的資金流回出版生態系統;另一方面,Cloudflare 能夠與 Google、Microsoft、Apple 等公司的高層對話,推動他們成為未來網路的贊助商。
普林斯坦承,未來若協助出版商談成授權與分潤,Cloudflare 會像經紀人一樣,從 AI 公司支付的授權費中抽取一定比例,或向內容網站收取技術服務費。技術上,Cloudflare 能在客戶授權下封鎖或標記 AI 爬蟲,形成談判槓桿,並以合規、可執法的方式提升「不付費就更麻煩」的成本。
白話來說,Cloudflare 可同時向內容網站與 AI 公司兩方收費或抽成。
AI 巨頭態度不一!Perplexity 被歸類「壞壞 AI」
在談到目前 AI 巨頭的合作態度,普林斯特別點名 OpenAI 在授權與合作上態度積極,願意談授權與分潤,甚至有望成為「新一代內容守護者」。
反觀 Perplexity 等公司,則被指控試圖繞過封鎖、甚至冒用媒體名義生成內容,被普林斯視為「不法之徒」,未來將加強技術與法律手段應對。
Cloudflare 能成功當上普林斯口中的「中間人」,在未來賺得盆滿缽滿嗎?Pay Per Crawl 又能否成為全球內容網站的收入救星?仍有待時間驗證。
延伸閱讀:Perplexity是資料小偷?Cloudflare揭偽裝Chrome爬蟲,遭反嗆「我看你是不懂AI助理」
舊時代SEO規則死透了?專家曝「點擊雪崩」5大關鍵:AI搜尋時代,該如何讓網站往前靠?