ChatGPT關鍵技術Transformer的8位作者，現在都在做什麼？|數位時代 BusinessNext

2017年，Google以一篇劃時代論文《Attention Is All You Need》，替今日的AI風潮打下基礎。

論文中的語言模型Transformer，是ChatGPT、語言模型GPT背後的關鍵架構。Transformer最重要的突破，除了語言模型的運作流程之外，就是「平行化」，讓很多處理工作可以在同一時間完成，讓算力有了用武之地。史丹佛大學研究人員在2021年一篇論文中點出了Transformer模型的重要性：「它不僅推動了AI領域的典範轉移，更擴大了對AI可能性的想像。」

Google在2017年一篇劃時代研究論文《Attention Is All You Need》中，介紹了他們開發的Transformer語言模型，此模型透過強大神經網路，能夠學習文字、影像資料間的連續關係和深層意義，總而言之，它讓AI更像了一個真正的「人」。

圖／ Google《Attention Is All You Need》

而在該篇論文中共有8名作者，在Transformer問世後至今6年的時間，他們都在做些什麼？

開發Transformer模型的人陸續離開Google，成為新生代矽谷創業家

撰寫《Attention Is All You Need》這篇論文的8位工程師和科技專家，幾乎都陸續離開了Google，朝向下一個目標邁進。

作者1：Illia Polosukhin轉向區塊鏈發展，創辦NEAR Protocol

Illia Polosukhin離開Google後，創辦了去中心化平台NEAR Protocol。Illia Polosukhin深刻體會到，如果引領科技的組織，全面掌控了網路時代的數據，那麼人們就可能無法再自由取得、使用資料，這也是他毅然決然離開Google的原因。

為了讓網際網路的生態保持創新，他打造了以區塊鏈為基礎的去中心化平台NEAR Protocol，讓大眾都可以在這個平台上自由的開發應用程式，揮灑創意。

作者2：Aidan Gomez以對抗壟斷為目標，開發大型語言模型API公司Cohere

2019年9月，Aidan Gomez創辦了Cohere，Cohere也以對抗大型科技公司壟斷AI研究為目標，建立了幫助企業建構大型語言模型的API，它還在2022年啟動一間Cohere For AI的非營利性研究實驗室，致力讓大眾享有AI技術服務。根據《路透社》報導，Cohere估值已經來到60億美元。

作者3：Jakob Uszkoreit投入生技領域，創辦Inceptive

而被許多人視為是開發Transformer的主要工程師Jakob Uszkoreit，則在2021年辭職投入了生技領域，他所創辦的Inceptive，透過深度學習技術設計核糖核酸（RNA）分子，用以開發新興藥物，目前已募集了2,000萬美元的資金。

作者4：Niki Parmar和Ashish Vaswani共同創辦了AI新創Adept

Niki Parmar和Ashish Vaswani也在2021年底相繼離開Google，共同創辦了Adept。Niki Parmar曾在《財富》的採訪中透漏，只有創業才能真正讓她實踐開發產品與科學研究的理想。

而Adept建構的ACT-1，正是基於他們先前研究的Transformer進一步優化的大型模型，能學習人們瀏覽網頁和使用軟體的方式，替人們把文字指令轉換為一系列動作。Adept現階段估值已來到10億美元，總募資額高達4.15億美元。

作者5：Noam Shazeer要讓虛擬人物有靈魂，創辦Character.ai

在Google工作20年的Noam Shazeer，同樣選擇在2021年底創業，和同為Google工程師的朋友一起打造了對話式AI平台Chracter.ai，這個平台能讓使用者和AI合作一同編寫對話，並且生成角色扮演式的文字回覆。它近日也剛以10億美元的估值獲得了1.5億美元的投資金。

作者6：Lukasz Kaiser跳槽加入OpenAI，Llion Jone則繼續留在Google

其餘兩人，Lukasz Kaiser和Llion Jone，前者在2021年時跳槽加入OpenAI，後者則選擇繼續待在Google，他是目前8位撰文的研究成員中，唯一還待在Google的工程師。

總結來說，開發Transformer的8位工程師，自立門戶的並不在少數。直至今日，他們創立的新創募資總金額來到10億美元，在矽谷發揮著舉足輕重的影響力。這些新創們的重要成績，似乎有一點2000年「PayPal 黑幫」（PayPal Mafia）的影子。

從PayPal到Google，矽谷下一個黑幫會是誰呢？

矽谷黑幫，指的是企業中的重要人才離開後，把過往的人脈、經驗、技術、資源投入到新的項目中，創造出更廣闊的網絡。

例如PayPal創辦人Peter Thiel現在成立了大數據分析公司Palantir，還投資培育了Facebook創辦人祖克柏等年輕新秀，其他PayPay核心成員如Keith Rabois、Reid Hoffman等則分別是FinTech新創Square的營運長、LinkedIn的創辦人等等。

其實，Google在2010年前後，也曾出現不同於PayPal創業形式的黑幫現象，《富比士》將它稱作「高階主管的Google黑幫」。當時，Google內部各個高階主管紛紛跳槽到像Facebook、Twitter以及Yahoo等科技公司，或離職成為專業新創投資人，劇烈的成員變動同樣為當時的科技業帶來影響與熱議。

現在，以《Attention Is All You Need》論文作者們為首的創業潮，又出現了另一個黑幫的影子，他們就像是為科技產業引入生成式AI的引導者，讓基於Transformer模型而生的生成式AI新創在矽谷遍地開花。

但是，真正讓這波生成式AI風潮成形的並不是Google，而是另一個透過ChatGPT將AI發揚光大的修行者——OpenAI。

OpenAI將催生下一波AI黑幫？

因ChatGPT備受關注的OpenAI，在過去5年裡，迎來30多位高層、工程師和研究員離職潮，他們多數都創辦了自己的公司，這些新創募資金額總計也超過了10億美元。或許我們正見證OpenAI黑幫成形的過程。

舉例來說，幫OpenAI開發了GPT-2和GPT-3模型的前研究副總監Dario Amodei，以及安全與政策副總監Daniela Amodei，就帶領OpenAI將近10位核心員工，另外創辦了以研究為導向的新創Anthropic，強調AI的安全性和共享性，發表了AI研究的基礎規則。

OpenAI前研究科學家Peter Chen也離開了OpenAI，他和加州大學柏克萊分校教授Pieter Abbeel等人聯手創辦Covariant，專注在創造新型AI機器人解決方案。而OpenAI前工程總監David Luan，也是和Google前研究員Niki Parmar和Ashish Vaswani共同創辦Adept的成員之一。

矽谷中每隔一段時間迎來的創業風潮，就是持續創新的關鍵。因此，處於現在進行式中的Transformer、OpenAI黑幫，就是最值得密切關注的對象。

參考資料：［Ayosta］、［Analytics India Magazine］、［NewsBytes］

本文授權轉載自：創業小聚

Google 近日推出 Gemini 3 模型，再次把生成式 AI 的技術邊界往前推了一大步。在全球 AI 競賽全面加速的此刻，市場關注的已不只是模型能力，還有 AI 將如何重塑產業版圖？又會帶來哪些結構性變化？

在 2025 Meet Taipei 全球創業趨勢論壇上，中華電信投資事業處副總經理陳元凱以「AI 華爾滋：中華電信如何帶領產業舞出創新韌性新篇章」為題，分享中華電信如何在 AI 浪潮下重新定位自己——不只是基礎建設的提供者，更是引領台灣產業邁向 AI 時代的領舞者。

AI 趨勢下的三大支柱：從領先電信商到 AI 轉型夥伴

「AI 是當下最具前景、最能推動創新的力量。」陳元凱一開場便指出，從 2025 年全球募資趨勢可以明顯看到，AI 的投資焦點正開始從模型與基礎建設，轉向更貼近產業場景的應用層面，如：AI Agent、工業自動化、無人機等各種創新應用。

面對這股趨勢浪潮，中華電信作為市值逾兆元、台灣最大行動與寬頻服務供應商，不僅要思考「如何讓自身轉型速度跟上 AI 時代」，更須以宏觀視野，將自身的 AI 實戰經驗轉化成可複製的方法論，協助個人家庭用戶、企業客戶、海外台商以及跨國全球企業一起邁向以 AI 賦能的未來。

為此，中華電信提出三大支柱，第一根支柱：數位韌性，打造最可靠且無所不在的網路環境。第二根支柱：智慧驅動，透過 AI Factory 與內外部創新，加速企業 AI 轉型的腳步。第三根支柱：永續未來，將能源轉型、ESG 與循環經濟納入核心策略，持續向淨零碳排邁進。

數位韌性：以「海地星空」四層網路打底，打造具備 AI 韌性的寬頻網路基礎設施

數位韌性，是指提供可信賴的連網能力，這是所有 AI 應用的基礎，有了穩定的網路，資料才能更大量、更快速且安全的流動。陳元凱在演講中特別強調，中華電信近年的核心策略之一，就是打造足以支撐 AI 時代大量資料流動需求的「數位韌性」，並具體落實在海、地、星、空四層網路架構上。

在海底，中華電信已投資興建 14 條國際海纜和 10 條國內海纜，讓台灣能穩定連結到美國、日本、歐洲、東南亞等地，這是台灣面向全球的資訊主幹線。在台灣地面，中華電信一方面持續擴大光纖、4G、5G 的部署，另一方面也以微波系統補強山區、偏鄉或其他特殊地區的通訊服務，讓網路真正做到連得上、連得穩。同時，展望未來 AI 時代的網路需求，積極投入 IOWN 次世代全光化網路的前瞻布局。

再往上走向天空，中華電信導入 OneWeb 的低軌衛星（LEO），作為地面通訊中斷時的即時備援。而在低軌衛星之外，還有 ST-2 高軌衛星（GEO）、Astranis 的微型高軌衛星及 SES O3b 中軌衛星（MEO），打造出整合高中低多軌道衛星的新世代衛星通訊網路，確保台灣在任何環境下都能維持穩定連線。

智慧驅動：用 AI Factory 平台加速企業導入智慧應用

透過由「海、地、星、空」打造的高密度通訊網絡，中華電信建構出真正的數位韌性，確保企業在任何情境下都能保持連線不中斷。並以此為基礎，向上發展出第二根支柱智慧驅動，並以自主研發的 AI Factory 平台，加速賦能產業智慧轉型。

AI Factory 平台共分為三層，最底層為資源平台，以 hicloud AI 算力雲提供運算、儲存等資源，讓企業能以更低成本、更高效率取得 AI 所需的算力。中層是模型訓練與推論平台，中華電信整合 AI 算法、DeepFlow 平台，提供開發者一站式模型訓練、微調、推論等服務，有效縮短模型開發時間。最上層則是 AI 服務平台，中華電信將經過內部驗證與外部協作的 AI 應用，轉化為可快速導入的解決方案，讓企業不必從零開始，大幅降低導入門檻。

陳元凱進一步說明，中華電信如何運用「內服」與「外用」兩大策略，打造可快速複製並導入的 AI 解決方案。「內服」指的是，中華電信將 AI 導入（如人力資源、行銷、網路維運等）內部營運流程，透過實際運作驗證可行性，再將這些「經過實戰驗證」的模式，轉化為外部可用的解決方案。

舉例來說，智慧客服中心導入 AI Agent 協助客服人員快速查找資料，使知識檢索有效提升效率逾 44% ，並同步提升線上客服整體滿意度。智慧門市則透過 AI 重新優化櫃台作業與案件檢核流程，不僅讓門市客戶整體等候時間縮短 23%，也提高案件檢核效率 33%。這些成果證明 AI 對提升作業效率的實質效益，更成為可直接輸出給企業客戶的最佳範例。

從內部創業到外部生態：串起台灣 AI 的創新動能

除了打造企業所需的 AI 解決方案之外，中華電信也不遺餘力推動 AI 創新創業生態系，策略做法則是從內部創新以及外部合作兩個方向著手，持續挖掘企業真正需要的 AI 創新解決方案。

在內部創新面向，中華電信積極培育內部創業文化，鼓勵員工成為「內部創業者」，並提供相應資源支持員工將創新想法落地，今（2025）年 10 月成立、專注於 GenAI 服務的中華創智國際（CHT InventAI），便是第一個正式從內部孵化育成的 AI 新創公司。第二家聚焦邊緣（Edge AI）與智慧影像的新創團隊，也將在 2026 年正式落地。這代表中華電信不僅是擁抱 AI，更將其視為可以獨立成長的戰略事業體。

在外部創新合作面向，中華電信持續打造更開放的創新生態系來加速 AI 應用的擴散。從 2018 年啟動台灣首個由電信業主導的 5G 加速器以來，至今已陪跑超過 80 支新創團隊，其中有兩家成功上市。未來，中華電信仍將持續透過加速器與新創一起共創新解方，成為企業邁向 AI 的重要推力。

陳元凱在演講最後強調：「AI 發展才正要起步。」在這波浪潮中，中華電信將以電信服務、企業解決方案及成長型投資（M&A）組成的 AI 飛輪，持續站在最前線引領創新，希望透過 AI 飛輪的轉動，不僅推動中華電信自身成長，更能帶動台灣企業積極擁抱 AI，共同進入 AI 加速的大未來。

一篇劃時代論文，催生出ChatGPT！《Attention Is All You Need》作者們現在在哪？