一篇劃時代論文,催生出ChatGPT!《Attention Is All You Need》作者們現在在哪?
一篇劃時代論文,催生出ChatGPT!《Attention Is All You Need》作者們現在在哪?

2017年,Google以一篇劃時代論文《Attention Is All You Need》,替今日的AI風潮打下基礎。

論文中的語言模型Transformer,是ChatGPT、語言模型GPT背後的關鍵架構。Transformer最重要的突破,除了語言模型的運作流程之外,就是「平行化」,讓很多處理工作可以在同一時間完成,讓算力有了用武之地。史丹佛大學研究人員在2021年一篇論文中點出了Transformer模型的重要性:「它不僅推動了AI領域的典範轉移,更擴大了對AI可能性的想像。」

Transformer AI模型
Google在2017年一篇劃時代研究論文《Attention Is All You Need》中,介紹了他們開發的Transformer語言模型,此模型透過強大神經網路,能夠學習文字、影像資料間的連續關係和深層意義,總而言之,它讓AI更像了一個真正的「人」。

而在該篇論文中共有8名作者,在Transformer問世後至今6年的時間,他們都在做些什麼?

開發Transformer模型的人陸續離開Google,成為新生代矽谷創業家

論文《Attention Is All You Need》的作者,現在都在做什麼?
開發Transformer的工程師們,幾乎都紛紛出走Google、自立門戶,直至今日,他們創立的新創募資總金額來到10億美元,在矽谷發揮著舉足輕重的影響力。
圖/ Meet 創業小聚

撰寫《Attention Is All You Need》這篇論文的8位工程師和科技專家,幾乎都陸續離開了Google,朝向下一個目標邁進。

作者1:Illia Polosukhin轉向區塊鏈發展,創辦NEAR Protocol

Illia Polosukhin離開Google後,創辦了去中心化平台NEAR Protocol。Illia Polosukhin深刻體會到,如果引領科技的組織,全面掌控了網路時代的數據,那麼人們就可能無法再自由取得、使用資料,這也是他毅然決然離開Google的原因。

為了讓網際網路的生態保持創新,他打造了以區塊鏈為基礎的去中心化平台NEAR Protocol,讓大眾都可以在這個平台上自由的開發應用程式,揮灑創意。

作者2:Aidan Gomez以對抗壟斷為目標,開發大型語言模型API公司Cohere

2019年9月,Aidan Gomez創辦了Cohere,Cohere也以對抗大型科技公司壟斷AI研究為目標,建立了幫助企業建構大型語言模型的API,它還在2022年啟動一間Cohere For AI的非營利性研究實驗室,致力讓大眾享有AI技術服務。根據《路透社》報導,Cohere估值已經來到60億美元。

作者3:Jakob Uszkoreit投入生技領域,創辦Inceptive

而被許多人視為是開發Transformer的主要工程師Jakob Uszkoreit,則在2021年辭職投入了生技領域,他所創辦的Inceptive,透過深度學習技術設計核糖核酸(RNA)分子,用以開發新興藥物,目前已募集了2,000萬美元的資金。

作者4:Niki Parmar和Ashish Vaswani共同創辦了AI新創Adept

Niki Parmar和Ashish Vaswani也在2021年底相繼離開Google,共同創辦了Adept。Niki Parmar曾在《財富》的採訪中透漏,只有創業才能真正讓她實踐開發產品與科學研究的理想。

而Adept建構的ACT-1,正是基於他們先前研究的Transformer進一步優化的大型模型,能學習人們瀏覽網頁和使用軟體的方式,替人們把文字指令轉換為一系列動作。Adept現階段估值已來到10億美元,總募資額高達4.15億美元。

作者5:Noam Shazeer要讓虛擬人物有靈魂,創辦Character.ai

在Google工作20年的Noam Shazeer,同樣選擇在2021年底創業,和同為Google工程師的朋友一起打造了對話式AI平台Chracter.ai,這個平台能讓使用者和AI合作一同編寫對話,並且生成角色扮演式的文字回覆。它近日也剛以10億美元的估值獲得了1.5億美元的投資金。

作者6:Lukasz Kaiser跳槽加入OpenAI,Llion Jone則繼續留在Google

其餘兩人,Lukasz Kaiser和Llion Jone,前者在2021年時跳槽加入OpenAI,後者則選擇繼續待在Google,他是目前8位撰文的研究成員中,唯一還待在Google的工程師。

總結來說,開發Transformer的8位工程師,自立門戶的並不在少數。直至今日,他們創立的新創募資總金額來到10億美元,在矽谷發揮著舉足輕重的影響力。這些新創們的重要成績,似乎有一點2000年「PayPal 黑幫」(PayPal Mafia)的影子。

從PayPal到Google,矽谷下一個黑幫會是誰呢?

矽谷黑幫,指的是企業中的重要人才離開後,把過往的人脈、經驗、技術、資源投入到新的項目中,創造出更廣闊的網絡。

例如PayPal創辦人Peter Thiel現在成立了大數據分析公司Palantir,還投資培育了Facebook創辦人祖克柏等年輕新秀,其他PayPay核心成員如Keith Rabois、Reid Hoffman等則分別是FinTech新創Square的營運長、LinkedIn的創辦人等等。

其實,Google在2010年前後,也曾出現不同於PayPal創業形式的黑幫現象,《富比士》將它稱作「高階主管的Google黑幫」。當時,Google內部各個高階主管紛紛跳槽到像Facebook、Twitter以及Yahoo等科技公司,或離職成為專業新創投資人,劇烈的成員變動同樣為當時的科技業帶來影響與熱議。

現在,以《Attention Is All You Need》論文作者們為首的創業潮,又出現了另一個黑幫的影子,他們就像是為科技產業引入生成式AI的引導者,讓基於Transformer模型而生的生成式AI新創在矽谷遍地開花。

但是,真正讓這波生成式AI風潮成形的並不是Google,而是另一個透過ChatGPT將AI發揚光大的修行者——OpenAI。

OpenAI將催生下一波AI黑幫?

因ChatGPT備受關注的OpenAI,在過去5年裡,迎來30多位高層、工程師和研究員離職潮,他們多數都創辦了自己的公司,這些新創募資金額總計也超過了10億美元。或許我們正見證OpenAI黑幫成形的過程。

舉例來說,幫OpenAI開發了GPT-2和GPT-3模型的前研究副總監Dario Amodei,以及安全與政策副總監Daniela Amodei,就帶領OpenAI將近10位核心員工,另外創辦了以研究為導向的新創Anthropic,強調AI的安全性和共享性,發表了AI研究的基礎規則。

OpenAI前研究科學家Peter Chen也離開了OpenAI,他和加州大學柏克萊分校教授Pieter Abbeel等人聯手創辦Covariant,專注在創造新型AI機器人解決方案。而OpenAI前工程總監David Luan,也是和Google前研究員Niki Parmar和Ashish Vaswani共同創辦Adept的成員之一。

silicon valley_shutterstock_448884280Resize 1280.j
多數人認為,矽谷的OpenAI的黑幫已成形,這些從OpenAI出走的新創創辦人,現階段成為了矽谷和創投的新寵兒。
圖/ Shutterstock

矽谷中每隔一段時間迎來的創業風潮,就是持續創新的關鍵。因此,處於現在進行式中的Transformer、OpenAI黑幫,就是最值得密切關注的對象。

參考資料:[Ayosta]、[Analytics India Magazine]、[NewsBytes

本文授權轉載自:創業小聚

關鍵字: #創業 #創新創業
往下滑看下一篇文章
AI 時代的行動生產力:MSI 如何用「理解情境」的 Prestige 14 Flip AI+ 重新定義商務筆電與 Copilot+ PC?
AI 時代的行動生產力:MSI 如何用「理解情境」的 Prestige 14 Flip AI+ 重新定義商務筆電與 Copilot+ PC?

生成式人工智慧技術正以驚人速度滲透職場,從會議記錄、文件撰寫、資料搜尋、內容創作到跨國溝通,每位知識工作者都開始思考:「我懂得善用 AI 嗎?我的硬體跟得上生產力轉型嗎?」

在這樣的氛圍下,市場對 AI PC 的期待,已從單純搭載最新處理器,擴展到如何將 AI 算力、硬體設計與真實使用情境無縫整合。微星科技(MSI)最新推出的 Prestige 14 Flip AI+,正是專為商務菁英與專業人士打造的解方。它結合了微軟 Copilot+ PC 架構、本地端 AI 運算、2-in-1 翻轉設計、高畫質 OLED 顯示器與全天候續航力,讓 AI 真正流暢地融入日常工作流程。

微星科技
微星科技(MSI)最新推出的 Prestige 14 Flip AI+,正是專為商務菁英與專業人士打造的解方,高畫質 OLED 顯示器與全天候續航力,讓 AI 真正流暢地融入日常工作流程。
圖/ 數位時代

AI PC 時代來臨:MSI Prestige 14 Flip AI+ 如何用地端AI算力重塑工作流?

許多經理人在更換電腦時常問:「AI PC 真的值得買嗎?」、「Copilot+ PC 到底能幫我做什麼?」答案不僅是運算跑得更快,而是將原先繁瑣、耗時的行政庶務變得更高效,並能確保商業機密不外洩。

MSI Prestige 14 Flip AI+ 搭載最新的 Intel® Core™ Ultra X7 處理器,擁有強大的神經處理單元(NPU),能提供優異的本地端 AI 運算能力,這意味著大量運算能透過筆電本身就能執行,大幅降低對雲端的依賴,確保企業敏感資料與客戶資安不外洩,同時兼顧資料處理的速度與能源效率。對於每天需要處理大量文件與郵件的商務人士來說,AI 不再只是網頁上的聊天工具,而是內建在系統底層的數位助手。Prestige 14 Flip AI+ 完美符合 Windows Copilot+ PC 架構認證,使用者可解鎖多項雲端無法執行的關鍵功能:

  • Windows Recal(回顧功能) : 用自然語言就能快速回溯、查找曾經瀏覽過的文件、合約或網頁內容。

  • Click to Do(點擊行動): 透過地端 NPU 對螢幕內容的即時理解,使用者只要按下快捷鍵,就能讓系統智慧偵測、分析,預測你的下一步行動,快速啟動後續工作流程。

  • 即時字幕翻譯(Live Captions): 打破語言壁壘,跨國視訊會議時,即時將多國語言翻譯為繁體中文。

  • AI 智慧搜尋: 不需要精確記住檔名或資料夾路徑,用自然語言就能從茫茫資料海中精準查找目標檔案。

除了微軟的生態系,MSI 更導入獨家研發的 MSI Center 中控軟體,其中「AI 智慧引擎」能自動偵測使用情境(如視訊會議、文書處理、影音播放等),主動調節各項硬體設定與效能表現,使用者無需動手調整參數,系統便能持續維持在最佳狀態。

#5 AI 時代的行動生產力:MSI 如何用「理解情境」的Prestige 14 Flip AI+重
Prestige 14 Flip AI+完美符合 Windows Copilot+ PC 架構認證,使用者可解鎖多項雲端無法執行的關鍵功能
圖/ 數位時代

四種模式自由切換,完美補足行動辦公的最後一哩路

用 AI 提升效率只是第一步,真正影響使用體驗的是,筆電與人互動的每一個細節。

Prestige 14 Flip AI+ 採用全新的精工設計,全鋁合金打造的纖薄機身搭配弧形圓角,重量僅 1.37 公斤,不僅兼具質感與耐用性,更讓長時間攜帶變得更加舒適。值得特別一提的是,它是一台符合行動工作需求的 2 in 1 AI 筆電,360 度翻轉設計搭配觸控 OLED 螢幕,可依照不同情境自由切換使用模式,完美對接商務工作者的四大工作場景:

  • 筆電模式: 16:10 黃金比例螢幕,高效率完成長篇文書與簡報製作。

  • 帳篷模式: 在高鐵或飛機上,不佔空間地觀看資料;或在小組討論時,方便多人同時觀看與分享內容。

  • 展示模式: 向客戶提案、展示簡報時,呈現最專業、無鍵盤干擾的視覺角度。

  • 平板模式: 搭配 MSI Nano Pen 多功能觸控筆,進行直覺的商務閱讀、手繪筆記、簽署電子合約。

#0 AI 時代的行動生產力:MSI 如何用「理解情境」的Prestige 14 Flip AI+重
Prestige 14 Flip AI+ 提供四種模式自由切換,360 度翻轉設計搭配觸控 OLED 螢幕,可依照不同情境自由切換使用模式,完美對接商務工作者的四大工作場景。
圖/ 數位時代

值得一提的是,Prestige 14 Flip AI+ 具備全方位的隨附的 MSI Nano Pen 多功能觸控筆同樣展現亮眼效率,充電僅需 13 秒即可使用約 45 分鐘,讓簽署文件、繪圖、筆記不再間斷;其次,加寬設計的觸控板支援多種快捷手勢,使用者除可快速啟動指定功能,也可以依照個人習慣自訂常用操作,大幅減少來回切換滑鼠與鍵盤的時間;至於螢幕方面, 14 吋 OLED 面板具備深邃黑色、高對比跟鮮豔色彩,無論是修圖、影音創作、Excel 分析還是長時間閱讀都享有舒適的觀看體驗,表面覆蓋的 Corning® Gorilla® 玻璃,不僅提升耐用性,也提供流暢、靈敏的觸控體驗。

#2 AI 時代的行動生產力:MSI 如何用「理解情境」的Prestige 14 Flip AI+重
MSI Nano Pen 具備快充優勢,充電 13 秒即可使用約 45 分鐘,讓創作與簽署不間斷;加寬觸控板則支援快捷手勢與個人化自訂,能大幅減少切換鍵鼠的時間,效率全面提升。
圖/ 數位時代

30 小時超長續航,打造行動辦公的黃金組合

對於頻繁移動的自由工作者、業務主管或新創創辦人而言,「電量焦慮」、「吵雜環境」是行動辦公的最大殺手。

MSI 深刻理解高階經理人的行動痛點,因此 Prestige 14 Flip AI+ 在如此纖薄機身中仍配備了 81 Wh 大容量電池,最高可提供 30 小時的續航力,並支援 100W PD 3.0 快充。即使一整天在外拜訪客戶、跨城市移動,也無需攜帶笨重的變壓器,徹底根除電量焦慮。

更重要的是, Prestige 14 Flip AI+ 配備三麥克風陣列,能清晰捕捉你的聲音層次與細節,獨家的 AI Noise Cancellation Pro 降噪技術則能智慧過濾背景雜音並強化定向收音,確保聲音清晰聚焦;搭配3D降噪視訊鏡頭,能確保最佳的視訊影像品質,無論身在何處都能以最優雅的姿態完成每場關鍵決策,真正實現隨時隨地、毫無後顧之憂的數位遊牧生活。

#3 AI 時代的行動生產力:MSI 如何用「理解情境」的Prestige 14 Flip AI+重
Prestige 14 Flip AI+ 搭載三麥克風陣列、AI 降噪與 3D 降噪鏡頭,完美鎖定人聲、消除雜音並提升畫質,讓你隨時隨地優雅遠端協作。
圖/ 數位時代

2026 年,經理人必備的 AI 行動生產力利器

總的來說,隨著 AI 成為知識工作者每天都會使用的服務,筆電選擇標準也開始改變:處理器速度固然重要,但真正決定工作效率的是,AI 能否自然融入工作流程、硬體功能是否符合各種使用情境,以及能否兼顧續航、資安與行動力等需求。

MSI的全新翻轉觸控商務筆電 –Prestige 14 Flip AI+– 並未將 AI 視為單一賣點,而是整合 Copilot PC+、本地端 AI 運算、MSI AI 智慧引擎、2 in 1 翻轉設計、MSI Nano Pen、OLED 螢幕與超長續航,提供使用者更完整且全面的 AI PC 體驗,更好滿足追求高效率的專業人士、需要隨時移動的自由工作者,以及期待以 AI 提升競爭力的新世代白領需求。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
台達電全解讀
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓