AI 運算有三本柱:算力、電力與傳輸。當算力與電力因大舉投資而擴張,傳輸也得跟上,就像超跑不斷升級,需要更好的路面才能發揮性能。用光取代銅線、把矽光子晶片與光傳輸元件共同封裝的 CPO(共同封裝光學),正是近 2 年市場熱議的解方。
陽明交大國際半導體產業學院講座教授何志浩專長光傳輸,曾任教於台大電機、沙烏地阿拉伯阿卜杜拉國王科技大學與香港城市大學,2 年前回台,與曾參與蘋果 Vision Pro 研發的弟弟何志祥共同創辦瑞利光智能(RVi)。
何志浩形容 CPO 就像「把高鐵站蓋到每一棟建築門口」,概念好懂,實際上卻得讓電子與光學兩個領域學會講同一種語言。
以下 Q 為《數位時代》總編輯王志仁提問,A 為何志浩回答。
Q1:為什麼從 Micro LED 顯示器轉向 CPO?瑞利光扮演什麼角色?
A: 我們運用 Micro LED 製程的底子,再導入自己的 AI 演算法,用 AI 為元件特性分級(bin selection),再做巨量轉移。和 Micro LED 產業不同的是,我們可以做到單顆辨識。
為什麼要做這些?回到 AI 資料中心的需求,大家要把一台 Toyota(無意冒犯 Toyota)升級成法拉利,GPU、CPU 都能做得很好,但它們一離站,就像開在顛簸的產業道路上,產生很多熱,法拉利只能開很慢。我們要克服的,就是 GPU 與 GPU、GPU 與交換器之間的通道,方法是用光。具體做法也是同樣的邏輯:把原本 Micro LED 平台上跑的元件,換成一種叫 VCSEL(垂直共振腔面射型雷射)、跑得更快的雷射。
關鍵在於這是平行傳輸。用高鐵來比喻,大樓住了很多人,要增加載客量就要有很多月台,也就是更多通道;每班車還要精準地一起發車,所以每台車的效能都要先挑過。我們用 AI 檢測、挑出同型號的車,再用巨量轉移放到該放的軌道上,由 AI 當列車長,一次掌控 36 個或 72 個月台。
產業有兩種路線:「快而窄」(Fast and Narrow)是一個超大型月台、一台巨型快車載很多人;「慢而寬」(Slow and Wide)是車速正常就好,但月台很多。AI 資料中心的頻寬需求只會越來越大,我們專攻後者。
再往晶片裡看,I/O(輸入輸出)也有走向光的趨勢。GPU 旁的 HBM(高頻寬記憶體)之所以要玩「疊疊樂」、往下挖通道,就是因為它的賽道很短,運算晶片和「圖書館」記憶體之間的往返太慢。如果能變成光 I/O,晶片效能至少可以改善 50% 以上。
Q2:CPO 把晶片的電訊號轉成光訊號傳輸,資料傳輸為何成為 AI 的隱形天花板?
A: 天花板已經不是算力了。現在不是單顆 GPU 獨立運算,而是把 72 顆或 144 顆 GPU 合成一台超級電腦,它們之間怎麼運輸、產生的熱怎麼處理,變得最重要。
想救這條「道路」,大致分兩派。用電的人一直想延續銅纜的生命,因為銅最便宜,又是不耗能的被動元件。但輝達(NVIDIA)現在一個 72 顆 GPU 的機櫃,後面就有 5,000 多條銅纜;下一代 144 顆 GPU 的 Kyber 要用正交背板把上下 GPU 連起來,線路多達 2 萬多條,散熱和重量都很可怕,讓電線轉彎也很難,所以延到 2028 年。銅纜只是權宜之計,黃仁勳說能用就繼續用,那就是用到它不能用為止。
長遠來看是光通訊。機櫃內部的縱向擴展(Scale-up)傳輸,現在光的市占是零,這個市場會非常大,所以有各種技術的人都磨刀霍霍。
CPO 用高鐵形容最好。過去搭高鐵去高雄,要先轉公車、捷運到台北站;電訊號也一樣,要經過很多板子才到光模組。CPO 則是把高鐵站蓋在你家樓下,搭電梯下來就能發車,不用經過風風雨雨,不會發熱、變慢。
我們 2013 年就開始發表相關論文,這個概念大家一聽都覺得合理,問題是要把高鐵站蓋在每個人家樓下並不容易。就像建築師要設計讓 600 萬戶樓下都有高鐵站,還要用量產方式造出一模一樣的車站,非常難,連台積電的 COUPE 平台也一直在發展中。
Q3:CPO 量產的瓶頸卡在哪裡?
A: 第一是可靠度。光元件已經直接黏在晶片上,幾乎不能修,一壞整顆晶片可能就報廢。CPO 一直延後生產,主要就是可靠度要求太高。
第二是人工。FAU(光纖陣列單元)的光路對準很難自動化,如果用 DFB 雷射(分布式回饋雷射),每個都要做六軸對準,一個就要好幾分鐘;光學輸入/輸出的密度又非常高,這也是外界出現「CPO 產線需要數萬名人工」說法的背景。(編按:大立光董事長林恩平曾否認 CPO 產線需要 4 萬人,強調將以自製自動化設備切入。)
第三是光電整合。大家希望把雷射波長切得更細,PIC(光子積體電路)就得分辨幾奈米的差異,但溫度一升高,折射率就改變,可通過的波長誤差就很大,所以台積電放了微型溫控器即時調整。只做一顆都可以,一談量產就不容易。台積電過去擅長矽製程,現在放進很多光電半導體材料與元件,簡單講,電跟光要混在一起,難度就提高了。
Q4:台積電 COUPE 平台是什麼?成本要降到多少才可行?
A: COUPE(緊湊型通用光子引擎)的目的就是讓你家社區有高鐵月台,把交換晶片、GPU 和原本離得很遠的光模組放到同一個中介層上。這衍生出很多製程困難,台積電提供工具與設計能力,協助輝達、AMD 等客戶。
現在推出 CPO 交換器產品的只有輝達和博通(Broadcom)。據我所知,台積電供應的光引擎一組約 5,000 到 1 萬美元。一個機櫃後面有 5,000 多條線,若每條都換成一組 CPO,5,000 乘以 5,000,等於多出 2,500 萬美元,但一個機櫃也才 300 萬到 500 萬美元,還沒算耗電,這不太可能。
去年合計大概只賣了幾千套,主要還是送樣,裝在 Spectrum-X Photonics(共同封裝光學交換器)上測試。比 GPU 還貴很多,大家不能接受,所以台積電得持續讓效率更好、價格更低。
Q5:矽光子概念股熱潮下,台灣的真實機會在哪裡?
A: 難度越高越好,一旦做成,訂單就不容易跑掉,而且機會不只屬於台積電。我這 2 年回來看到,很多像鐵工廠的中小企業練了 20、30 年,發現資料中心需要它們,散熱、插槽等各個環節都出現好幾千元的千金股。台灣中小企業資本額不大、技術門檻卻很高,以前什麼難題都能客製化做出來,剛好碰上 AI,整體經濟就雞犬升天。
另一個是地緣政治。美國巨頭和美國政府希望採用非紅供應鏈,因為資料中心有資料安全考量,這建立在信任之上。全球光模組前 10 大中,中國業者就占了 7 家。
但因為地緣政治,美國的 Lumentum、美商應用光電(AAOI)這 2 年股價都漲了 10 倍以上。台灣是美國比較信賴的夥伴,又什麼都做得出來,光纖、FAU 等上下游都受惠,有機會跟美國巨頭、跟台積電一起練兵。
Q6:從學界走向創業,為什麼選擇台灣、選擇新竹?
A: 從 2013 年做到現在,光的技術已經到了拐點,要產業化、商業化,可能得換個角色、換個位置才推得動。我比較不追求安穩,變化大才是我想玩的,所以職涯一直在變動,雖然要付出更多心力,但很值得,因為至少我們可以選擇。
在台灣創業跟美國差很多。台灣投資人會先問你代工哪個部分、能不能做得比較便宜,但我們做的是一整套光電引擎解決方案,大家拚的是能不能實現、能不能量產,比較是概念先行;美國投資人則是想玩大。
人才是我決定回台的關鍵。大灣區環境很好,人才都是好學校畢業,卻缺乏良好的產業訓練。新竹不一樣,要找 IC、先進封裝、光學、光電半導體的人,全部找得到,人才流通也快。史欽泰教授說過,他一生做什麼事,在新竹大概就夠了。清大、交大的學生在學時就透過指導教授的產學合作接觸業界實務,就像灣區的柏克萊、史丹佛形成的良性循環。比較難的是年輕人,台積電、聯發科吸引了很多人,台灣年輕人還是希望有大靠山,怎麼吸引他們一起搞創新是我們的難題。
Q7:CPO 何時量產?對投資人與創業者有什麼建議?
A: 我們預估 CPO 大概 2 年,也就是 2028 年,也可能更晚。所以我們選擇 NPO(近封裝光學)先行,光元件不必和晶片共同封裝,在同一個基板(substrate)上就可以,比較容易做。
NPO 在 2028 年達到大量生產,大家比較有信心。量產裝置也同步開發中,轉移、先進封裝等核心設備會跟設備商一起開發,我們負責加入 AI 這個「大腦」。
如果要給投資人或創業者一個建議,我們是創業新兵,不敢說有什麼心得。但現在是很好的時代,因為我們被直接需要。俗話說站在風口的豬都能起飛,台灣人很勤奮,就像那些數十年磨一劍的中小企業,憑著很多小小的技術,讓資料中心卡關的地方得以通過。找對風口、打好基礎工,大家都很有機會,每天都很好玩、很刺激。
收聽完整 Podcast|EP300. 等於把高鐵站蓋到每一棟建築門口,專家看矽光子量產瓶頸和時間? ft. 陽明交大講座教授、瑞利光智能創辦人何志浩
(本文初稿為 AI 編撰)
