如果一家企業,想把AI伺服器機櫃、液冷解決方案、除濕、防火和監控設備通通搬到公司,需要「喬」出多大的空地才放得下?
答案可能有點驚人,「只要一個車位的大小就夠了。」台達機電解決方案新事業發展部主管陳立修說完,隨即補充:「不是遊覽那種位子喔!一般的小客車位就OK。」
台達電於6月COMPUTEX擺出的重磅產品,已經實際應證這個說法。會場躺著一個長5.5、寬2.5公尺的20呎貨櫃,民眾排隊走進其中,會看見資料中心該有的設備一應俱全,以濃縮版本整齊擺放,不浪費一點空間。
這是近年隨著AI熱潮崛起的新商機「貨櫃型資料中心」解決方案,把設備通通拼裝好,組進貨櫃裡,出貨時已完成測試,吊車拉到現場,插上電就完工啟用。台達電作為電源模組大廠,早早盯上這個市場,2020年起已出貨給超過10家客戶,總出貨量超過50個貨櫃。
為何市場需要貨櫃資料中心?
身在其中耕耘,台達電明顯感受到市場需求的變化。陳立修指出,過去邊緣運算只需5kW,就能滿足客戶的單櫃IT功率,如今因應生成式AI爆炸性增長,已飆升到100kW,整整暴增了20倍。這也意味著,台達電必須用十倍甚至二十倍的密度,將過去占據一整個機房的設備,極限濃縮進車位大小的貨櫃裡。
需求暴漲的原因在兩個字:速度。
AI晶片迭代之快,逼著基礎設施也跟著狂奔。陳立修形容,若以傳統資料中心平均兩年的建置期來看,「對真正需要AI算力的企業來說,這兩年,足以讓他們的技術被市場淘汰兩輪了。」
台達電的貨櫃,正是面對這個問題提出的解方。陳立修指出,一旦企業完成複雜的前期準備(包括內部IT部門的協商和場地確認), 台達電可以在三個月內完成貨櫃的安裝與部署,為企業帶來絕對的時間差優勢 。
台達電的「極限壓縮術」,把龐大算力全塞進一個貨櫃
要把龐大的AI算力塞進貨櫃中絕非易事,「以前只要維護電就好了,現在進入到水冷時代之後,你連水管、水質都要維護,這都會變成額外的負擔。」陳立修指出,水、電兩大領域,考驗著廠商的技術實力。
電:In-Rack POWER,電源起家的高效率縮影
台達電在設計時,為了能提高內部空間利用,採用了In-Rack(機櫃內) POWER設備。業界多數競爭者採用傳統的In-Room(機房內)供電,需要擠出空間,將電源分配機台獨立放置,台達電選擇直接將電源整合進伺服器機櫃內部,釋放多餘的空間。
光擠出空間還不夠,在AI算力的耗電量壓力下,電源本身的效率更是關鍵,「我們的效率都一直在業界都是維持領先的,這個貨櫃的容量越大,效率只要改善1%,在整個場域的性能上都會很有感。」
他們深知,每多一次轉換就會多一份熱能浪費。為此推出了800V高壓直流電源架構,大幅減少交流電轉換為晶片所需直流電的次數,整體能效提升約4%以上,最高可達92%。減少轉換次數讓散熱效率更佳。
水:L2A,最務實的「自給自足」解方
至於水,關乎到另一大痛點——散熱設計。在AI時代,液冷才足以帶走龐大的熱能,水塔就成為必備項目,「我們很早就想像到,一般企業界要去為這個20尺的貨櫃去準備額外的水塔,這件事對他們來說絕對是困難的。」
陳立修坦言,水塔占用空間、維護也麻煩,因此台達電在貨櫃資料中心選擇採用的是液對氣(L2A, Liquid-to-Air)解決方案,透過冷卻液直接貼合晶片帶走熱量,接著在機櫃後方用風扇(氣)強力吹涼,讓冷卻液迅速恢復冷卻能力。
L2A的核心優勢在於,它避開了複雜的外部管線配置和水塔維護,讓貨櫃型資料中心可以自給自足,且無需大幅改動現有伺服器架構,就已通過NVIDIA GB200 NVL72的認證,相當於拿到了當前AI晶片散熱能力的最高級別通行證。
資料中心需求超大!台達電AI基礎設施向海外布局
那麼,誰願意自己買一個貨櫃資料中心放在公司?
目前台達電的答案是,資訊主權(Data Sovereignty)考量的金融、醫療以及電信業者。對這些企業來說,如何保護機密數據,或者將獨有的知識財產鎖在自家堡壘,是這場競爭中最關鍵的保衛戰。
回到台灣市場,陳立修坦言目前推進上的最大難點是空間與土地取得,例如難以在高樓層或擁擠的市區部署,也正是因為這些嚴苛限制,他們目前先將策略重點鎖定在對速度有極致需求、且具備土地優勢的海外市場。
台達電的海外戰場主要聚焦美國、歐洲、日本 等人工短缺、需要快速部署的區域,以及東南亞等資料中心新建量大的地區。台達電也在今年10月法說會中透露,今年AI產品營收占比估20-30%左右,成長幅度明顯高於原先預期,隨著AI資料中心建置需求持續推進,預期比重有望進一步提升。
AI世代來臨,台達電除了本業電源模組的技術突進外,也試圖扮演「極限空間設計師」的角色,以電源和散熱的硬底子功夫,找到下一代AI基礎設施的解方。
