AI生成再升級!MultiDiffusion可以指定圖像位置,怎麼讓愛因斯坦與泰勒絲同框?
AI生成再升級!MultiDiffusion可以指定圖像位置,怎麼讓愛因斯坦與泰勒絲同框?

以前AI繪圖有個問題,就是畫出來的內容不可控。你希望某個東西出現在特定的位置上,但是往往事情跟你想的不一樣。

這邊哈士奇,那邊牧羊犬,背景在下雪天。啪!一幅畫就這麼完成了。

MultiDiffusion
圖/ T客邦

這個最新 MultiDiffusion 模型框架,不管選的區域位置有多離譜,它都能給你畫出指定的東西來。
比如,你能看到大象和乳牛同框?

MultiDiffusion
圖/ T客邦

而且線上可試,親測大概 15 秒就能出,你甚至可以看到泰勒絲與愛因斯坦跨時空同框。

MultiDiffusion
圖/ T客邦

要知道以前 AI 繪圖最大的一個 bug 就是不可控,但現在人類擁有了更多的控制權。
總之就是,能夠想畫什麼就畫什麼,想往哪畫就往哪畫!

有網友趕緊上手試了試:Not Bad!

MultiDiffusion
圖/ T客邦

想往哪畫就往哪畫

從效果來看,主要有三個方面的應用。
* 文字到高解析度全景生成
* 精確區域生成
* 任意長寬比粗略區域生成。

首先,只需要一句話,就可以生成 512* 4609 解析度的全景圖。

一張有滑雪者的雪山頂峰的照片。

MultiDiffusion6
圖/ T客邦

攝影師也不用爬樓了,直接獲得城市夜景圖。

MultiDiffusion
圖/ T客邦

當然更為重要的功能,那就是給特定區域單獨提示,然後 AI 繪畫就來指哪畫哪。

比如在黑色部分是一個明亮的盥洗室,紅色區域是一面鏡子、藍色部分是花瓶、黃色部分是白色的水槽。

MultiDiffusion
圖/ T客邦

就這麼隨手一個拼圖畫,結果就生成了真實場景。

MultiDiffusion
圖/ T客邦

不過也有一些 bug,像一些超現實的,他就有點太天馬行空了。

比如三體人在宇宙中大戰人類。

MultiDiffusion
圖/ T客邦

當然也可以無需那麼精確,只需標個大致位置,還支援任意長寬比的圖像。

MultiDiffusion11
藍色部分是埃菲爾鐵塔、紅色是粉色的雲、綠色是熱氣球 。
圖/ T客邦

關鍵是各種構圖都十分地合理、場景效果以及實際物體相對大小也都十分精準。

圖像生成可控

背後的這個模型叫做 MultiDiffusion,這是一個統一的框架,能實現多功能和可控的圖像生成。

以往即便 Diffusion 模型給圖像生成帶來變革性影響,但使用者對生成圖像的可控性、以對新任務的快速適應仍是不小的挑戰。

研究人員主要是通過重新訓練、微調,或者另外開發工具等方式來解決。就像前不久爆火外掛 ControlNet 正是解決了圖像生成的可控性,而 MultiDiffusion 無需進一步訓練或微調,就可一次實現對生成內容的多種靈活控制,包括期望的長寬比、空間指示等。

MultiDiffusion
圖/ T客邦

簡單來說,MultiDiffusion 的關鍵在於,在預先訓練好的擴散模型上定義一個全新的生成過程。從噪聲圖像開始,在每個生成步驟中,解決一個最佳化任務。

然後再將多個擴散生成過程與一組共享的參數或約束結合起來,目標是將每個部分都儘可能去接近去噪版本。

MultiDiffusion
圖/ T客邦

即便有時候每個步驟都可能會將圖像拉向不同的方向,但最終都能得到一個無縫圖像。

延伸閱讀:Midjourney V5實測、教學來了!AI畫作終於長出「正常的手」,更真實卻更恐怖?

來自魏茨曼科學研究所

這篇論文主要來自位於以色列雷霍沃特的魏茨曼科學研究所。

MultiDiffusion
圖/ T客邦

兩位共同一作 Omer Bar-Tal、Lior Yariv 分別是魏茲曼科學研究院電腦科學和應用數學系的研究生和博士生,後兩位分別是他們的導師。

MultiDiffusion
左:Omer Bar-Tal;右:Lior Yariv.png
圖/ T客邦

好了,感興趣的朋友可戳下方試一試哦!
https://huggingface.co/spaces/weizmannscience/MultiDiffusion

首頁連結論文連結

本文授權轉載自:T客邦

責任編輯:傅珮晴、錢玉紘

關鍵字: #ai人工智慧
往下滑看下一篇文章
AI 競爭全新戰場!美光 Mike Cordano:記憶體將成下一個企業戰略制高點
AI 競爭全新戰場!美光 Mike Cordano:記憶體將成下一個企業戰略制高點

從生成式AI訓練、推論,到代理式工作流程(Agentic Workflow)與未來的實體AI,資料流量正以指數級成長,讓記憶體從過去支援運算的配角躍升為決定AI效能與能源效率的關鍵角色。

全球知名的半導體與微電子技術分析機構TechInsights指出,AI競爭正逐漸從晶片算力擴展到記憶體架構設計能力,加速「Computational Memory」等新架構興起;在這波浪潮中,深耕記憶體與儲存技術數十年的美光科技,正與關鍵夥伴展開深度協同設計,包含攜手NVIDIA共同開發適用於新世代資料中心的低功耗記憶體技術,在AI基礎建設的新賽局中成為不可或缺的關鍵。

當GPU不再是唯一主角,記憶體為何躍上AI舞台中央?

過去,半導體的焦點多圍繞在晶片,例如CPU、GPU跟AI加速器等,市場普遍認為,晶片運算能力是左右科技產業發展速度的關鍵,但在進入生成式AI世代後,產業逐漸發現另一個事實:真正限制AI效能的瓶頸不是運算,而是資料能否快速被存取與傳輸。

從大型語言模型訓練,到AI推論、代理式工作流程(Agentic Workflow),甚至未來的機器人與自駕車,龐大的資料流量正持續推升對高頻寬、低延遲、高容量記憶體的需求,讓記憶體產業從過去相對標準化、以價格競爭為主的市場,逐漸轉變為AI基礎建設的重要核心。

「仔細觀察AI應用服務會發現,大多數工作負載都被頻寬限制。」美光科技全球業務執行副總裁Mike Cordano認為,記憶體是突破(頻寬)瓶頸的關鍵,也讓AI競賽從晶片算力升級到記憶體與儲存架構的系統級競爭。這樣的產業洞察,也正是Mike在歷經二十餘年的儲存產業資歷,加上四年半的創投生涯後,選擇加入美光的核心原因之一:在AI重塑產業結構的浪潮下,記憶體將成為這波成長最直接的動能所在。

美光 x 數位時代
美光科技全球業務執行副總裁 Mike Cordano
圖/ 數位時代

從零組件供應商到策略夥伴,記憶體共創時代來臨

AI的崛起,正在改變記憶體廠商與客戶的關係。

過去,記憶體產品多是標準化元件,客戶關注的是價格、供貨與規格;合作模式也偏向短期採購與交易導向。然而隨著AI系統規模愈來愈大,從資料中心、雲端平台到終端裝置,記憶體已經成為決定系統效能的重要關鍵,也因如此,越來越多企業將記憶體視為「策略性資產」,而非單純零組件。

Mike表示:「現在,我們跟客戶合作的時間跨度改變了,在產品正式上市前三到四年便開始合作,從系統架構階段就共同規劃未來需求。」例如,美光科技與NVIDIA共同研發的資料中心所使用的低功耗記憶體,便是雙方提前多年展開深度合作(co-design)的成果。

值得特別注意的是,美光科技除從技術層面與晶片製造商等夥伴共創產品,也在需求層面與客戶進行密切合作,例如,將過去較無約束力、期限僅一年的長期協議(LTA)轉變成為期五年、條款更具約束力的策略性客戶協議(SCA),藉此掌握客戶的未來需求,進而在技術層面做更深度的合作。Mike坦言,深度協同設計是高成本的投入,美光的做法是先廣泛進行市場感知,理解不同場域的需求方向,再與生態系統中的夥伴們展開客製化合作。

從裝置導向轉為Token導向,AI浪潮重寫記憶體成長模式

除了合作模式改變,更大的典範轉移是需求的改變。

Mike解釋,過去記憶體需求跟PC、手機跟伺服器出貨量息息相關,但在AI新世代,推動記憶體需求成長的核心不再是設備數量,而是AI模型所產生的運算與資料消耗量。「AI產業逐漸走向以『Consumption』或『Token』為主的新經濟模式,每一次的模型運算都需要消耗大量的記憶體跟儲存資源,這意味著,即使設備銷量成長趨緩,記憶體需求仍可能持續上升。」

更重要的是,AI應用正從資料中心外擴至手機、PC、自駕車與機器人等場域,儘管不同場域對記憶體的需求不盡相同,但是,Mike認為:所有AI裝置都存在三項共同需求:更快的速度、更大的容量,以及更高的能源效率。

正如Mike在受訪時提到的:「我們最大的挑戰,是如何與客戶和整個生態系保持高度一致,一方面創造供給與產能,另一方面持續推動技術創新。」可以預期,在接下來的五年,記憶體產業面臨的挑戰不僅僅是擴展產能,而是如何與客戶共同規劃需求、同步投入技術創新,而這也是美光科技積極經營AI生態體系的原因。

總的來說,AI帶來的改變,不只是算力提升,而是重新定義整個運算架構:過去,記憶體被視為支援運算的基礎元件;現在,則是決定AI效能、能源效率與創新速度的關鍵資源;當產業競爭從晶片性能延伸到資料流動效率,從裝置數量轉向Token消耗量,記憶體的重要性也將隨之水漲船高,對美光科技來說,這將是其從供應商走向AI生態系核心夥伴的關鍵角色轉變。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
代理式商務連動百兆商機
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓