Mercury 2 速度對比：擴散式 LLM 測試 1,196 tok/s

Q: 2027 年生成式 AI 市場規模預估多少？

根據多份產業報告綜合預估，2027 年全球生成式 AI 市場將突破 1.5 兆美元，其中即時互動應用與自動化內容生產將是成長最快的兩個板塊。

Mercury 2 速度對比是這篇文章討論的核心

Mercury 2 怎麼贏過 Google DiffusionGemma？擴散式 LLM 的產業格局重劃

圖片來源：Pexels — Tara Winstead

💡 核心結論 & 📊 關鍵數據

Mercury 2 是 Inception Labs 推出的擴散式大型語言模型（dLLM），在 NVIDIA Blackwell GPU 上實測達到 1,009 至 1,196 tokens/s 的推論速度，且端到端延遲僅 1.7 秒。相較之下，Google DeepMind 的 DiffusionGemma 26B-A4B 在同類硬體上約為 1,100+ tok/s。兩者雖同樣採用「非自回歸、平行去噪」架構，但 Mercury 2 獨家搭載 reasoning-capable 設計，成為業界首個具備推理能力的 dLLM，在 8 項 benchmark 中穩居 95th percentile，而推理成本僅落在 51st percentile，CP 值相當驚人。

🛠️ 行動指南

開發者與創作者應儘速評估將 Mercury 2 整合進生成管線的可行性——尤其是需要「即時互動」與「低成本高吞吐量」的應用場景，例如遊戲對話、即時影像生成與大規模內容製作。

⚠️ 風險預警

DiffusionGemma 雖為開源（Apache 2.0），但 Mercury 2 目前主要 STDERR 仰賴 API 與第三方平台（如 OpenRouter），客製化彈性仍待觀察；此外，擴散式架構在「長文本一致性」上的邊界仍不明朗，企業導入前建議先設定 A/B 測試。

為什麼擴散式架構能夠終結自回歸 LLM 的壟斷？

從 2017 年 Transformer 橫空出世到現在，我們習慣了「一個蘿蔔一個坑」的生成邏輯：模型從左到右、逐字逐句地吐出 token。這種自回歸（Autoregressive, AR）方式造就 GPT、Claude 系列等巨獸，但問題也愈發明顯——它天生無法平行處理，推論延遲與 token 數成正比，像是請一個人逐字寫稿，永遠快不起來。

Inception Labs 由史丹佛教授 Stefano Ermon 與前學生 Aditya Grover（UCLA）、Volodymyr Kuleshov（Cornell）於 2024 年共同創辦，早些年他們其實是影像擴散模型的先驅。這回把 Stable Diffusion 背後的「去噪」邏輯搬進文字領域，直接開創了 diffusion LLM（dLLM） 這個全新品類。Mercury 2 的做法從根本顛覆：它先產生一團雜計，再透過多次迭代把整段文字「聚焦」出來。你可以把它想像成拍照——不是一筆一畫畫出來，而是從模糊到清晰。

這個架構最迷人的地方在於「平行精煉」（parallel refinement）。傳統 AR 模型受限於因果遮罩（causal masking），每個 token 必須等前一個，但 dLLM 可以在同一時間對整個 256-token canvas 進行去噪，硬體利用率大幅提高。獨立測試機構 Artificial Analysis 的數據顯示，Mercury 2 的 throughput 是 Claude 4.5 Haiku 的 13 倍以上、GPT-5 Mini 的 17 倍，這不是小修小補，是結構性的降維打擊。

🧠 Pro Tip：專家見解
「擴散式架構的真正殺招不是速度，而是它改變了『成本結構』——同樣一張 GPU，你能服務的請求量是 AR 模型的 5 到 10 倍。這對 SGE 時代需要『即時回應』的應用來說，是商業模式的翻盤。」

Mercury 2 與 DiffusionGemma 的硬碰硬：數據不會說謊

Google DeepMind 在 2025 年 6 月 10 日釋出 DiffusionGemma 26B-A4B，這是 Gemma 家族首次嘗試「文字擴散」路線。26B MoE 架構、3.8B 活躍參數、256K 上下文長度、Apache 2.0 開源授權，單論規格確實亮眼。官方數據顯示在 H100 上可達 1,100+ tok/s，比傳統 Gemma 快 4 倍。但魔鬼藏在細節裡：

推理能力：DiffusionGemma 在 reasoning 與 coding benchmark 上的得分明顯低於 Gemma 4，對於需要複雜邏輯推演的任務相對吃力。
商業定位：DiffusionGemma主打「本地端低併發」場景，而 Mercury 2 則瞄準「高速 API 服務」與「推理級任務」，兩者目標市場分道揚鑣。
速度與延遲：Mercury 2 在 Blackwell GPU 上測得 1,009–1,196 tok/s，且端到端延遲僅 1.7 秒，幾乎把「即時對話」的門檻拉到了新的天花板。

根據 Decrypt / Crypto Briefing 的報導，Mercury 2 在相同硬體上的 fidelity（生成品質）與 inference 速度雙雙超越 DiffusionGemma，這意味著它不僅贏在「快」，還贏在「好」。AI 創作者工具的競賽，正在從「誰的模型最大」轉向「誰能在單位成本內產出最多高品質內容」。

🧠 Pro Tip：專家見解
「開發者在選型時，別只看 tok/s 那個數字。DiffusionGemma 的 256K context 確實驚人，但如果你的應用場景是『即時對話』而非『讀一本書再回答』，Mercury 2 的低延遲優勢會更致命。建議用真實 production trace 跑一輪 latency vs. quality 的 trade-off。」

2027 年生成內容產業鏈會長什麼樣子？

全球生成式 AI 市場在 2024 年已突破數千億美元，到 2027 年，市場規模預估將突破兆美元大關。這波成長的引擎不是「更大的模型」，而是「更便宜的推論」。Mercury 2 代表的 dLLM 典範，直接把推論成本壓到傳統 AR 模型的五分之一以下，這會從根本改變產業鏈分工：

遊戲與即時互動：當 AI 對話延遲低於 2 秒，NPC 就不再是腳本驅動的木偶，而是能即時回應玩家、生成個人化劇情的「虛擬演員」。Mercury 2 的速度讓這件事從示範影片變成商業現實。
大規模內容生產：電商、媒體、廣告代理商過去仰賴人海戰術產圖、寫文案。現在，一個設計師搭配 Mercury 2 的 API，一天能產出過去一週的工作量，而且品質穩定。
開源 vs. 商業 API 的拉鋸：DiffusionGemma 的 Apache 2.0 開源策略會推動「自托管」市場，但 Inception Labs 透過與 OpenRouter、Models.dev 等平台的結盟，同步搶佔云端服務的高黏性客戶。兩種商業模式並行，但「速度」永遠是付費轉換率的關鍵。

更深遠的影響在於「創意工具的民主化」。當生成成本趨近於零，每個人都能成為內容生產者，藝術家與開發者不再受硬體與預算限制。這聽起來烏托邦，但殘酷的現實是：誰能駕馭這些工具，誰就能在內容過載的時代搶佔注意力紅利。

🧠 Pro Tip：專家見解
「2027 年的贏家不是『會用 AI 的人』，而是『能把 AI 吞吐的內容轉化為商業變現』的人。Mercury 2 之類的工具降低的是『生產門檻』，不是『變現門檻』。建議企業主現在就開始建立内部 A/B 測試機制，找出最適合自己產業的生成管線。」

開發者該知道的優勢、限制與風險

雖然 Mercury 2 的成績單很亮眼，但任何技術都不是萬能仙丹。以下是我們整理給技術決策者的務實清單：

優勢

極致速度：1,009–1,196 tok/s、1.7 秒端到端延遲，重新定義「即時」的標準。
推理能力：首個具備 reasoning 能力的 dLLM，不只是一個「快」的花瓶。
成本效益：Benchmark 顯示定價落在 51st percentile，高品質與高速度並未伴隨高價格。

限制與風險

生態系統尚未成熟：目前主要透過 API 與少數合作夥伴（如 OpenRouter）提供服務，開源程度不如 DiffusionGemma，客製化彈性有限。
長文本一致性：擴散式架構在「超長連貫文本」上的表現仍缺乏大規模驗證，128K context 雖長，但長篇小說或技術文件的一致性還待觀察。
競爭白熱化：OpenAI、Google、Anthropic 都在砸錢優化自家模型，dLLM 的先發優勢能否維持超過 18 個月，還需要時間驗證。

归根结底，Mercury 2 帶來的最大啟示是：AI 競賽的賽道已經從「誰的參數量最多」轉向「誰能用最低成本產出最高品質的內容」。如果你能搶先掌握這套新邏輯，就能在接下來的內容海嘯中站穩腳步。