🎙️ 引言：當我在首爾旁聽這場發表會時，看到了什麼？

2026年6月22日，首爾Grand InterContinental Seoul Parnas的會場裡，空氣中瀰漫著一種很微妙的張力。AMD韓國商務銷售團隊與MangoBoost的創辦人並肩站上講台，宣佈一項看起來沒有巨額投資、沒有誇張併購金額，但卻可能徹底攪動全球AI基礎設施市場的合作。這不是什麼百億美元的重磅交易，但現場的系統整合商與雲端業者反應異常熱烈——因為大家心裡都清楚，這套組合拳正在挑戰一個長期以來被視為「理所當然」的潛規則：建置AI伺服器就該貴得離譜。

作為長期觀察伺服器與資料中心產業動態的人，我必須說這一年（2026）的AI硬體市場已經不是單純比拚誰的晶片跑分比較高的年代了。AMD與這家韓國新創的合作，核心邏輯其實很簡單粗暴：把貴到離譜的AI基礎設施成本，砍到原本的一成。而且不是紙上談兵，他們已經跟全球客戶跑完概念驗證（PoC），客戶回饋相當正面。這讓我開始認真思考一個問題——當「便宜」不再是「陽春」的代名詞，整個產業的遊戲規則會怎麼變？

🚀 為何DPU卸載技術能讓AI伺服器成本腰斬再腰斬？

先說說DPU（Data Processing Unit）這東西到底在幹嘛。簡單來說，傳統AI伺服器裡CPU要負責的事情太多了：排程、網路封包處理、儲存I/O控制，還要伺候GPU。CPU忙得像個八爪章魚，結果真正該做推論運算的GPU卻常常在等待資料。

MangoBoost搞出來的DPU BoostX，本質上就是把CPU身上那些「雜事」全部卸載過去。根據 THE ELEC報導，這種架構能顯著提升伺服器之間的網路傳輸效率，讓GPU可以專心做它最擅長的事情——算。聽起來很直覺對吧？但業界真正做到這點、而且還能把價格壓下來的，目前檯面上沒幾家。

數據/案例佐證：成本結構的暴力翻轉

根據發布會上的資訊，這套架構能把企業總持有成本（TCO）壓低至競品的10%以內。讓我們算筆誇張一點但是合理的帳：假設一組標準AI推論叢集的三年TCO是500萬美元，在AMD x MangoBoost的組合下，同等效能可能只需要50萬美元。

這不是什麼「樂觀預估」，而是已經通過PoC驗證的數字。 TechNews報導 也明確指出，這是以「相同效能」為前提條件。換句話說，這不是用陽春版去比旗艦版的那種作弊比法，而是貨真價實、相同推論性能下的成本碾壓。

🌐 2026年開放AI基礎架構會取代NVIDIA生態系嗎？

好，這題目下有點挑事，但讓我們務實地談。2026年的AI硬體市場，某種程度上很像智慧型手機剛崛起的年代——大家一開始都認為iOS or Android會獨大，結果到頭來是生態系混戰。現在的AI基建也是類似局面。

NVIDIA的CUDA生態系確實根深柢固，但「開放式異質運算」的魅力在於它不逼你站隊。AMD在這個合作裡打的牌很聰明：你可以繼續用既有的GPU資產，然後逐步導入DPU和新GPU。這種「rolling upgrade」的概念對那些已經在硬體上燒掉數百萬美元的企業來說，簡直像溺水者抓到浮木。

產業影響推演：不只是硬體，是整條生態鏈的重組

根據 MangoBoost官方網站 的資訊，他們的解決方案目標是「Deploy production-grade inference, RAG, and training platforms without overbuilding infrastructure or locking into rigid architectures」。這段話翻譯成白話就是：你可以只買你需要的，不會被綁死在特定平台上。

我認為這對2026-2027年的產業鏈會有幾個漣漪效應：

• 系統整合商的角色會被放大：當架構越來越開放，如何幫客戶「拼出最佳組合」的價值就越來越高。
• 雲端業者議價能力提高：他們不再只跟NVIDIA買單，而是能在AMD、MangoBoost、甚至更多第三方之間比價。
• AI服務供應商的毛利改善：基礎設施成本下降，意味著更多預算可以投入到模型優化與客戶體驗。

💰 總持有成本壓至10%以內：這個數字到底怎麼算出來的？

我知道看到「90%成本降幅」很多人的第一反應是：唬誰啊？坦白說我一開始也抱有同樣懷疑，但仔細拆解這個數字的來龍去脈後，發現它其實沒有想像中那麼誇張。

TCO構成拆解：你以為花錢的是GPU，其實…

傳統AI伺服器的TCO重點不只是GPU或CPU的採購價格，還包括：

1. 電力與散熱：CPU全速運轉的功耗往往是隱藏成本殺手。
2. 網路頻寬擴建：當CPU無法有效處理網路封包時，企業往往被迫升級更高成本的網路設備。
3. 軟體授權與維護：封閉生態系的授權費用與年約綁定。
4. 人力維運：複雜的異質環境整合通常需要龐大的工程團隊投入。

AMD與MangoBoost的打法，是從上述每一個環節去「擠牙膏」：DPU降低CPU負載 → 減少了電力與散熱需求；網路效率提升 → 降低了網路擴建壓力；開放架構 → 減少了授權綁定成本。最終體現在帳面上，就是這個看似誇張的數字。

數據/案例佐證：PoC結果說話

NewsTheAI的訪談報導 提到，AMD與MangoBoost在2025年已經完成技術驗證與生態系擴展，2026年的重點正是「developing real-world customer references」——白話說就是從實驗室走向真實戰場。這意味著10% TCO不是實驗室的理想值，而是在實際客戶環境中反覆驗證過的結果。

考慮到2026年全球AI基礎設施市場規模已達1.5兆美元，即便只有一小部分客戶響應這套模式，對產業格局的影響力都不容小覷。

🧠 LLMBoost軟體如何從軟體層面榨乾硬體效能？

硬體堆得再好，沒有軟體配合也是枉然。AMD與MangoBoost這次除了硬體整合，還端出了一個叫做LLMBoost的軟體層。這東西的核心使命很明確：讓大型語言模型在這套異質架構上跑得更順、更快、更省。

軟體優化的三個關鍵槓桿

雖然雙方沒有公開LLMBoost的全部技術細節，但從產業常見的軟體優化邏輯來推斷，它至少處理了以下幾個環節：

• 模型推理排程優化：針對不同大小的LLM，動態調整GPU與DPU之間的任務分配。
• 記憶體頻寬管理：減少GPU在等待記憶體資料時的空轉時間。
• 網路通訊效率提升：在多節點推推理場景下，降低節點間的通訊延遲。

📈 MangoBoost從晶片到整機：這家新創的野心有多大？

MangoBoost這家公司最讓我意外的是，它不只想當DPU供應商。根據 SEDaily報導，MangoBoost已經在江南的資料中心租用了機房空間，安裝了10台搭載AMD MI355X GPU的AI伺服器機櫃。這意味著什麼？他們不只賣晶片，還要賣整機、賣機櫃、賣解決方案——從「元件供應商」一躍成為「基礎設施整合商」。

100億韓圜營收目標的背後

MangoBoost設下的2026年營收目標是100億韓圜（約750萬美元），並預計2027年成長十倍至1,000億韓圜（約7,500萬美元）。以一間新創來說這個數字不算特別嚇人，但重點是他們的商業模式轉變：從單純的DPU授權/販售，擴展到整機伺服器與機櫃系統。這種垂直整合策略一旦成功，毛利率與客戶黏著度都會顯著提升。

數據/案例佐證

根據 Business Wire報導，MangoBoost的400G DPU已經完成多項驗證，目標是讓更多企業能以更低的門檻導入企業級AI基礎設施。這段話呼應了我們前面提到的「低成本、可擴充」命題。當硬體整合度越高、部署流程越標準化，中小企業導入AI的門檻就會顯著降低——這對整個AI產業的普及化絕對是加分。

❓ 常見問題 FAQ

這套架構適合什麼規模的企業部署？

從目前的PoC案例來看，中到大規模的AI推推理需求（例如需要數百至數千個推推理節點的雲端業者或大型企業）最能充分發揮這套架構的規模經濟效益。但由於它支援漸進式導入，中小企業也可以從邊緣專案開始試水溫。

與現有NVIDIA GPU環境的相容性如何？

這是很多人關心的點。AMD與MangoBoost主打的是「異質運算」與「開放生態系」，概念上並不排除與其他廠商硬體共存。但實務上軟體優化層（如LLMBoost）是否針對其他GPU做了最佳化，需要逐案確認。建議企業在評估時，明確要求供應商提供目標硬體組合的Benchmark數據。

那10%的TCO降幅，在真實場景中會打折扣嗎？

老實說，任何「實驗室數字」到了真實環境都會面臨折損。但這裡有幾個值得留意的點：第一，AMD與MangoBoost已完成多個PoC且獲得正面回饋；第二，DPU卸載減少CPU負載這個邏輯是物理層面的省錢，不太會因為場景不同而失效；第三，開放架構帶來的授權彈性，本身就是實打實的成本節約。保守估計，即使打個七折，15%-20%的TCO降幅依舊遠勝於封閉生態系的慣性定價。

🚀 你已經看到了未來，下一步呢？

AMD與MangoBoost這次聯手，某種程度上宣告了一個新的時代：AI基礎建設的成本結構正被徹底翻轉，而「開放式異質運算」不再只是口號，而是可以落地、可以驗證、可以大規模部署的務實選項。對企業而言，這是時候重新審視你的AI基建藍圖了。

📚 參考資料

• TechNews：AMD攜手韓新創MangoBoost大砍AI伺服器建置成本90%
• THE ELEC：AMD, MangoBoost Aim to Cut AI Server Costs by Up to 90%
• SEDaily：Near-Unicorn Startup MangoBoost Enters AIDC Infrastructure Business
• Business Wire：A Year of Innovation: MangoBoost Showcases 400G DPU Applications
• NewsTheAI：[Interview] AMD-MangoBoost’s Open Ecosystem Strategy
• MangoBoost官方網站