“`html
NVIDIA 再次震撼業界，隆重推出 Blackwell Ultra GB300 AI 晶片，這款晶片不僅是 NVIDIA 目前效能最強大的 AI 晶片，更預示著 AI 運算領域即將迎來新一輪的技術革新。相較於前代 GB200，GB300 在效能上提升了驚人的 50%，並配備了高達 288GB 的 HBM3e 記憶體，為處理更大規模、更複雜的 AI 模型提供了堅實的硬體基礎。這項突破性技術的出現，將為各行各業帶來前所未有的機會，加速 AI 應用落地。
Blackwell Ultra GB300 的核心技術與突破
GB300 採用先進的雙曝光大晶片設計，透過 NV-HBI 高速互連技術，將兩顆大型晶片整合為一體，實現 10TB/s 的超高頻寬。這種設計不僅提升了晶片的整體效能，也使其能夠更有效地處理大規模的資料集和複雜的 AI 模型。
記憶體配置：288GB HBM3e 的重要性
GB300 配備了 288GB 的 HBM3e 高頻寬記憶體，頻寬高達 8TB/s，相較於 GB200 的 192GB 記憶體有了顯著的提升。這使得 GB300 能夠支援超過 3000 億參數的模型，讓 AI 模型可以處理更長的上下文，並達到更高效能。這對於需要處理大量資料的 AI 應用，例如自然語言處理、影像辨識等，至關重要。
第五代 NVLink 技術：GPU 互連的新標準
GB300 支援第五代 NVLink 技術，單顆 GPU 雙向頻寬達 1.8TB/s，最多可支援 576 顆 GPU 串接。這使得多 GPU 協同運算成為可能，極大地提升了 AI 模型的訓練速度和推論效率。此外，GB300 還支援 PCIe Gen6 和 Grace CPU 間的 NVLink-C2C 協同運作，進一步增強了系統的整體效能。
企業應用：Blackwell Ultra 的無限可能
Blackwell Ultra 支援 MIG（多實例 GPU）分區、安全運算與 AI 預測性維運功能，使其在企業應用方面具有廣泛的潛力。透過 MIG 分區，企業可以將 GPU 資源分配給不同的應用程式或使用者，提高資源利用率。安全運算功能則確保了 AI 模型和資料的安全性，降低了資料洩露的風險。AI 預測性維運功能則可以幫助企業預測硬體故障，及早採取預防措施，降低停機時間。
GB300 NVL72 機架系統：極致運算能力的代表
Grace Blackwell Ultra 更將一顆 Grace CPU 直接連接兩顆 GPU，組成 GB300 NVL72 機架系統，峰值運算能力可達 1.1 EFLOPS（FP4）。這種高階整合系統將為 AI 模型的訓練和推論提供前所未有的運算能力，加速各行各業的 AI 應用落地。
安全與管理：保障 AI 模型和資料的安全
GB
相關連結：
Share this content:
