Nvidia AI factory data center servers cooling GPUs
image credit : pexels

“`html





輝達(NVIDIA)AI工廠的野心:擁抱Intel、三星,打造百萬瓩級運算奇蹟



輝達(NVIDIA)正在積極構建未來的人工智慧(AI)工廠,透過與Intel、三星等產業巨頭合作,推出全新的Vera Rubin架構,目標是打造高效能、高效率的百萬瓩級AI工廠。這個宏大的計劃不僅關乎輝達自身的發展,也將深刻影響整個AI產業的未來走向。這代表著AI運算能力的一次飛躍,也預示著資料中心基礎設施將迎來革命性的變革。

Vera Rubin架構:輝達AI工廠的核心引擎

  • Vera Rubin NVL144 MGX是什麼?為何如此重要?
    Vera Rubin NVL144 MGX是輝達新世代開放式架構機架伺服器,旨在提供高效能、可擴展的AI運算能力。它的重要性體現在:

    • 開放式架構: 促進生態系統的合作與創新。
    • 模組化設計: 方便升級與維護,降低整體成本。
    • 高效能: 支援NVIDIA Kyber平台,可連接576顆Rubin Ultra GPU,滿足日益增長的AI推論需求。
  • 800伏特直流電(VDC):資料中心的能源革命

    從傳統的415或480伏特交流電(VAC)三相系統轉向800 VDC基礎設施,是提高資料中心可擴展性、提升能源效率、減少材料使用並增加效能的關鍵。這項技術在電動車與太陽能產業已廣泛應用,現在也將引入AI資料中心。

    NVLink Fusion生態系:Intel與三星的加入意味著什麼?

    NVLink Fusion旨在協助企業將半客製化晶片無縫整合至高度最佳化的資料中心架構。Intel與Samsung Foundry的加入,擴大了這個生態系的影響力,能夠更快速地擴展AI工廠,應對模型訓練與代理型AI推論等高強度工作負載。

    相關實例

    CoreWeave、Lambda、Nebius、Oracle Cloud Infrastructure與Together AI等廠商正在設計800伏特資料中心,以支援NVIDIA Kyber。Vertiv發表了節省空間、降低成本且高效節能的800 VDC MGX參考架構。HPE宣布其產品將支援NVIDIA Kyber及NVIDIA Spectrum-XGS乙太網路擴展技術。

    優勢和劣勢的影響分析

    • 優勢:
      • 更高效能的AI運算能力。
      • 更高的能源效率,降低營運成本。
      • 更快速的部署與擴展能力。
      • 更廣泛的生態系統合作,促進創新。
    • 潛在劣勢:
      • 初期建置成本可能較高。
      • 需要對現有資料中心基礎設施進行升級。
      • 技術複雜度較高,需要專業人員維護。

    深入分析前景與未來動向

    輝達的AI工廠計劃,不僅將推動AI技術的

    相關連結:

    siuleeboss

    Share this content: