AI伺服器市場爆發,AMD如何以節能晶片領航業界新革命?

Featured Image
研調機構 TrendForce 於 5/17 舉辦 AI 伺服器串聯供應鏈商機,會中邀請多位重量級業界人士開講。AMD 台灣區商用業務處資深技術顧問張歐佑豪指出,隨著生成式 AI 興起,全球對於 AI 運算力的需求急速上升,目前模型參數量已達上百億、上千億,未來運算能耗值得關注,若發電技術無法突破,AI 算力恐無法達到所需的提升。

張歐佑豪指出,AMD 針對每個應用場景所需,提供不同加速晶片,最適合的加速器晶片有助於優化能耗,使效能達最好平衡。因此,AMD 提供從資料中心(Data center)、邊緣(Edge)到終端(End-point)都有不同產品相對應。

首先是資料中心,還有很多企業尚未導入,過去舊資料中心電力嚴重不足,企業更新需要盤查舊設備,才能更新並騰出更多 AI 空間進行運算。星展銀行在 2019 年與 AMD 合作,選擇 AMD 作為核心業務系統 x86 供應商,就是看到系統只需要一半電力,剩餘空間可承載未來 10 倍成長等優勢。

在最新案例中,第 4 代 AMD EPYC™ 處理器對比英特爾第 5 代 Xeon 處理器,可大幅減少所需裝置數,支援最節能的 x86 伺服器,提供卓越效能並協助降低能源成本和降低客戶採購成本。AMD EPYC™ 處理器在伺服器市占達 31%,張歐佑豪認為,「對客戶來說,AMD 省錢、省電、省空間的這些價值主張就特別重要」。

此外,目前美國橡樹嶺國家實驗室(ORNL)的 Frontier 超級電腦搭載 AMD EPYC™ 處理器與 AMD Instinct 加速器,連續三屆稱霸全球最快電腦榜首。

另針對 AI 晶片,AMD 提供「Instinct MI300X」解決方案 ,與台積電合作採用 3D 小晶片(Chiplets)堆疊架構。AMD 表示,公司未來也將持續使用 3D 封裝技術,而這款晶片在訓練和推論上可與 H100 有相同效能,但所需的 GPU 伺服器數量更少,有助採購成本下降,減少設備數量,使能源更有效運用。 目前 AMD Instinct MI300X 加速器和技嘉、華碩、英業達、緯創、緯穎、聯想等 OEM 和合作夥伴合作。

Share this content:

熱門内容

  • AI資訊
  • AI工具
  • AI繪圖指令
  • 食譜
  • ai生成圖片

    Introduction MyEdit  Midjourney DALL·E3 Stable Diffusio…

    Read more


  • Janitor Ai

    Introduction Platform Overview 1 Account Terminati…

    Read more


  • Stable Video Diffusion 穩定的圖片轉動畫Demo

    Stable Video Diffusion 穩定的圖片轉動畫Demo

    Stable Video Diffusion能讓你用一張圖片變成動畫. 限制 Share this conte…

    Read more


  • HappyAccidents

    HappyAccidents

    HappyAccidents是一個提供預先訓練的AI模型庫的平台,讓使用者能夠輕鬆生成圖像而無需手動下載和上傳…

    Read more


  • 文心一格

    文心一格

    「文心一格」是百度推出的一個基於文心大模型能力的AI藝術和創意輔助平台。該平台於2022年8月正式發布,利用百…

    Read more


  • Ai Gallery

    Ai Gallery

    Ai Gallery為用戶提供了一個強大的工具,利用人工智慧技術根據用戶輸入提示產生令人驚嘆的圖像。但是要強調…

    Read more


  • Graviti Diffus

    Graviti Diffus

    Graviti Diffus 是一個免部署的在線平台,專注於提供穩定擴散(Stable Diffusion)的…

    Read more


  • Aitubo

    Aitubo

    Aitubo是一個AI創作工具,它提供了方便且強大的功能,讓使用者能夠透過文本和照片輸入來生成藝術作品。 Ai…

    Read more


  • SeaArt

    SeaArt

    SeaArt AI是一款免費且強大的AI繪畫工具,它能夠幫助使用者無需專業技能,輕鬆生成高品質的繪畫作品。 S…

    Read more


  • Diffusion Art

    Diffusion Art

    DiffusionArt是一個精選的開源AI藝術模型庫,專注於藝術、動漫和照片逼真圖像的生成,涵蓋數十個類別。…

    Read more