AMD崛起:AI伺服器市場的節能新星與技術革新

Featured Image
研調機構 TrendForce 於 5/17 舉辦 AI 伺服器串聯供應鏈商機,會中邀請多位重量級業界人士開講。AMD 台灣區商用業務處資深技術顧問張歐佑豪指出,隨著生成式 AI 興起,全球對於 AI 運算力的需求急速上升,目前模型參數量已達上百億、上千億,未來運算能耗值得關注,若發電技術無法突破,AI 算力恐無法達到所需的提升。 張歐佑豪指出,AMD 針對每個應用場景所需,提供不同加速晶片,最適合的加速器晶片有助於優化能耗,使效能達最好平衡。因此,AMD 提供從資料中心(Data center)、邊緣(Edge)到終端(End-point)都有不同產品相對應。 首先是資料中心,還有很多企業尚未導入,過去舊資料中心電力嚴重不足,企業更新需要盤查舊設備,才能更新並騰出更多 AI 空間進行運算。星展銀行在 2019 年與 AMD 合作,選擇 AMD 作為核心業務系統 x86 供應商,就是看到系統只需要一半電力,剩餘空間可承載未來 10 倍成長等優勢。 在最新案例中,第 4 代 AMD EPYC™ 處理器對比英特爾第 5 代 Xeon 處理器,可大幅減少所需裝置數,支援最節能的 x86 伺服器,提供卓越效能並協助降低能源成本和降低客戶採購成本。AMD EPYC™ 處理器在伺服器市占達 31%,張歐佑豪認為,「對客戶來說,AMD 省錢、省電、省空間的這些價值主張就特別重要」。 此外,目前美國橡樹嶺國家實驗室(ORNL)的 Frontier 超級電腦搭載 AMD EPYC™ 處理器與 AMD Instinct 加速器,連續三屆稱霸全球最快電腦榜首。 另針對 AI 晶片,AMD 提供「Instinct MI300X」解決方案 ,與台積電合作採用 3D 小晶片(Chiplets)堆疊架構。AMD 表示,公司未來也將持續使用 3D 封裝技術,而這款晶片在訓練和推論上可與 H100 有相同效能,但所需的 GPU 伺服器數量更少,有助採購成本下降,減少設備數量,使能源更有效運用。 目前 AMD Instinct MI300X 加速器和技嘉、華碩、英業達、緯創、緯穎、聯想等 OEM 和合作夥伴合作。 * * * 科技新知,時時更新 * * *

Share this content: