研調機構 TrendForce 於 5/17 舉辦 AI 伺服器串聯供應鏈商機，會中邀請多位重量級業界人士開講。台灣區商用業務處資深技術顧問張歐佑豪指出，隨著生成式 AI 興起，全球對於 AI 運算力的需求急速上升，目前模型參數量已達上百億、上千億，未來運算能耗值得關注，若發電技術無法突破，AI 算力恐無法達到所需的提升。 張歐佑豪指出，AMD 針對每個應用場景所需，提供不同加速晶片，最適合的加速器晶片有助於優化能耗，使效能達最好平衡。因此，AMD 提供從資料中心（Data center）、邊緣（Edge）到終端（End-point）都有不同產品相對應。 首先是資料中心，還有很多企業尚未導入，過去舊資料中心電力嚴重不足，企業更新需要盤查舊設備，才能更新並騰出更多 AI 空間進行運算。星展銀行在 2019 年與 AMD 合作，選擇 AMD 作為核心業務系統 x86 供應商，就是看到系統只需要一半電力，剩餘空間可承載未來 10 倍成長等優勢。 在最新案例中，第 4 代 AMD EPYC™ 處理器對比英特爾第 5 代 Xeon 處理器，可大幅減少所需裝置數，支援最節能的 x86 伺服器，提供卓越效能並協助降低能源成本和降低客戶採購成本。AMD EPYC™ 處理器在伺服器市占達 31%，張歐佑豪認為，「對客戶來說，AMD 省錢、省電、省空間的這些價值主張就特別重要」。 此外，目前美國橡樹嶺國家實驗室（ORNL）的 Frontier 超級電腦搭載 AMD EPYC™ 處理器與 AMD Instinct 加速器，連續三屆稱霸全球最快電腦榜首。 另針對 AI 晶片，AMD 提供「Instinct MI300X」解決方案 ，與台積電合作採用 3D 小晶片（Chiplets）堆疊架構。AMD 表示，公司未來也將持續使用 3D 封裝技術，而這款晶片在訓練和推論上可與 H100 有相同效能，但所需的 GPU 伺服器數量更少，有助採購成本下降，減少設備數量，使能源更有效運用。 目前 AMD Instinct MI300X 加速器和技嘉、華碩、英業達、緯創、緯穎、聯想等 OEM 和合作夥伴合作。 * * * 科技新知，時時更新 * * *
Share this content:
