AMD新AI GPU搭載美光HBM3E　支援達5200億個參數AI模型

美光 HBM3E 12 層堆疊 36GB 記憶體現已通過多個領先 AI 平台的認證，為 AMD Instinct MI350 系列 GPU 平台帶來領先業界的記憶體技術，提供卓越的頻寬表現和更低的功耗。

AMD Instinct MI350 系列 GPU 平台採用 AMD 先進的 CDNA 4 架構，整合 288GB 高頻寬 HBM3E 記憶體，可提供高達 8 TB/s 的頻寬，實現優異的吞吐量。憑藉如此龐大的記憶體容量，Instinct MI350 系列 GPU 可在一顆 GPU 上高效支援高達 5,200 億個參數的 AI 模型。

在完整平台配置中，Instinct MI350 系列 GPU 可搭載高達 2.3TB 容量的 HBM3E 記憶體，並在 FP4 精度下實現高達 161 PFLOPS 的峰值理論效能，具備頂尖的能源效率和可擴充性，適合高密度 AI 工作負載，為大型語言模型訓練、推論和科學模擬任務提供卓越的傳輸效能，不僅有助資料中心順暢無礙的擴展，更能達成每瓦運算效能的極大化。美光和 AMD 攜手合作，有效縮短了 AI 解決方案的上市時間。