美光表示,SOCAMM2 進一步升級先前發表的 LPDRAM SOCAMM(small outline compression attached memory modules)記憶體模組,在同尺寸下容量提升 50%,並能縮短推論首個 token 生成時間(TTFT)逾 80%。該模組搭載美光最先進的 1γ (1-gamma) DRAM 製程,使能源效率提升 20% 以上,並有助於大型資料中心叢集的電力配置最佳化。在全機櫃式 AI 部署環境中,可支援超過 40TB 的 CPU 直連低功耗 DRAM 主記憶體,具顯著節能效益。模組化設計也提升維修便利性,利於未來容量擴展。

美光已與NVIDIA合作五年,率先將低功耗伺服器記憶體導入資料中心。SOCAMM2 將 LPDDR5X 低功耗與高頻寬特性引入 AI 系統主記憶體,旨在滿足大型 AI 平台不斷演進的需求,在提高資料傳輸量同時實現能源效率躍升,為 AI 訓練與推論樹立新標準。

美光資深副總裁暨雲端記憶體事業部總經理Raj Narasimhan指出,AI工作負載更繁重,資料中心伺服器需在「每瓦功耗產生更多tokens」,美光在低功耗DRAM的領導地位可確保SOCAMM2具備高資料傳輸量、節能與大容量優勢,並符合資料中心級品質要求。

透過強化設計特性與測試規格,SOCAMM2將原為手機打造的低功耗DRAM升級為資料中心級解決方案。美光強調,公司在高品質資料中心DDR記憶體上深耕多年,有助產品滿足雲端客戶對可靠度與穩定性的嚴格需求。

相較同級RDIMM,SOCAMM2能源效率提升逾三分之二,體積則縮至三分之一,提升資料中心空間利用率,最大化容量與頻寬,亦利於液冷伺服器設計。美光表示,SOCAMM採用創新堆疊與模組化技術,提高維修彈性並可支持未來升級。

美光亦積極參與 JEDEC SOCAMM2 規範制定,並與業界合作推動低功耗記憶體標準,期望加速其在 AI 資料中心的採用,以提升整體能源效率。SOCAMM2 目前已送樣,單模組容量達192GB、速度9.6Gbps,量產將依客戶產品上市時程規劃。

 


點擊閱讀下一則新聞 點擊閱讀下一則新聞
「一開始沒人看得起代工」史欽泰揭秘辛 台積電熬成全球霸主靠這招