
壹蘋新聞網
綜合報導
帶您快速了解新聞核心內容:NVIDIA在Hot Chips大會上展示其AI推理所需的高效能技術,並推出新產品以支援大型AI模型和高效能運算。新的硬體與網路技術提升傳輸速度、效能和能效,同時還強調了軟硬體整合,以便在各種應用和推理平台上實現AI創新。
重點整理如下:
- NVIDIA介紹的新技術,包括Connect X-8SuperNIC,提供高速、低延遲的多GPU通訊,支持AI模型運行。
- NVIDIA完整網路平台,如NVLink和Spectrum-X,推動AI計算效能並整合多個資料中心。
- 矽光子技術及CPO交換器有助於加速傳輸並降低能耗,突破AI基礎設施瓶頸。
- GB200 NVL72系統整合36顆GB200超級晶片,提供exascale效能,適用於大型AI推理和高效能運算。
- GeForce RTX 5090 GPU提升遊戲效能,和DGXSpark針對生成式AI的高效運算設計。

loading