
合作夥伴力挺!輝達Blackwell Ultra推論效能優異 AI部署投報率更佳
【記者呂承哲/台北報導】推論效能是人工智慧(AI)工廠經濟效益的核心關鍵,輸送量越高,就能以更快速度產生更多詞元(token),進而提高營收、降低總擁有成本(TCO),並提升整體系統的生產力,輝達(NVIDIA)Blackwell Ultra 架構GB300 NVL72 機架系統,在GTC大會首度亮相半年後,便於 MLPerf Inference v5.1 推論基準測試中刷新紀錄,相較於 GB200 NVL72,在 DeepSeek-R1 推論輸送量上最高可達 1.4 倍。