AMD首度公布MLPerf測試結果 展現全新AI領先地位
【記者呂承哲／台北報導】AMD於2日宣布首次 MLPerf 基準測試結果，在MLPerf 4.1推論中，搭載ROCm的MI300X為Llama 2 70B等大型LLM提供卓越的推論效能，與輝達（Nvidia）的H100的測試結果不分軒輊。
輝達Blackwell GPU首次測試亮相 在Llama 2 70B推論效能提高4倍
【記者呂承哲／台北報導】在企業爭相採用生成式人工智慧（AI）與陸續推出各項新服務的情況下，對資料中心基礎設施的需求也創下新高，GPU巨頭輝達（NVIDIA）宣布，使用Blackwell GPU 進行的首次測試結果，在 Llama 2 70B 上將推論效能提高四倍，而 NVIDIA Hopper 架構也在各產業 AI 基準測試中有著更為優異的表現。
輝達最新MLPerf訓練測試 以較去年3.2倍GPU規模實現3倍以上性能
【記者呂承哲／台北報導】輝達（NVIDIA）宣布，與去年提交創新紀錄的數據相比，NVIDIA 在基於 GPT-3 175B 的大型語言模型（LLM）基準測試中的表現，提升了三倍以上。 NVIDIA 使用配備11,616 個NVIDIA H100 Tensor Core GPU 並與NVIDIA Quantum-2 InfiniBand 網路連接的人工智慧（AI）超級電腦，透過更大規模（比一年前提交的3,584 個H100 GPU 增加三倍多）和廣泛的全端工程實現了這項非凡壯舉。
loading
