英特爾執行副總裁暨資料中心與AI解決方案總經理Justin Hotard指出,「AI需求帶動資料中心大規模轉型,產業因此開始在軟硬體和開發工具上尋求更多選擇。英特爾推出搭載效能核心(P-core)的Xeon 6和Gaudi 3 AI加速器將促進開放生態系發展,使我們的客戶能以更佳的效能、效率和安全性,滿足所有工作負載。」

Intel Xeon 6處理器,專為運算密集型工作負載設計,並搭載效能核心(P-core),提供相較上一代處理器2倍的效能提升。這款處理器具備更高的核心數、倍增的記憶體頻寬,並將AI加速功能嵌入每個核心,滿足從邊緣到資料中心及雲端環境的AI效能需求。

Intel Gaudi 3 AI加速器則是針對大規模生成式AI進行最佳化,配備64個張量處理器核心(TPC)與8個矩陣乘法引擎(MME),並內建128 GB HBM2e記憶體及24個200 Gb乙太網路連接埠,能加速深度神經網路運算。Gaudi 3與PyTorch框架、Hugging Face Transformer模型和diffuser模型無縫相容。英特爾與IBM合作,將Gaudi 3作為服務部署至IBM Cloud,期望客戶在AI使用與擴展上,既能提升效能,又能降低總持有成本(TCO)。

Gaudi 3。英特爾提供
Gaudi 3。英特爾提供

大規模部署AI涉及多種考量因素,包括靈活彈性的部署選項、具競爭力的價格效能比以及可用的AI技術。英特爾憑藉其強大的x86架構和廣泛的開放生態系,支援企業建構具備最佳化總持有成本(TCO)與每瓦效能的高價值AI系統。值得注意的是,市場上多達73%的GPU加速伺服器使用Intel Xeon系列處理器作為伺服器處理器(host CPU)。英特爾與領導OEM夥伴如戴爾科技、美超微合作,開發共同設計的系統,以滿足客戶在AI部署中的特定需求。其中,戴爾科技與英特爾正合作設計適用於Gaudi 3和Xeon 6的解決方案,並以檢索增強生成(RAG)技術為基礎。

Intel Tiber產品組合為企業提供解決方案,專門應對橫跨AI、雲端與邊緣環境的挑戰,涵蓋存取、成本、複雜性、安全性、效率與可擴充性。Intel Tiber Developer Cloud現已提供英特爾Xeon 6的預覽系統,供技術評估與測試使用,特定客戶還可搶先體驗英特爾Gaudi 3,以驗證AI模型布署。Gaudi 3叢集將於下一季開始推向市場,支援大規模量產布署。新的服務產品如Seekr推出的端到端AI平台SeekrFlow,專為開發可信賴AI應用程式而設計。平台更新包括Gaudi軟體新版本、整合PyTorch 2.4的Jupyter Notebooks、英特爾oneAPI及AI工具2024.2版,這些更新提供全新的AI加速功能,並支援Xeon 6處理器。


點擊閱讀下一則新聞 點擊閱讀下一則新聞
2024半導體大事回顧|輝達AI晶片將每年換代!帶動液冷、HBM商機