英特爾亞太暨日本區總經理莊秉翰指出,隨著AI需求激增,資料中心正面臨可擴充性、成本效益及能源效率的挑戰。為應對市場需求,英特爾推出搭載P-core的Xeon 6處理器和Gaudi 3 AI加速器,結合強大的x86架構與開放生態系,協助企業以最佳總體擁有成本(TCO)構建高效AI系統,滿足複雜工作負載。
搭載P-core的Xeon 6處理器專為邊緣運算、資料中心及雲端環境設計,支援超高記憶體及I/O頻寬,可加速AI運算、高效能運算(HPC)及資料服務工作負載。該平台最高支援128個核心、12個記憶體通道及96條PCIe通道,相較前一代效能提升高達兩倍。Xeon 6處理器還嵌入AI加速功能,並有效調度GPU運行資源,進一步鞏固其在市場的領導地位。
Xeon 6處理器支援DDR5技術與MRDIMM,傳輸速度達每秒8,800百萬次(8,800 MT/s),實現高頻寬、低延遲的運算環境。此外,其為業界首款支援CXL 2.0技術的伺服器處理器,提升記憶體容量與頻寬,滿足高效率資料傳輸需求,進一步優化AI和HPC的處理效能。
Gaudi 3 AI加速器則針對大規模AI運算設計,可支援大型語言模型、多模態應用及企業RAG等AI工作負載。相較前一代,Gaudi 3的BF16運算能力提升4倍,記憶體與網路頻寬分別提升1.5倍與2倍,大幅優化AI訓練和推論效率。此外,Gaudi 3與PyTorch無縫整合,並支援Hugging Face模型庫,提供更高的開發效率。
英特爾與IBM攜手合作,將Gaudi 3 AI加速器布署於IBM Cloud,Inflection AI也選用此加速器作為其商用AI系統的核心技術,以提供更具競爭力的每瓦效能,滿足企業對大規模布署的靈活性及擴充性需求。
英特爾也展示多項AI應用,包括能處理圖片和文字資訊的BridgeTower視覺語言模型、生成圖片描述的LLaVA-Llama3語言助手,以及業界首款生成式3D模型LDM3D,讓用戶能輕鬆生成高精度360度影像。在醫療領域,英特爾的Bio-Mistral模型可進行醫學問答,而CheXNet則運用AI輔助X光影像判讀,提高診斷效率並降低醫療成本。
英特爾並展示先進散熱解決方案,包括應用於浸沒式冷卻及水冷板技術的超流體散熱技術,搭配新開發的介電液,有效防止漏液對伺服器的損害。此技術僅需調整冷卻液分配裝置設計,即可支援超過1500W的晶片散熱需求,助力資料中心達成高效能與永續性目標。