英特爾亞太暨日本區總經理莊秉翰指出,隨著AI需求激增,資料中心正面臨可擴充性、成本效益及能源效率的挑戰。為應對市場需求,英特爾推出搭載P-core的Xeon 6處理器和Gaudi 3 AI加速器,結合強大的x86架構與開放生態系,協助企業以最佳總體擁有成本(TCO)構建高效AI系統,滿足複雜工作負載。

搭載P-core的Xeon 6處理器專為邊緣運算、資料中心及雲端環境設計,支援超高記憶體及I/O頻寬,可加速AI運算、高效能運算(HPC)及資料服務工作負載。該平台最高支援128個核心、12個記憶體通道及96條PCIe通道,相較前一代效能提升高達兩倍。Xeon 6處理器還嵌入AI加速功能,並有效調度GPU運行資源,進一步鞏固其在市場的領導地位。

英特爾亞太暨日本區總經理莊秉翰於活動現場介紹基於Intel Xeon平台的AI應用。英特爾提供
英特爾亞太暨日本區總經理莊秉翰於活動現場介紹基於Intel Xeon平台的AI應用。英特爾提供

Xeon 6處理器支援DDR5技術與MRDIMM,傳輸速度達每秒8,800百萬次(8,800 MT/s),實現高頻寬、低延遲的運算環境。此外,其為業界首款支援CXL 2.0技術的伺服器處理器,提升記憶體容量與頻寬,滿足高效率資料傳輸需求,進一步優化AI和HPC的處理效能。

Gaudi 3 AI加速器則針對大規模AI運算設計,可支援大型語言模型、多模態應用及企業RAG等AI工作負載。相較前一代,Gaudi 3的BF16運算能力提升4倍,記憶體與網路頻寬分別提升1.5倍與2倍,大幅優化AI訓練和推論效率。此外,Gaudi 3與PyTorch無縫整合,並支援Hugging Face模型庫,提供更高的開發效率。

Xeon 6能有效調度GPU運行資源,目前市場上高達73%的GPU伺服器是使用Intel Xeon系列處理器作為主處理器。英特爾提供
Xeon 6能有效調度GPU運行資源,目前市場上高達73%的GPU伺服器是使用Intel Xeon系列處理器作為主處理器。英特爾提供

英特爾與IBM攜手合作,將Gaudi 3 AI加速器布署於IBM Cloud,Inflection AI也選用此加速器作為其商用AI系統的核心技術,以提供更具競爭力的每瓦效能,滿足企業對大規模布署的靈活性及擴充性需求。

英特爾也展示多項AI應用,包括能處理圖片和文字資訊的BridgeTower視覺語言模型、生成圖片描述的LLaVA-Llama3語言助手,以及業界首款生成式3D模型LDM3D,讓用戶能輕鬆生成高精度360度影像。在醫療領域,英特爾的Bio-Mistral模型可進行醫學問答,而CheXNet則運用AI輔助X光影像判讀,提高診斷效率並降低醫療成本。

英特爾並展示先進散熱解決方案,包括應用於浸沒式冷卻及水冷板技術的超流體散熱技術,搭配新開發的介電液,有效防止漏液對伺服器的損害。此技術僅需調整冷卻液分配裝置設計,即可支援超過1500W的晶片散熱需求,助力資料中心達成高效能與永續性目標。

Intel Gaudi 3 AI加速器採用高效率Intel® Gaudi®平台,專為大規模AI運算所設計,可於資料中心或雲端上支援大型語言模型、多模態模型與企業RAG等AI應用程式。英特爾提供
Intel Gaudi 3 AI加速器採用高效率Intel® Gaudi®平台,專為大規模AI運算所設計,可於資料中心或雲端上支援大型語言模型、多模態模型與企業RAG等AI應用程式。英特爾提供
英特爾分享先進散熱解決方案的最新進展,其超流體技術(Open IP SuperFluid Cooling Technology)除了應用在浸沒式冷卻解決方案之外,也將此技術導入水冷板散熱系統中。英特爾提供
英特爾分享先進散熱解決方案的最新進展,其超流體技術(Open IP SuperFluid Cooling Technology)除了應用在浸沒式冷卻解決方案之外,也將此技術導入水冷板散熱系統中。英特爾提供

點擊閱讀下一則新聞 點擊閱讀下一則新聞
醫療科技展將開展!國泰00922受惠 專家曝1原因勝老牌市值ETF