NVIDIA AI Foundry 提供全面的生成式 AI 模型服務，涵蓋集合管理、合成資料產生、微調、檢索、防護和評估，以部署具備全新NVIDIA NeMo Retriever微服務，以提供精準回應的客製化Llama 3.1 NVIDIA NIM 微服務。NVIDIA AI Foundry 由 NVIDIA DGX Cloud AI 平台驅動，該平台是與世界領先的公有雲共同設計的，可為企業提供重要的運算資源，並可根據 AI 需求的變化輕鬆擴展。
NVIDIA解釋，NVIDIA AI Foundry是一項服務，能夠讓企業利用資料、加速運算及軟體工具來創建和部署能夠增強其生成式 AI 計畫的客製化模型。
就像台積公司製造其他公司設計的晶片一樣，NVIDIA AI Foundry 提供基礎設施和工具，讓其他公司能夠透過使用 DGX Cloud、基礎模型、NVIDIA NeMo 軟體、NVIDIA 專業知識以及生態系工具和支援，開發和客製化 AI 模型。
關鍵差異在於產品：台積公司生產實體的半導體晶片，而 NVIDIA AI Foundry 則協助創建客製化模型。兩者都促進創新，並連結到龐大的的工具和合作夥伴生態系。
NVIDIA 創辦人暨執行長黃仁勳表示，「Meta 公開推出的 Llama 3.1 模型代表了全球企業採用生成式 AI 的關鍵時刻。Llama 3.1 為每個企業和產業打開了建構最先進的生成式人工智慧應用的閘門。 NVIDIA AI Foundry 已全面整合 Llama 3.1，並準備好協助企業建置和部署客製化 Llama 超級模型。」
Meta 創辦人暨執行長馬克．祖克伯（Mark Zuckerberg）表示，「全新的 Llama 3.1 系列模型為開源AI的超級重要一步。企業透過NVIDIA AI Foundry可以輕鬆創造和客製大家最想要的先進的AI服務，並透過 NVIDIA NIM 部署。我很高興能把它交付到大家的手中。」
為了增強用於生產 AI 的 Llama 3.1 模型的企業部署，現在可從ai.nvidia.com下載適用於 Llama 3.1 模型的NVIDIA NIM推論微服務。 NIM 微服務是在生產環境中部署 Llama 3.1 模型的最快方式，與不使用 NIM 運行推理相比，吞吐量可提高 2.5 倍。
企業可以將 Llama 3.1 NIM 微服務與全新 NVIDIA NeMo Retriever NIM 微服務配對，為AI copilots、助理和數位人分身創建最先進的檢索管道。
醫療保健、金融服務、零售、運輸和電信領域的公司已經開始使用 NVIDIA NIM 微服務來支援 Llama。首批使用 Llama 3.1 新版 NIM 微服務的企業包括沙烏地阿拉伯國家石油公司、AT&T、Uber和其他產業領導者。
點擊閱讀下一則新聞
