當今的免費、開源大型語言模型環境對企業來說就像是無限自助餐,豐富選擇對於正在開發客製化生成式人工智慧應用程式的開發者來說,可能讓人不知所措,因為他們需要應對獨特的專案和業務需求,包括相容性、安全性以及用來訓練模型的資料。
NVIDIA AI Foundation Models是企業級預訓練模型的精選集合,為開發人員提供將客製化生成式人工智慧帶入他們企業的良好開端。NVIDIA最佳化的基礎模式加速創新NVIDIA AI Foundation Models可以透過簡單的使用者介面或 API 直接從瀏覽器體驗。並測試企業應用程式中的效能。
此外,這些模型已經經過NVIDIA TensorRT-LLM的最佳化,以實現最高的吞吐量和最低的延遲,並且可以在任何NVIDIA GPU加速堆疊上大規模運行。例如,使用 TensorRT-LLM最佳化的 Llama 2 模型在 NVIDIA H100 上的運行速度提高了近 2 倍。
新的NVIDIA Nemotron-3 8B模型系列支援創建當今最先進的企業聊天和問答應用程式,適用於包括醫療保健、電信和金融服務等廣泛的行業。這些模型是協助客戶建立安全、可立即上線使用的生成式人工智慧應用程式的起始點。 這些模型在來源可靠的資料集上進行訓練,並以與更大模型相媲美的效能運行,非常適合企業部署。
NVIDIA 在 Microsoft Azure 上為全球企業和新創公司推出人工智慧代工服務。這個端到端的解決方案包括一系列的NVIDIA AI Foundation Models、NVIDIA NeMo™框架和工具以及NVIDIA DGX™ Cloud人工智慧超級運算服務,讓新創和企業可以在Microsoft Azure上順暢的開發和部署客製化的人工智慧模型。
除此之外,NVIDIA也宣布加速企業客製化生成式AI模型開發、加速器車數位、為全球電信產業建立客製化大型語言模型等。
爆料信箱:news@nextapple.com
★加入《壹蘋》Line,和我們做好友!
★下載《壹蘋新聞網》APP
★Facebook 按讚追蹤