Iguazio 和 NVIDIA 合作，通过 MLRun 和 NIM 增强 AI 部署
realtime news May 29, 2025 11:51
Iguazio 和 NVIDIA 携手合作，利用 MLRun 和 NVIDIA NIM 提升 AI 部署能力，为企业提供可扩展且高效的解决方案。
Iguazio（现已成为麦肯锡公司旗下 AI 部门 QuantumBlack 的一部分）与 NVIDIA 之间的战略合作标志着人工智能部署领域的重大进展。根据NVIDIA的说法，该合作旨在为组织提供必要的工具，以创建不仅高性能和可扩展且灵活且适用于真实世界应用的生产级 AI 解决方案。
利用 NVIDIA NIM 增强 AI
NVIDIA 的 NIM 微服务在加速多云或数据中心环境中生成 AI 的部署方面发挥了至关重要的作用。这些微服务支持广泛的 AI 模型，包括 NVIDIA 的 AI 基础、社区和定制模型，确保使用行业标准 API 的无缝和可扩展的 AI 推理过程。NIM 框架旨在根据基础模型、GPU 和系统动态选择最佳的推理引擎，从而提高效率。
MLRun：AI 编排框架
MLRun 是由 Iguazio 开发的开源 AI 编排框架，自动化整个 AI 流水线，促进 NIM 在生产环境中的部署。它涵盖企业级应用所需的所有要素，包括批处理和实时数据流水线、CI/CD 自动化、数据沿袭追踪和模型监控。通过支持自动扩展和无服务器架构，MLRun 确保资源优化，成为 AI 部署的全面解决方案。
实际应用和收益
在实际应用中，一家大型金融机构利用 MLRun 开发了一个多代理聊天机器人系统。该系统采用意图分类和实时监控来提高操作效率并确保合规性。由 NVIDIA NIM 提供支持的聊天机器人架构展示了框架在金融服务中支持复杂 AI 驱动任务的能力，包括贷款查询、投资建议和一般客户服务。
MLRun 与 NVIDIA NIM 的整合为 AI 部署提供了一个强大的解决方案，提供无服务器部署、GPU 高效利用和全面的 MLOps 集成等功能。这种协同作用使企业能够部署具有优化性能的可扩展 AI 应用，有效解决关键的生产挑战。
结论
Iguazio 和 NVIDIA 通过 MLRun 和 NIM 的合作代表了 AI 部署技术的一大进步。通过结合优化的推理和强大的操作监控，该合作使企业能够充分发挥 AI 的潜力，提供跨多个行业的可扩展和高效的解决方案。
Image source: Shutterstock