NVIDIA 和 Rafay 通过加速计算解决方案增强 AI 工作负载
realtime news Apr 10, 2025 12:51
NVIDIA 和 Rafay 正在合作，通过先进的加速计算解决方案增强 AI 工作负载，重点关注企业 AI 基础设施和自助服务平台。
全球对生成式 AI 的需求显著增加，这推动了对加速计算硬件的需求，促使企业部署先进的私有云基础设施。据 NVIDIA 称，这一增长导致了 GPU 云提供商或 AI 云的出现，它们为 AI 工作负载提供加速计算能力。
自助服务 AI 基础设施
开发人员和数据科学家现在需要无缝的自助获取计算资源，避免传统系统带来的延迟。因此，云提供商优先考虑自助工作流，以优化 GPU 基础设施的利用率。NVIDIA AI Enterprise 通过在自助环境中为模型部署提供安全的微服务，加速 AI 工作负载。
GPU PaaS 开发中的挑战
构建生产就绪的 GPU PaaS 平台需要持续的开发、支持和安全维护。像 Rafay 这样的基础设施软件供应商通过提供可部署的 PaaS 解决方案为 GPU 驱动的环境提供关键支持，促进企业私有云和云提供商的创新。
Rafay 在 AI 基础设施中的作用
Rafay 平台使企业能够通过企业级控制交付自助服务 PaaS 用于 AI 基础设施。该平台专为 NVIDIA 加速计算而设计，支持 NVIDIA AI Enterprise 以及各种 AI 模型和框架，为 AI 开发和模型训练提供全面的平台。
与 NVIDIA AI Enterprise 的集成
Rafay 提供工具构建 AI 代理，如 NVIDIA NIM 和 NeMo，作为 NVIDIA AI Enterprise 生产就绪部署的一部分。该平台还通过其环境管理层使云提供商能够提供额外的 AI 服务。
企业可以利用 Rafay 管理基础设施，提供计算服务，并以自助方式部署 AI 工具。平台的功能包括 SKU 自动化、自助服务门户、企业级用户管理和 Kubernetes 集群生命周期管理。
地区实施和影响
印度尼西亚的区域云提供商如 Lintasarta 计划使用 Rafay 平台提供 AI 推理和训练工作负载的 PaaS 功能。Indosat Ooredoo Hutchinson 的首席执行官 Vikram Sinha 强调了他们与 NVIDIA 和 Rafay 的合作，以定义 AI 应用的 PaaS 要求。
总体而言，Rafay 平台通过提供生产就绪的 PaaS 解决方案，结合 NVIDIA 的加速计算基础设施及其平台功能，以缩短 AI 项目的上市时间，满足 AI 工作负载的需求。
欲了解更多信息，请访问 NVIDIA 博客。
Image source: Shutterstock