NVIDIA推出增强保护大语言模型的安全AI正式发布

realtime news   Apr 24, 2025 00:03  UTC 16:03

1 Min Read

NVIDIA官方宣布其安全AI解决方案的正式发布,此举旨在加强企业在采用AI进行训练和推理时大语言模型(LLM)的安全性。这一公告由Emily Sakata在NVIDIA开发者博客上发布,强调了在AI操作中保护敏感数据和知识产权的必要性。

增强的安全功能

此次安全AI发布引入了几个关键功能,旨在提升数据保护。其中一个突出的功能是保护PCIe(PPCIE)模式,它可以在机密虚拟机中保护多GPU配置。与之前的单一GPU配置相比,这一模式标志着重要的转变,为复杂的AI工作负载提供了更强大的安全保障。

此外,为了在不影响安全的情况下提升性能,NVIDIA移除了NV Link加密。证明过程的变化进一步确保了GPU和开关都在PPCIE模式下安全配置。

数据安全的重要性

在当今的数字化环境中,数据安全至关重要。企业生成的海量数据具有显著的潜力和价值。虽然传统的安全措施主要集中在数据传输和静态数据上,NVIDIA的机密计算(CC)关注于保护数据使用中的需求,这一方法防止了未经授权的访问和修改,确保敏感信息保持安全。

硬件和软件要求

安全AI解决方案与NVIDIA H100和H200 Tensor Core GPU兼容,并集成在HGX 8-GPU系统中。为了获得最佳性能,系统还应配备支持可信执行环境(TEE)的CPU,例如AMD SEV-SNP和Intel TDX技术。

支持的CPU包括AMD的EPYC Milan和Genoa系列,以及Intel的第5代和第6代Xeon可扩展处理器。该解决方案还需要最新的NVIDIA驱动程序(CUDA 12.8数据中心驱动程序)和固件,并与Microsoft Azure Hyper-V和KVM等虚拟机管理程序兼容。支持的操作系统包括AMD的Ubuntu 25.04和带有Intel补丁的Ubuntu 24.04。

正式发布和资源

随着CUDA 12.8的发布,PPCIE支持现已普遍可用,使企业能够利用最新的安全增强功能实现完整的8-GPU性能。为提供详细的部署指导,NVIDIA提供了广泛的文档和资源,可以通过其官方网站直接获取。

欲了解NVIDIA的安全解决方案,包括其机密计算解决方案的更多见解,感兴趣的方可浏览NVIDIA可信计算解决方案页面上提供的全面资源。

欲了解更多详细信息,请访问NVIDIA开发者博客



Read More