Anyscale 发布 DeepSeek R1 部署以实现 AI 可扩展性
realtime news Feb 13, 2025 10:48
Anyscale 推出了 DeepSeek R1 的部署，提供了增强的控制、可扩展性和透明度，使 AI 模型在各种基础设施上运行不受供应商限制。
Anyscale 已宣布部署 DeepSeek R1，这是一种突破性的推理模型，旨在用于自托管，赋予组织对其 AI 基础设施和数据隐私的前所未有的控制。据 Anyscale 称，此举标志着 AI 模型部署的重大转变，在不受供应商绑定限制的情况下，实现全面透明度和定制化以适应多样化的应用。
DeepSeek R1：AI 部署的新纪元
DeepSeek R1 被宣传为第一个自托管的推理模型，为组织提供了检查推理令牌、定制模型行为和根据需求选择硬件的能力。这种灵活性对于希望利用 AI 力量但又不想在数据隐私或操作透明度上做出妥协的企业尤为重要。
AI 基础设施的战略问题
为优化和扩展 AI 部署，选择正确的 AI 平台至关重要。关键考虑因素包括平台处理 GPU 工作负载的能力、可拓展性、数据安全性以及整体 AI 基础设施专业知识。Anyscale 在这些领域自我定位为领导者，强调其开放系统和由 Ray 提供支持的透明模型执行，Ray 是一个开源 AI 计算引擎。
Anyscale 平台的优势
Anyscale 平台支持在各种云服务和本地环境中的部署，提供灵活性和可扩展性。全球资源调度器和智能实例管理器优化资源分配，提高性能和成本效率。
可扩展性和性能
Anyscale 的基础设施支持超过 8,000 个节点和 50,000 个 GPU 的部署，确保了广泛 AI 工作负载的可扩展性。该平台承诺快速扩展，集群在不到一分钟的时间内启动到 1,000 个节点，消除了闲置计算资源的需求。
未来 AI 部署
展望未来，Anyscale 旨在无缝支持未来的 AI 突破。平台的设计理念专注于增强集成，而不会将用户锁定在特定的工具中，从而确保对不断发展的 AI 技术的适应性。
Anyscale 通过推出 DeepSeek R1 部署，凸显了其致力于提供强大、可扩展和透明的 AI 解决方案的承诺，使企业能够充分利用 AI 的能力，同时保持对其 AI 基础设施和数据的控制。
Image source: Shutterstock