探索代理基础设施在现代应用中的重要性
realtime news Jul 27, 2025 22:57
了解为何代理基础设施对于处理有状态的长时间运行任务至关重要,以及LangGraph平台如何在现代应用开发中支持可扩展、可靠的代理。

根据LangChain博客,在快速发展的技术世界中,代理基础设施的作用变得越来越重要。随着应用从简单的请求-响应模型发展到更复杂的代理系统,支持这些进步的强大基础设施的需求至关重要。
代理应用的兴起
在过去的一年里,代理应用的兴起相当显著。这些应用从工作流协助工具到代码生成助手,利用工具、记忆和推理的组合来完成复杂的多步骤任务。这一演变标志着从传统应用模型的转变,传统模型主要集中于检索和聊天功能,而代理系统能够执行操作和推理。
这些代理应用重新定义了我们对传统应用的看法,不仅仅是输入表单和聊天界面。它们在后台运行,处理事件和信息,能够请求帮助、展示工作、解决问题和协同工作。然而,传统的无状态、无服务器计算模型在支持这些代理应用时显得不足,因而需要新的基础设施。
为什么代理基础设施很重要
代理工作的独特需求需要新的基础元素,而传统的网络后端和分布式系统无法提供。因此,技术堆栈中新出现了一层:代理基础设施。这个基础设施介于代理逻辑和原始计算资源之间,提供必要的结构、控制和可靠性。
代理基础设施被设计用来支持持久执行、复杂状态管理、人机交互协调和流媒体传输,而无需开发人员手动组装这些组件。LangGraph平台就是这样一个基础设施的例子,旨在高效且可靠地部署和运行LangGraph应用。
代理基础设施的关键特性
代理基础设施提供了几个关键特性:
- 持久执行:代理运行时间从几秒到数小时不等,可能暂停用于工具调用、API等待或人类反馈。LangGraph等基础设施确保这些流程能安全地恢复,防止超时或崩溃。
- 状态管理:代理不仅需要消息缓冲,还需要结构化的状态存储,以在步骤和失败之间保持持久。代理基础设施可以开箱即用地提供此功能。
- 人机交互协调:代理常常需要依赖人类输入做出决策,因此必须支持可恢复状态和长时间延迟的系统。
- 突发并发:现实世界应用面临不可预测的需求激增,这可能会压垮传统系统。代理基础设施可以通过任务队列和水平自动扩展应对这些峰值。
- 流媒体:代理会随着时间的推移思考并完善其响应。良好的基础设施允许令牌级流媒体和自定义数据流媒体,增强用户体验和开发人员可见性。
LangGraph平台:代理工作负载的解决方案
LangGraph平台提供了运行代理工作负载所需的基础设施,无需进行广泛的定制开发。它支持长时间运行执行、检查点、重试、内存管理、流媒体和流量处理。开发人员可以通过单击从GitHub直接部署代理,使他们能够专注于代理逻辑而非基础设施的复杂性。
应用开发的未来是代理化的,需要坚实的基础设施来支持这一转变。代理基础设施是连接不同功能的缺失层,允许开发人员构建超越传统无状态提示,确保应用的稳健和可靠性能。
要了解更多详细见解,请访问LangChain博客。
Image source: Shutterstock