探索人工智能代理开发中的上下文工程
realtime news Jul 02, 2025 18:00
了解如何通过写作、选择、压缩和隔离上下文等策略优化信息管理，进而改变AI代理开发中的上下文工程。
在人工智能不断发展的领域中，上下文工程正成为提高AI代理性能和效率的一项重要实践。根据LangChain 博客，这一学科涉及在AI代理的上下文窗口（类似于计算机的RAM，作为语言模型的工作记忆）内的战略信息管理。目标是通过填充最相关的数据来优化上下文窗口，从而在代理执行任务的每一步中体现。
上下文工程的艺术与科学
上下文工程对于AI代理高效执行任务至关重要，通过写作、选择、压缩和隔离上下文等策略实现。这种方法类似于策划适合CPU RAM的数据，确保下一个步骤有可用的正确信息。Andrej Karpathy 将此描述为艺术与科学的微妙平衡，重点在于提供决策所需的上下文。
有效上下文管理的策略
为了在构建大语言模型（LLMs）的应用时管理各种类型的上下文，采用了不同的策略：
- 指令：包括提示、记忆和工具描述，指导代理的行为。
- 知识：由事实和记忆组成，为代理的决策提供信息。
- 工具：工具调用的反馈影响代理的下一步。
AI代理的上下文工程
AI代理的复杂性不断增加，需要健全的上下文管理策略。随着对代理的兴趣增长，这些实体经常交替进行LLM调用和工具调用，通常用于长时间任务。然而，这可能导致过多的token使用，可能超出上下文窗口的容量并影响性能。因此，有效的上下文工程至关重要，被认为是构建AI代理的工程师的一项主要责任。
实施上下文工程技术
上下文工程的常见策略包括：
- 书写上下文：包括保存上下文窗口外的信息，如使用记事本或记忆系统，以便在长期任务中保留关键信息。
- 选择上下文：代理需要在适当的时间将相关信息选择性地引入上下文窗口，通常利用工具和记忆。
- 压缩上下文：总结和修剪是管理广泛交互并减少token使用的技术。
- 隔离上下文：包括在子代理或环境中对信息进行分区，允许专门处理不同的任务组件。
结论
随着AI代理的继续发展，掌握上下文工程变得越来越重要。通过有效管理代理上下文窗口内的数据，开发人员可以增强这些系统的能力和效率。工具如LangGraph和LangSmith在实施和测试这些策略中起着重要作用，通过持续反馈循环确保最佳性能。
Image source: Shutterstock.jpg)
