记忆与上下文工程

上下文工程决定模型在一次任务中“看见什么”。记忆则决定系统能否跨轮次、跨任务保留有价值的信息。

上下文类型

• 系统指令：角色、边界、输出格式。
• 用户输入：当前任务目标和约束。
• 检索内容：来自知识库、网页或文件的材料。
• 工具结果：外部系统返回的结构化信息。
• 历史轨迹：之前的计划、动作和结果。
• 记忆：长期偏好、项目背景、用户习惯。

短期上下文

短期上下文存在于当前任务窗口中。主要问题是如何控制信息密度：

• 保留任务目标。
• 保留关键约束。
• 删除重复和低价值信息。
• 把工具结果摘要成结构化状态。

长期记忆

长期记忆适合保存稳定信息：

• 用户偏好。
• 项目术语。
• 代码库约定。
• 常用工作流。
• 历史决策。

不适合保存敏感信息或临时状态。

上下文压缩

当任务很长时，需要把历史轨迹压缩成状态摘要。好的摘要应该包含：

• 当前目标。
• 已完成事项。
• 关键决策。
• 未解决问题。
• 可复现的证据和路径。

常见问题

• 把无关历史塞进上下文，导致模型注意力分散。
• 记忆没有版本和来源，后续无法判断是否过期。
• 摘要丢掉关键约束，导致任务偏航。
• 工具结果没有结构化，模型难以可靠使用。