AI Agent 的通用记忆层——7K token 搞定长程记忆
更新于 2026-07-20
← 返回汇总AI Agent 的通用记忆层——7K token 搞定长程记忆
Agent Memory 赛道 Star 数最高的开源项目（61.3k）。v3 算法用 ADD-only 单次提取 + 语义/BM25/实体/时态四路检索融合，7K token 即达 LongMemEval 94.4% 精度（全量上下文需 25K+）。支持 Python/TS/Go/Rust SDK、自托管 Docker、云平台三种部署，AWS Agent SDK 官方集成，arXiv 论文背书。
多轮对话 + 多会话积累后，原始 chat history 轻松超上下文上限。全量塞入 25K+ token，贵且慢。
传统 UPDATE/DELETE 模式在信息变化时覆写旧事实，丢失"用户偏好如何演变"的时间线索。
Agent 每次对话从零开始，无法记住用户偏好、历史决策、待办事项——每次都是"新用户"。
核心理念：记忆只累加，不覆写。信息变化时新旧事实共存，保留完整时间线索。单次 LLM 调用完成提取——无 agentic 循环、无多轮协商。
| 设计决策 | 传统做法 | Mem0 v3 |
|---|---|---|
| 写入模式 | ADD + UPDATE + DELETE | 仅 ADD |
| 提取方式 | 多轮 agentic 循环 | 单次 LLM 调用 |
| Agent 事实 | 忽略或次优先级 | 一等公民，同等权重 |
| 实体处理 | 文本匹配 | 实体提取 + 嵌入 + 跨记忆链接 |
| 检索信号 | 仅语义相似度 | 语义 + BM25 + 实体 + 时态四路融合 |
Agent 回复后异步进入流水线，不阻塞对话响应
检索相关已有记忆，避免重复提取相同事实
独立于提取的时态推理 pass，异步运行，写入不减速
向量相似度匹配记忆 embedding，捕捉概念性查询
例："用户对远程办公怎么看？"
词形还原 + 归一化词项匹配，精确命中术语/名称
例："我上周参加了哪些会议？"
提取查询中实体，匹配关联记忆图谱
例："我们对 Alice 了解多少？"
无额外 LLM 调用，分类查询时态意图，匹配写入时提取的时间元数据
例："Kendra 什么时候换了鞋品牌？"
四路信号 Rank Fusion 合并为最终 Top-K，语义主导，时态加成——不丢弃任何候选项
独立时态推理 pass 读取新记忆 + 源对话 + 日期，提取元数据：
无需额外 LLM 调用，分类查询的时态意图，按时间元数据匹配度排序：
| 基准 | 旧算法 | v3 新算法 | 提升 | Token | 延迟 p50 |
|---|---|---|---|---|---|
| LoCoMo | 71.4 | 92.5 | +21.1 | 7.0K | 0.88s |
| LongMemEval | 67.8 | 94.4 | +26.6 | 6.8K | 1.09s |
| BEAM (1M) | — | 64.1 | 新增 | 6.7K | 1.00s |
| BEAM (10M) | — | 48.6 | 新增 | 6.9K | 1.05s |
全量上下文方案在同基准上通常消耗 25,000+ token/查询。Mem0 以 1/4 token 达到领先精度。评估框架已开源：mem0ai/memory-benchmarks
时态查询（"用户现在喜欢什么？"）提升 +29.6 分，多跳推理（"基于用户偏好推荐 X"）提升 +23.1 分——这两类最直接反映 Agent 如何处理真实用户历史。
| 维度 | SDK 库 | 自托管服务器 | 云平台 |
|---|---|---|---|
| 适合 | 测试、原型 | 自建基础设施的团队 | 零运维生产环境 |
| 安装 | pip install mem0ai | docker compose up | 注册 app.mem0.ai |
| Dashboard | 无 | 有 | 有 |
| 认证/API Key | 无 | 有 | 有 |
| 高级特性 | 基础 | 部分 | 全部 |
| Agent 注册 | — | — | 5 秒免邮箱自注册 |
# 1. 安装 pip install mem0ai # 2. 初始化（默认 OpenAI + 内存向量库） from mem0 import Memory m = Memory() # 3. 添加记忆 m.add("Alice prefers dark mode and vim keybindings", user_id="alice") m.add("Alice switched to VS Code with vim plugin last week", user_id="alice") # 4. 搜索——自动融合语义+关键词+实体+时态 results = m.search("What editor does Alice use?", user_id="alice") # → "Alice uses VS Code with vim plugin (switched last week)" # → "Alice prefers vim keybindings" (historical preference preserved)
Agent Memory 赛道绝对王者——61.3k Stars、99 个发布版本、AWS 官方集成。v3 算法用 ADD-only + 四路检索融合重新定义了记忆层的性能/成本平衡点。若知识更新（ADD-only 的天然短板）和超大规模记忆库继续优化，有望成为所有 AI Agent 的标配记忆基础设施。