中科院软件所开源 Mandol,用 SemanticMap + SemanticGraph 统一 KV/向量/图存储,检索阶段零 LLM 调用、5.4 倍检索提速,LoCoMo/LongMemEval 双榜最优。


中科院软件所开源 Mandol,用 SemanticMap + SemanticGraph 统一 KV/向量/图存储,检索阶段零 LLM 调用、5.4 倍检索提速,LoCoMo/LongMemEval 双榜最优。
长期对话 Agent 的记忆是个老大难:传统方案把向量库、图数据库分开放,跨库 I/O 延迟高;RAG 检索引入噪声、漏掉关联线索、还无法控制 token 预算。中科院软件所联合 Microsoft Research 开源的 Mandol 提出了一个"agglomerative(聚合并)"思路——把碎片化的存储和表示统一成一个 memory-native 架构,检索过程完全不调用 LLM,还在两个主流长期对话 benchmark 上拿到最优总精度。
现有 Agent 记忆系统的两个核心痛点:
Mandol 的应对是把所有记忆表示和存储聚合到一个统一架构里。
记忆被分成两层,统一表示为结构化语义图:
这种分层让 Agent 既能查到原始事实,也能用更高层的抽象记忆做推理,而不是只能靠向量相似度捞碎片。
这是 Mandol 的工程核心:用 SemanticMap + SemanticGraph 的组合,原生融合三种结构:
并提供统一的混合检索算子,消除跨库 I/O。检索时不再需要在向量库和图库之间来回跳,所有操作在统一数据结构上完成。
整个查询流程不调用 LLM,包含三个能力:
这意味着检索阶段不烧 token,成本和延迟都可控。
| 指标 | Mandol 表现 |
|---|---|
| LoCoMo(长期对话 benchmark) | 代表性系统中最优总精度 |
| LongMemEval(长期对话 benchmark) | 代表性系统中最优总精度 |
| 检索提速 | 5.4 倍(10 QPS 并发) |
| 插入提速 | 4.8 倍(10 QPS 并发) |
| 消费级硬件延迟 | 保持低延迟 |
对比对象是"representative agent memory systems"——也就是说,在主流 Agent 记忆系统里,Mandol 在精度和速度两个维度上都拿到了最好或并列最好的成绩。
论文实现细节需要参考 arXiv 全文,但如果你想在自建 Agent 上借鉴这套思路,可以按这三层来重构记忆模块。
把原本分散的向量库和图库合并成一个统一结构:
不要只存原始记忆,定期把基础记忆聚合成抽象记忆:
把检索过程做成纯计算流程:
这三步合起来,就是 Mandol 论文里"retrieval without involving LLMs"的核心。
适合用 Mandol 思路:
不太适合:
接入 Mandol 思路后,重点看三个指标:
如果你的 Agent 在并发场景下延迟仍然高,检查是否真的消除了跨库 I/O;如果精度没提升,检查分层抽象层是否真的在做聚合并,而不是只多存了一份冗余。
一手来源:

Model Context Protocol 发布 Enterprise-Managed Authorization 扩展,企业可通过 Okta 等 IdP 集中管控 MCP Server 访问,用户零配置首次登录即连。

港中文 & 快手可灵联合开源 ShotStream,首个实时流式多镜头长视频生成框架,生成速度提升 25 倍,支持边生成边调整情节。

专为华语优化,单卡 10 秒生成一首中文歌,已接入抖音、剪映等七大平台。歌歌AI 模型能力、接入方式与创作者变现路径。