中科院软件所开源 Mandol，用 SemanticMap + SemanticGraph 统一 KV/向量/图存储，检索阶段零 LLM 调用、5.4 倍检索提速，LoCoMo/LongMemEval 双榜最优。
中科院软件所开源 Mandol，用 SemanticMap + SemanticGraph 统一 KV/向量/图存储，检索阶段零 LLM 调用、5.4 倍检索提速，LoCoMo/LongMemEval 双榜最优。
GitHub 2.3k星的Rust开源终端编程工具，专为DeepSeek V4优化，支持思维链输出、子Agent调度和MCP服务器
长期对话 Agent 的记忆是个老大难：传统方案把向量库、图数据库分开放，跨库 I/O 延迟高；RAG 检索引入噪声、漏掉关联线索、还无法控制 token 预算。中科院软件所联合 Microsoft Research 开源的 Mandol 提出了一个"agglomerative（聚合并）"思路——把碎片化的存储和表示统一成一个 memory-native 架构，检索过程完全不调用 LLM，还在两个主流长期对话 benchmark 上拿到最优总精度。
现有 Agent 记忆系统的两个核心痛点：
Mandol 的应对是把所有记忆表示和存储聚合到一个统一架构里。
记忆被分成两层，统一表示为结构化语义图：
这种分层让 Agent 既能查到原始事实，也能用更高层的抽象记忆做推理，而不是只能靠向量相似度捞碎片。
这是 Mandol 的工程核心：用 SemanticMap + SemanticGraph 的组合，原生融合三种结构：
并提供统一的混合检索算子，消除跨库 I/O。检索时不再需要在向量库和图库之间来回跳，所有操作在统一数据结构上完成。
整个查询流程不调用 LLM，包含三个能力：
这意味着检索阶段不烧 token，成本和延迟都可控。
| 指标 | Mandol 表现 |
|---|---|
| LoCoMo（长期对话 benchmark） | 代表性系统中最优总精度 |
| LongMemEval（长期对话 benchmark） | 代表性系统中最优总精度 |
| 检索提速 | 5.4 倍（10 QPS 并发） |
| 插入提速 | 4.8 倍（10 QPS 并发） |
| 消费级硬件延迟 | 保持低延迟 |
对比对象是"representative agent memory systems"——也就是说，在主流 Agent 记忆系统里，Mandol 在精度和速度两个维度上都拿到了最好或并列最好的成绩。
论文实现细节需要参考 arXiv 全文，但如果你想在自建 Agent 上借鉴这套思路，可以按这三层来重构记忆模块。
把原本分散的向量库和图库合并成一个统一结构：
不要只存原始记忆，定期把基础记忆聚合成抽象记忆：
把检索过程做成纯计算流程：
这三步合起来，就是 Mandol 论文里"retrieval without involving LLMs"的核心。
适合用 Mandol 思路：
不太适合：
接入 Mandol 思路后，重点看三个指标：
如果你的 Agent 在并发场景下延迟仍然高，检查是否真的消除了跨库 I/O；如果精度没提升，检查分层抽象层是否真的在做聚合并，而不是只多存了一份冗余。
一手来源：
