腾讯:把记忆藏进智能体的潜意识

发布时间:2026/9/27 22:15:50
腾讯:把记忆藏进智能体的潜意识 标题Disentangling Long-Term Memory via Latent Neuro-Symbolic Reasoning来源arXiv, 2609.18461v1️文章简介研究问题如何让个性化智能体在不重复阅读冗长历史文本的情况下精准捕捉用户分散在不同对话中的显性偏好和隐性行为习惯主要贡献论文提出了LGM框架将长期记忆解耦并推理的过程转移到连续的潜在空间中通过动态构建查询感知的潜变量图实现了高效且精准的个性化响应。重点思路潜在记忆解耦利用稀疏自编码器将历史交互和当前查询映射为低维潜在节点并分解为稀疏的概念激活值从而在统一的概念空间中对齐用户的直接指令和间接行为线索。查询条件化的潜变量图构建不依赖固定的全局图结构而是根据查询与记忆节点之间的概念重叠度动态计算边权重为每个查询即时生成特定的潜在子图拓扑。关系消息传递与推理通过关系图神经网络在激活的子图上进行多步消息传递将分散的弱线索聚合为紧凑的记忆状态并通过证据重建目标防止信息丢失。图条件生成将聚合后的记忆状态投影为少量的软前缀令牌作为上下文输入给大语言模型从而避免直接回放原始文本带来的计算开销。分析总结LGM在PersonaMem和PrefEval等基准测试中显著优于现有的扁平检索、结构化RAG及代理记忆管理方法特别是在处理隐式偏好和长上下文场景时优势明显。消融实验证明稀疏自编码器、图传播机制以及证据重建损失函数均为提升性能的关键组件其中证据重建对防止潜在空间坍塌至关重要。该方法在保持高准确率的同时大幅降低了LLM调用次数、Token消耗和首字生成时间展现了极高的计算效率。可视化分析显示生成的图状态在语义空间中形成了清晰的聚类表明模型成功捕捉了用户和话题层面的语义结构。个人观点论文跳出了传统基于文本检索或固定知识图谱的思维定势转而利用大模型内部的隐藏状态构建“潜意识”记忆。