记忆即智能:重构对话式AI Agent认知基座的四层渐进式记忆与自进化系统

1. 记忆即智能:重构对话式AI Agent认知基座的四层渐进式记忆与自进化系统

[!abstract] 速览

  • 旧做法的问题:绝大多数对话系统采用"传状态"模式,把关键事件抽象为扁平标签注入 Prompt;仅存结论标签、不存过程信息,跨会话无法续接、跨渠道无法打通,也谈不上自进化。
  • 新架构:L0 数据底座(只存不判)→ L1 感知层(只观察不决策)→ L2 决策层(唯一调度者)→ L3 画像层(长期记忆,用户维度的 6 个核心特征)。
  • 渐进式节奏:L0 实时落库 → L1 准实时分析(每条消息后毫秒级)→ L2 实时调度(每条消息后)→ L3 24h 定时 + 实时微调。
  • 实验结果:任务转化率 58.3% → 60%,平均消息数 18.4 条 → 12.1 条,流失率 2.8% → 1.2%,画像覆盖率 从 0 到 75%。
  • 代价:AI 响应延迟由 0.25s 升至 0.45s,即"单轮慢 0.2s"。

1.1. 背景

本文将结合货拉拉实际经验,系统介绍在对话式AI Agent场景基于 四层渐进式记忆架构 ,实现从 “传状态"到"认知自进化” 的范式跃迁:

能力 说明
分层记忆 以 数据底座→感知层→决策层→画像层 的渐进式加工链路,将原始对话流逐层提炼为可被模型直接消费的结构化认知,完成从"原料"到"养分"的转化。
认知飞轮 画像维度千人千面实时演化,沟通策略基于效果闭环自动汰劣留优,系统越用越懂用户、越用越精准,构建数据驱动的自增长智能闭环。

1.2. 为什么要做记忆系统

1.3. 背景

货拉拉用户普遍活跃于多个触点(App、小程序、H5、电话、即时通讯等),是天然的高价值用户池。用户的绝大多数行为都围绕「下单」展开,并在核心的下单动作之外,延伸出领券、邀请好友、复购等一系列伴生行为。

用户的转化通常是跨天甚至跨周的长链路(咨询/引导 → 领券/比价 → 下单/激活 → 复购/邀请)。用户从被触达到最终完成转化,中间可能经历 3–5 次会话中断、跨电话/即时通讯多个渠道。链路越长、断点越多,对对话系统的要求就越高:它必须记得住用户处于哪个阶段、上一次聊到哪、为什么犹豫或拒绝过;看得懂用户当下的真实意图与情绪;说得对因人而异的沟通策略——而这一切的前提,就是记忆。没有记忆,后面的"懂"和"对"都无从谈起。

1.4. 章鱼的悲剧

章鱼是天才,但每一只都是孤立的、独立的天才。它们能:开瓶盖、伪装成 15 种生物、识别人脸、记住照护者,有实验显示会"做梦"。

但章鱼有一个绕不开的短板——它们没法把"智慧"传下去:会捕猎的章鱼妈妈,不会教小章鱼捕猎;会用椰子壳当铠甲的章鱼,不会把这招传下去。所有的"经验"——每一只都要用一辈子重新攒出来。

这正是常见对话系统正在重演的悲剧:

  • 每一次对话沟通,都像一只"孤立的章鱼"——本轮聊得再顺,下一轮一切清零;
  • 用户昨天拒绝过"费用贵",今天换个渠道进来,系统又从头推荐;
  • A 用户被"收益案例"打动、B 用户对"便宜"免疫——这些经验散落在成千上万通会话里,没人汇总、没人继承。

没有记忆的AI,就像没有代际传承的章鱼:个体再聪明,族群永远从零开始。

1.5. 一个真实的"事故"复盘

我们抽了 50 通即时通讯渠道被用户删除的对话做复盘,发现被用户删除的原因不在策略、提示词、知识库这些表层,而在更底层。

[!warning] 事故复盘的结论
AI 没有记忆,就做不了跨渠道、跨会话的判断。它记不住用户上一句、上一次拒绝的原因,只能机械地"看到 A 状态 → 跳 B 策略",最终把用户推远。

1.6. 怎么做记忆系统

1.7. 金牌顾问是怎么记住一个用户的?

一次做前期调研时,一位金牌顾问说了一句话:

[!quote] 金牌顾问的原话
“我不需要客户说’我拒绝了三次’,听语气、看回复间隔、推脱理由,我就知道他是真忙还是嫌贵、是真不需要还是再推一下就成。”

原来金牌顾问从来不是靠"标签"做决策,而是靠多模态、多层次、跨时间的记忆推理来理解用户。仔细拆解他这句话,背后藏着完整的 4 层认知链路:

阶段 关注内容
听原始语气 声音信号、未加工的事实
当时观察 单条消息的意图/情绪判断
当下判断 综合上下文给出当前该推还是缓
长期认知 用户是什么人、有什么偏好

这给了我们两个关键启发:

启发 含义
a. 记忆是连续的 我们要记录的不是"用户拒绝了"这个结果,而是"从敷衍到松动"的完整变化过程。
b. 记忆是分层的 信息有轻重之分,应按"原始数据 / 当时观察 / 当下判断 / 长期画像"四层递进存储。

1.8. 业内常见做法

1.8.1. 常见记忆系统

绝大多数对话系统采用 “传状态” 模式:把对话中的关键事件抽象为扁平标签(如"用户状态=未下单"、“拒绝原因=在忙”、“意向=高”),作为 Prompt 变量注入 LLM。这种做法能跑通,但对于复杂任务会有致命问题:

问题维度 具体表现
数据扁平 仅存结论标签,不存过程信息(语气、推脱频次),模型看到的是孤立标签而非完整证据链。
情绪无法回溯 只看当前消息字面,无法结合历史纠偏(如"好的好的"实为敷衍),误判后强行推进易导致用户流失。
跨会话无法续接 仅记录"上次拒绝",不记中断阶段与上下文,恢复等同于从头开始。
跨渠道无法打通 电话与即时通讯各存一份记忆,同一用户在两个渠道被当成两个新人对待。
个性化粒度粗 不区分"真忙 vs 推脱"、“价格敏感 vs 嫌麻烦”,千人一面。
无自进化能力 策略效果黑盒,优化全靠人工复盘迭代,迭代周期 2–3 周。
Token 效率低 无关字段全量注入 Prompt,关键信息反而缺失;且每次都要重发全部历史。

1.8.2. 什么是好的记忆系统

好的记忆系统不是把所有信息都塞进上下文,而是只保留最相关的信息,其他内容按需存取,让模型更专注、更高效、更聪明。

上下文窗口与记忆系统对比示意图:左侧红色标注「LLM 上下文窗口 = 物理内存」,快但小、贵,会话结束即清空,画面以堆满文件的桌面示意塞满即乱、超出即丢失;右侧绿色标注「好的记忆系统 = 虚拟内存」,只把最相关信息留在内存,其余归档硬盘、按需精准调回;底部标注核心思想与「更相关 → 更高效 → 更聪明」。

对于某一类具体业务场景,也是一只"新生的章鱼",用户每开一个新对话,对 AI 来说,就是一次"投胎":如果不记得上周用户说过什么、不知道用户上次为什么拒绝、不知道用户的偏好&情绪&节奏,一切从零开始。这次我们要做的,就是给这套系统装上"打破章鱼悲剧"的能力——让它能记住、能累积、能进化。

鉴于此,我们结合调研内容重新设计了 4 层渐进式记忆架构——核心思想是:

把"扁平标签"升级为"原始数据→当时观察→当下判断→长期画像"的递进加工链路,让每一层都建立在上层之上

1.9. 四层架构总览

层级 名称 职责
L0 数据底座 只存不判:原始消息、对话原文、事件流(100% 还原现场)。
L1 感知层 只观察不决策:每条消息的意图、情绪、回溯信号、行为完成度。
L2 决策层 唯一调度者:阶段状态机、策略库、规则库,"该走哪条路"由它说了算。
L3 画像层 长期记忆:用户维度的 6 个核心特征(价格敏感度、信任度、操作熟练度、偏好时段、忙碌标签、回复风格)。

渐进式体现在两个层面:

L0 实时落库 → L1 准实时分析(每条消息后毫秒级)→ L2 实时调度(每条消息后)→ L3 24h 定时 + 实时微调
从"原始数据"到"当时观察(意图理解)"到"当下判断"到"长期认知",每层都建立在上层之上

1.10. 各记忆层定义

1.10.1. L0数据底座 — 只记录不加工

L0 是整个记忆系统的事实层,只负责忠实记录对话与事件的原始信息,不做任何加工或判断:

  • 原始消息:用户/AI 的每一条消息原文、时间戳、消息 ID
  • 对话原文:完整的对话流,可用于回溯

1.10.2. L1 感知层 — 只观察不决策

意图(粗粒度意图+细粒度意图)

L1 感知层能力示意图:左侧「意图识别」表列出肯定/确认、需求/询问、信息获取、表达情绪、拒绝/否定五类意图及典型表达示例;右上「情绪判断(5 个,强度 0–4)」以 0 平静/满意、1 开心/积极、2 困惑/犹豫、3 不满/焦虑、4 强烈负面标注情绪强度递增;右下「回复策略(4 种)」表列出直接回复、信息补充、引导建议、情感安抚各自特点与适用场景。

1.10.3. L2决策层 — 唯一调度者

阶段跳转表示意图:左侧阶段流程图由「阶段A 状态暖场」指向「阶段B 利益宣讲」,再分出任务A、任务B、任务C、任务D 四个引导动作,汇入「进入下一阶段(满足任一任务)」判定后走向「阶段结束(特殊控制)」;右侧表格按当前阶段、条件、跳转目标三列列出阶段A→阶段B、阶段B→任务A/B/C/D、任务A/B/C/D→阶段结束、阶段结束→系统重置→阶段A 的跳转关系。

1.10.4. L3画像层 — 离线沉淀

[!info] 画像层的两种更新节奏
24h 定时:每日凌晨 2:00 全量重算全部 6 个维度(覆盖式 UPDATE)

会话内实时:用户每发送 ≥5 条消息,即时重算忙碌标签、回复风格两个高频维度

多维状态画像与话术微调示意图:左侧列出六个维度的画像取值——价格敏感度 0.78、信任度 0.35、操作熟练度 0.28、偏好时段 19:00-23:00、忙碌标签 very_busy、回复风格 slow,各维度经「智能体」汇入右侧「图像→规则 微调规则」;右侧五条规则为价格敏感度 ≥0.7 强调高性价比与优惠活动、信任度 ≤0.4 加强安全保障与平台背书、忙碌标签 = very_busy 简化流程突出便捷高效、操作熟练度 ≤0.3 分步引导降低操作门槛、回复风格 = slow 改用简洁明了语句;底部标注核心价值。

1.11. 跨渠道记忆打通

用户在App、小程序、H5、电话、即时通讯等渠道是同一个用户,但在实现里容易被当成多个独立对话,记忆完全隔离。我们做了横向打通:

打通方式 具体做法
a. 身份层打通 以用户身份标识为主键,关联电话、即时通讯的所有会话。
b. 画像层打通 L3 画像是渠道无关的——价格敏感度、信任度等维度在两个渠道共用,凌晨重算时合并两个渠道的数据。
c. 阶段层桥接 电话结束时的 用户状态 写入 L0表,即时通讯开场时读取上次的 用户状态,决定从哪个引导目标(下单/领取/激活/分享)切入。

1.12. 记忆机制怎么用

1.12.1. 如何决策生成策略

以李先生发来"怎么还要花钱啊?"为例:

一次会话的记忆读写时序图:T0 IM 触发回调收到「0.59元?还要花钱吗?」,T1 信息采集写入用户消息原文并 INSERT 到 L0,T2 信息提取抽取意图/情绪/实体并 INSERT 到 L1,T3 意图识别回溯前 2 条无关联对话,T4 阶段判定读取会话表 current_stage=benefit、意图=object_cost 后选择下一阶段,T5 话术检索查询 L2 知识库表,T6 画像读取查询 L3 画像表 price_sensitivity=0.85 并生成个性化话术,T7 状态更新 UPDATE 会话状态与 history,T9 信息写入 INSERT AI 回复原文,T10 IM 发送记录 msg_id;右侧标注 L0 基础存储、L1 语义理解、L2 对话管理、L3 用户画像与 IM 发送记录各自存储的内容。

1.12.2. 策略如何自进化

任务效果评估闭环四步示意图:第一步记录,任务执行后 L0 落一条「任务→结果」三元组,结果为推进、停滞、异议、流失、成交五类;第二步归因,按场景与任务 ID 聚合计算推进率、成交率、流失率;第三步汰劣留优,同一场景下多条候选话术按效果排序,效果显著好设为默认、效果显著差下线或降权、样本不足保持观察;第四步探索-利用,主流量约 90% 走当前最优话术,小流量约 10% 留给新话术做 A/B 实验,跑赢则替换、跑不赢则淘汰;底部标注「数据沉淀 → 持续优化 → 提升转化」。

1.13. 记忆系统做得怎么样

1.14. 衡量指标

维度 指标 计算方式
转化 任务转化率 转化成功用户数 / 触达用户数
对话效率 平均消息数 AVG(总消息数) WHERE 输出=‘任务转化’
AI 响应延迟 平均响应时长(消息到达 → AI 回复发送)
用户体验 流失率 流失数 / 新增总数
个性化 画像覆盖率 已更新画像用户数 / 活跃用户数
策略自进化 策略淘汰率 周期内下线/总策略
策略推进率 策略执行后进入下一阶段(24h内) / 该策略使用次数

1.15. 实验结果

[!success] 实验结论
渐进式架构以 “单轮慢 0.2s” 的代价,换来 “转化 +1.7pp、流失 -1.6pp、画像从 0 到 75%” 的能力,值得全量。

实验时间:2 周;实验方式:账号分流。

维度 指标 常用记忆策略 渐进式记忆架构
转化 任务转化率 58.3% 60%
对话效率 平均消息数 18.4 条 12.1 条
AI 响应延迟 0.25s 0.45s
用户体验 流失率 2.8% 1.2%
个性化 画像覆盖率 —(无画像能力) 75%
策略自进化 策略淘汰率 —(主要依赖于人工复盘) 1%(下线两条策略)
策略推进率 72% 80%

1.16. 总结

  1. 认知的转化:技术永远在演进,我们这次最大的收获不只是关键指标的提升,更是认知上的转变。每只章鱼都是天才,但每只都要从零开始攒经验——这是它们在演化上不得不付的代价。但对 AI 来说,我们不必走这条路。AI 可以站在前代积累的肩膀上,一代比一代更懂人。
  2. 记忆的建立:从"传标签"到"建记忆"——AI 的下一个突破不在更准的识别,而在更深的理解。从 L1 单条意图识别升级到 L0-L3 跨时序推理,把"上下文"和"时间"还给 AI,它就能从机械执行变成有温度的沟通者,并让策略随效果自动汰劣留优。
  3. 能力的升维:记忆系统的应用从来不是单一场景化建设。这套"分层记忆 +认知飞轮"的底座,在用户全生命周期(从获客、激活到促活、流失挽回),在电话、即时通讯乃至任何需要"长期懂人、持续对话"的 Agent 场景,都能得到进化沿用——让 AI从单场景工具,长成越用越懂人的认知基础设施。