一个让你Agent效果翻倍,省下一半Token的小技巧。

188 字

JackCui 2026年6月4日 17:15

你一定经历过,打游戏突然掉线,半夜蹲点抢购碰到服务器繁忙,这些抓狂时刻。

那种抓狂,归根到底是机器扛不住,是它太累了。

而现在,大家又摊上了一种新抓狂。这回机器一点不累,跑得好好的,就是记性差。

你今天上午才郑重其事地告诉它,你不爱吃香菜,麻烦给我避开。下午接着聊,它转头就兴高采烈给你端上来一家「招牌香菜火锅」。

微信图片_2026-06-04_161544_759.png

微信图片_2026-06-04_161544_759.png

这种事你肯定也碰到过。

我们花了老大力气去「调教」一个 AI,把你是谁、你喜欢啥、你那个项目的背景一五一十讲给它听,结果聊着聊着,可能就把之前的对话给忘记了。

很多人第一反应是,这 AI 是不是太蠢了。

其实,这压根不是聪明不聪明的事,是记忆这套机制本身,从根上就别扭。

AI 到底为啥会忘,以及,到底有没有办法,让它真的把你记住。

你把大模型的记忆,想象成一块大小固定的小黑板。

Pasted image 20260604142801.png)

Pasted image 20260604142801.png

你跟它说的每句话,它回你的每句话,都得先写到这块黑板上,它才看得见。讲究点说,这块黑板有个学名叫「上下文窗口」,能写多少字,是有个上限的。

问题就出在这。

你聊得越久,黑板写得越满。写满了咋办?

它就只能干两件事。要么,把最早写的那几行直接擦掉。要么,把前面一大段揉吧揉吧,压缩成一两句话的摘要,腾出地方来。

压缩本身没问题,把一篇日记缩成一句话,也是常规操作。真正要命的是,它压完,顺手就把那篇日记给撕了。

你想想看,一整篇日记,硬缩成一句「今天发生了很多事」,回头你想知道那天到底发生了啥,还查得回去吗?

你那句「我不吃香菜」,多半就在这一轮一轮的压缩里,被它当成无关紧要的边角料,悄没声地给抹掉了。

所以它真不是不想记。是它那块黑板太小,又只会用这种简单粗暴的法子腾地方,记着记着,最要紧的东西反倒先被挤出去了。

更别提,你一开新对话,整块黑板啪一下擦得干干净净,它等于当场重新投胎,前尘往事一概不认。

你们想想,我们现在每天跟各种 AI 打交道的时间不短,结果里头有相当一块,是在反复交代背景。我是谁,我在干啥,咱上次聊到哪了,我的脾气偏好是啥样的。每开一个新对话,这套词儿就得重念一遍。

这些时间攒到一块儿,就挺多了。

那咋整?

其实方向特别简单。

干脆别再指望那块写满就擦的小黑板了。在它外面,单独挂上一块永久的、谁也擦不掉的记忆。


这玩意业内有个正经名字,叫 Agent Memory,智能体记忆。

不过每家做 Agent Memory 的路子都不太一样。

比如我上周五我参加了腾讯云数据库围绕 AI 原生的产品发布会,会上发布的一款Agent memory 服务就备受业内关注。

图片)

了解到他们刚刚开源的项目: TencentDB Agent Memory。

正好拿它当个样本,跟你聊聊一套像样的记忆系统,到底该长啥样。

60f8074fbda982e44bd0a2e2cac82153.png)

先说说大多数记忆系统是怎么干这事的。

基本就是把你所有的数据切成小片,一股脑全摊平成向量,囤起来。等要用的时候,再从这一大堆里头捞。

这就有点像,你把成百上千张便利贴全撕下来,胡乱糊了一整面墙。哪天要找一条线索,你只能站墙跟前,一张一张往下翻,张和张之间还彼此不挨着。

能找到吗?能,但是累。而且你压根没有一个站高处看全局的视角。

TencentDB Agent Memory 的思路就不太一样,它把「分层」这两个字,做成了整套架构的设计哲学。

这是我觉得它最聪明的地方,叫「四层渐进式记忆」,路子是照着人脑整理记忆来的。

Pasted image 20260604144944.png)

Pasted image 20260604144944.png

最底下第一层,原始对话层,你说的每句话原封不动先存着,一个字不丢。

往上第二层,关键信息层,从这堆大白话里头,把真正有用的关键信息总结出来,单独收好。

再往上第三层,把这些关键信息进一步归一归,拢成场景和事件。

爬到最顶上那层,就沉淀成稳定的用户偏好和长期画像了。

你细品一下这个过程。它干的活,是把你那些零零碎碎的交互,一层一层往上提,越往上越精炼,越往上噪音越少,最后给你攒出一个高价值、还能一直往里续的认知库。

讲人话,就是越用越懂你。

光这么干讲你可能没体感。直接上数据。

把它当成 OpenClaw 的插件接进去之后,最高能省 61.38% 的 Token,任务通过率相对提了 51.52%。在一个专门测长期记忆的数据集 PersonaMem 上,准确率从 48% 一把干到了 76%。

Pasted image 20260604145047.png)

Pasted image 20260604145047.png

省了一半多的钱,事儿还办得更利索了。

回到前面那个「压完就扔」的老毛病,它也专门下了狠功夫,给了个解法,叫 短期记忆压缩

它不是把厚厚一摞工具日志一刀切了拉倒,而是分层卸载,一点一点地,把那堆又臭又长的过程,总结成一种很轻的 Mermaid 结构符号。

Mermaid 你不用懂,就理解成一种用文字来画流程图的东西。

讲人话,就是用一张图,去替掉一大段文字。

我拿它文档里那个例子给你比划比划你就懂了。

比如你让 Agent 去做一份竞品分析。它要汇报自己干到哪一步了,用大白话得这么絮叨。

已经搜完了竞品 ABC 三家的产品,查到了各家的融资情况和技术方案,眼下正在整理那张汇总对比的表格。

一长串,读着都累。

换成一张 Mermaid 流程图,几个节点往那一连,搜索、汇总表,清清爽爽,一眼到底。

Pasted image 20260604145357.png)

Pasted image 20260604145357.png

而且这一整套是全自动的,全程在后台悄悄进行,半点不耽误你眼下正聊着的主线。它会麻利地把原文存档、留个摘要、建好索引、再把那张图更新一下,一条龙。

最让我踏实的是这点,原始数据一直老老实实躺在磁盘上。被压掉的,只是上下文里那一份副本而已。你哪天想翻原文,按着节点编号一点,分分钟给你调出来。

记得住,又一点不丢。

总之,它不只是保存对话记录,还可以沉淀组织上下文、任务经验、协作偏好、决策依据和流程规则。腾讯云 Agent Memory 服务,提供短期记忆压缩、长期记忆沉淀和团队记忆组织化三层核心能力。

用起来也不费劲。比如在 OpenClaw 里安装,直接把命令复制过去,跑一下,完事。

openclaw plugins install @tencentdb-agent-memory/memory-tencentdb
openclaw gateway restart

完全开源,感兴趣的朋友,自己拉下来玩玩,开源项目地址:

https://github.com/TencentCloud/TencentDB-Agent-Memory

我们这几年一门心思在追更聪明的模型。参数更大,跑分更高,能解的题更刁钻。

可你回头琢磨琢磨,让一个东西从一个冷冰冰的工具,变成一个你舍不得撒手的伙伴,光靠聪明,是不够的。

聪明是底子,可一个再聪明的脑子,要是每回见你都跟头回见似的,你俩也处不出啥感情。

让它从工具迈向伙伴的那一步,是它开始记得你。

它记得你不吃香菜,记得你那个拖了仨月还没收尾的破项目,记得你上回栽过的那个跟头。

到那时候,它才算开始慢慢成为,你的伙伴。

如果你也想给你的 Agent,挂上一块抹不掉的记忆磁盘,可以试试这个开源项目。

·················END·················

继续滑动看下一个

JackCui

向上滑动看下一个