基于Memory Bank的Cursor长会话记忆内存库理论研究与实践

Source : mp.weixin.qq.com

在处理复杂任务时，通常需要我们和Cursor进行多轮对话，而随着对话轮次的增多，Cursor对于核心任务和工作重点的记忆丢失的越多，归根到底，是由于大模型缺乏长期记忆机制。为了解决这一问题，本文调研了Memory Bank，一种针对特定情况的新型记忆机制，使模型能够唤起相关记忆，通过持续的记忆更新不断进化，理解并适应用户的个性。记忆存储方面，Memory Bank通过整合先前互动的信息，随着时间的推移，模仿拟人行为并选择性地保存记忆。建立在强大的记忆存储基础之上，记忆检索方面，Memory Bank采用双塔密集检索模型，使用FAISS索引对向量表征进行相似性检索，以实现高效检索。记忆更新方面，Memory Bank取自艾宾浩斯遗忘曲线理论的灵感，提出了一种新的记忆更新机制。这种机制允许AI忘记并根据时间的流逝和记忆的相对重要性来强化记忆，从而提供更像人类的记忆机制和丰富的用户体验。