MemoryScope - 为LLM聊天机器人配备的长期记忆系统

MemoryScope是什么

MemoryScope是一个为大型语言模型（LLM）聊天机器人设计的长期记忆系统。通过构建一个框架，使机器人记住用户的基础信息、习惯和偏好，提供个性化的交互体验。MemoryScope具备记忆数据库、核心worker库和核心Operation库，支持记忆检索、记忆巩固、反思与再巩固等功能。MemoryScope通过向量数据库存储记忆片段，基于多个worker处理记忆相关的任务。MemoryScope支持时间感知，根据时间上下文提供相关记忆。提升聊天机器人的连贯性和“理解”能力，使用户在使用过程中感受到“默契”。

MemoryScope的主要功能

• 记忆数据库：基于向量数据库（如ElasticSearch）存储记忆片段。
• 核心Worker库：将长期记忆能力分解成多个独立的worker，负责不同的任务，如信息查询过滤、观察提取、洞察更新等。
• 核心Operation库：基于worker的pipeline构建，实现记忆检索和记忆巩固等核心能力。
• 记忆检索：根据用户输入返回语义相关的记忆片段，如果输入包含时间信息，会返回相应时间的记忆片段。
• 记忆巩固：处理用户输入，提取重要信息并存储为观察（observation）形式的记忆片段。
• 反思与再巩固：定期对新记录的观察进行反思，形成和更新洞察（insight）形式的记忆片段，并执行记忆再巩固，处理记忆片段间的矛盾和重复。

MemoryScope的技术原理

• 向量数据库：用向量数据库存储记忆片段，基于向量相似度进行高效的检索。
• 原子化Worker：将长期记忆能力分解成多个独立的worker，每个worker负责特定的任务，如信息过滤、观察提取等，提高系统的灵活性和可扩展性。
• Pipeline架构：基于pipeline架构组织worker，实现记忆检索和记忆巩固等操作，提高处理效率。
• 语义相关性：通过自然语言处理技术，分析用户输入的语义，返回相关的记忆片段。
• 时间上下文处理：系统能理解时间上下文，根据时间信息检索记忆片段。
• 记忆片段的层次结构：记忆片段存储为层次结构，洞察作为高层次信息，由相似主题的观察聚合而成。

MemoryScope的项目地址

• 项目官网：modelscope.github.io/MemoryScope
• GitHub仓库：https://github.com/modelscope/MemoryScope

MemoryScope的应用场景

• 个人助理：作为个人助理，MemoryScope帮助机器人记住用户的日程安排、偏好设置、常用联系人等信息，提供更加贴心的服务。
• 情感陪伴：在情感陪伴机器人中，MemoryScope记录用户的情绪变化和交流历史，使机器人更好地理解和响应用户的情感需求。
• 客户服务：在客户服务领域，MemoryScope帮助机器人记住客户的历史交互记录和偏好，提供更加个性化的服务。
• 教育辅导：在教育辅导机器人中，MemoryScope记录学生的学习进度和偏好，提供定制化的学习建议和辅导。
• 健康咨询：在健康咨询机器人中，MemoryScope记录用户的健康状况和生活习惯，提供个性化的健康建议。