当前位置：首页 > 游戏攻略 > LLM论文研读: GraphRAG的替代者LightRAG

LLM论文研读: GraphRAG的替代者LightRAG

来源：网络作者：趣玩小编发布时间：2024-10-31 09:48:29

1. 背景

最近有一个很火的开源项目 LightRAG ， Github6.4K+ 星※，北邮和港大联合出品，是一款微软 GraphRAG 的优秀替代者，因此本 qiang~ 得了空闲，读读论文、跑跑源码，遂有了这篇文章。

2. LightRAG 框架

2.1 已有 RAG 系统的局限性

1) 许多系统仅依赖于平面数据表示 ( 如纯文本 ) ，限制了根据文本中实体间复杂的关系来理解和检索信息的能力。

2) 许多系统缺乏各种实体及其关系之间保持一致所需的上下文意识，导致可能无法完全解决用户的问题。

2.2 LightRAG 的优势

1) 引入图结构：将图结构引入文本索引及相关信息检索的环节中，图结构可以有效表示实体及其关系，有利于上下文的连贯性与丰富性。

2) 综合信息检索 : 从所有文档中提取相互依赖的实体的完整上下文，以确保信息检索的综合性。相对于传统的 RAG ，可能只关注于 Chunk 后的局部文本，缺乏全局综合信息。

3) 增强检索效率 : 提高基于图结构的知识检索效率，以显著减少响应时间。

4) 新数据的快速适配 : 能够快速适应新的数据更新，确保系统在动态环境中保持相关性。

5) 减少检索开销 : 相对于 GraphRAG 以社区遍历的方法， LightRAG 专注于实体和关系的检索，进而减少开销。

2.3 LightRAG 的框架

LightRAG 将基于图结构的文本索引 (graph-based text indexing) 无缝地集成到一个双层检索框架 (dual-level retrieval framework) 中，因此能够提取实体间复杂的内部关系，提高响应的丰富性和连贯性。

双层检索策略包括低级检索和高级检索，其中低级检索重点关注特定实体及其关系的准确信息，高级检索则包含了广泛的主题信息。

此外，通过将图结构与向量表征相结合， LightRAG 促进了相关实体和关系的有效检索，同时基于结构化的知识图谱中相关的信息，增强了结果的全面性。

LightRAG 无需重复构建整个索引，降低了计算成本且加速了适配，而且其增量更新算法保障了新数据的及时整合。

2.3.1 基于图的文本索引

1) 实体及关系抽取： LightRAG 先将大文本切分为小文本，然后利用 LLM 识别并抽取小文本中各种实体及其关系，此举可便于创建综合的知识图谱， prompt 示例如下：

2) 使用 LLM 性能分析功能生成键值对：使用 LLM 提供的性能分析函数，为每个实体及每条关系生成一个文本键值对 (K, V) ，其中 K 是一个单词或短语，便于高效检索， V 是一个文本段落，用于文本片段的总结

3) 去重以优化图操作：通过去重函数识别并合并来自不同段落的相同实体和关系。有效地减少了与图操作相关的开销，通过最小化图的大小，从而实现更高效的数据处理。

2.3.2 双层检索机制

1) 在细节层和抽象层分别生成查询键：具体查询以细节为导向，许精确检索特点节点或边相关信息；抽象查询更加概念化，涵盖更广泛的主题、摘要，其并非与特定实体关联。

2) 双层检索机制：低级检索聚焦于检索特定实体及其属性或关系信息，旨在检索图谱中指定节点或边的精确信息；高级检索处理更广泛的主题，聚合多个相关实体和关系的信息，为高级的概念及摘要提供洞察力。

3) 集成图以及向量以便高效检索：通过图结构和向量表示，使得检索算法有效地利用局部和全局关键词，简化搜索过程并提高结果的关联性。具体分为如下步骤：

a. 查询关键词提取：针对给定的问题， LightRAG 的检索算法首先分别提取局部查询关键词和全部查询关键词

关键词提取的 prompt 如下：

b. 关键词匹配：检索算法使用向量数据库来匹配局部查询关键词与候选实体，以及全局查询关键词与候选关系 ( 与全局关键词关联 )

c. 增强高阶关联性 : LightRAG 进一步收集已检索到的实体或关系的局部子图，如实体或关系的一跳邻近节点

2.3.3 检索增强回答生成

1) 使用已检索信息 : 利用已检索的信息，包括实体名、实体描述、关系描述以及原文片段， LightRAG 使用通用的 LLM 来生成回答。

2) 上下文集成及回答生成 : 将查询串与上下文进行整合，调用 LLM 生成答案。

2.3.4 整体过程示例

3. 实验

3.1 数据源

从 UltraDomain 基准中选取了 4 个数据集，分别包括农业、计算机科学、法律、混合集，每个数据集包含 60W-500W 个 token 。

3.2 问题生成

为了评估 LightRAG 的性能，首先通过 LLM 生成 5 个 RAG 用户，且为每个用户生成 5 个任务。每个用户均具有描述信息，详细说明了他们的专业知识和特征，以引发他们提出相关问题。每个用户任务也具有描述信息，强调其中一个用户在于 RAG 交互时的潜在意图。针对每个用户任务的组合， LLM 生成 5 个需要理解整个数据集的问题。因此，每个数据集共产生 125 个问题。

问题生成的 prompt 如下：

3.3 基线模型

选取的 4 个基线模型包括 Naive RAG, RQ-RAG, HyDE, GraphRAG 。

3.4 评价维度及细节

实验中，向量检索采用 nano 向量库， LLM 选择 GPT-4o-mini ，每个数据集的分块大小为 1200 ，此外收集参数 (gleaning parameter ，目的在于仅通过 1 轮 LLM 无法完全提取对应的实体或关系，因此该参数旨在增加多次调用 LLM) 设置为 1 。

评价标准采用基于 LLM 的多维度比较方法，使用 GPT-4o-mini 针对 LightRAG 与每个基线的响应进行排名。主要包含如下 4 个维度 : 全面性 ( 回答多大程度解决了问题的所有方面和细节 ) 、多样性 ( 与问题相关的不同观点，答案的多样性和丰富性如何 ) 、接受度 ( 答案是否有效使读者理解主题并做出明确判断 ) 、整体评价 ( 评估前三个标准的累积评价 ) 。