传统RAG改变了我们构建AI应用的方式。通过在生成答案前检索相关文档它让LLM能够访问私有的、最新的知识。但存在一个根本性问题 vanilla RAG将数据视为孤立的文本块。它能找到语义上相似的内容但会忽略关联的内容。进入GraphRAG— 一种将知识图谱融入检索流程的范式使LLM能够跨关系进行推理、遍历多跳连接并在结构化、可解释的上下文中产生答案。在本文中我将带你了解什么是GraphRAG、为什么它重要、如何运作以及如何构建一个完整的系统。我们将涵盖架构、代码、基础设施以及投入生产前需要了解的权衡取舍。1、什么是GraphRAGGraphRAG图检索增强生成将知识图谱与大语言模型结合创建了一个不仅理解数据内容而且理解信息之间关系的检索系统。在标准RAG流程中你将文档分块、将它们嵌入为向量并根据余弦相似度检索最相似的top-k块。这对于直接的事实查询效果很好——我们的退款政策是什么但当答案需要综合多个文档的信息或推理实体间的关系时它就失效了。考虑这样一个问题“哪些参与了Project Alpha的团队成员也贡献了任何Q3计划”向量搜索可能会分别检索到提及Project Alpha的块和提及Q3的块但它无法将人、项目和时间线联系起来。GraphRAG通过将实体人、项目、日期和它们的关系worked_on、contributed_to、reported_to编码在图结构中来解决这个问题该图结构可以在查询时被遍历。2、GraphRAG如何运作两阶段管道GraphRAG在两个基本阶段运行索引构建图和查询从中检索。阶段1索引索引阶段将原始的非结构化文本转换为结构化的知识图谱。以下是逐步发生的过程文本分块。文档被分割成可管理的文本单元——段落、句子或固定大小的窗口。这些块成为提取实体和关系的原子单位。实体和关系提取。LLM读取每个块并识别其中的实体人、组织、地点、概念以及它们之间的关系。例如从句子*“Dr. Smith leads the oncology department at Boston General”*中系统提取实体Dr. Smith、oncology department、Boston General和关系leads、part_of。知识图谱构建。提取的实体成为图数据库中的节点关系成为边。重复实体被解析图谱解析并为图谱添加属性如描述、来源引用和嵌入向量。社区检测和总结。Microsoft的GraphRAG实现更进一步使用层次聚类Leiden算法来检测紧密相关的实体社区。每个社区都有一个LLM生成的总结使系统能够回答跨越整个语料库的广泛、主题性问题。向量索引。实体描述、关系描述和社区总结被嵌入为向量创建了一个支持图遍历和语义搜索的混合检索层。阶段2查询在查询时GraphRAG提供两种检索策略本地搜索最适合具体的、以实体为中心的问题。系统在查询中识别相关实体扩展到它们的图邻域k跳内的连接节点检索相关的文本块并为LLM组装一个丰富的上下文窗口。全局搜索处理需要跨整个数据集进行推理的广泛、主题性问题。它利用社区总结——索引期间生成的层次聚类——来提供高层答案而无需遍历整个图。在实践中许多生产系统使用混合方法快速向量搜索缩小候选文档范围图遍历用结构关系丰富上下文LLM从这种组合上下文中生成最终答案。3、GraphRAG vs. 传统RAG图何时胜出并非每个用例都需要GraphRAG。以下是一个实用的决策框架在以下情况使用传统RAG你的查询是直接的事实查找“退货政策是什么”你的数据没有丰富的实体间关系或者延迟和成本约束紧张。在以下情况使用GraphRAG查询需要多跳推理“我们网络中的哪些供应商也为我们的竞争对手服务”你需要可解释的检索路径合规、法律、医疗你的数据本质上是关系型的组织结构、科学文献、金融网络或者你需要跨大型语料库回答主题性问题“今年客户反馈的主要主题是什么”。来自GraphRAG-Bench项目2025年的研究证实GraphRAG在复杂推理和上下文总结任务上始终优于vanilla RAG而对于简单的事实检索性能差距会缩小因为单独的向量搜索已经足够。4、实现构建GraphRAG系统让我们使用Python、Neo4j和LangChain从头构建一个GraphRAG管道。我将展示每个组件的可用代码。4.1 前提条件和基础设施你需要以下基础设施图数据库 — Neo4j。GraphRAG最广泛采用的图数据库。它同时支持属性图查询Cypher和原生向量索引非常适合混合检索。# Run Neo4j via Docker docker run \ --name neo4j-graphrag \ -p 7474:7474 -p 7687:7687 \ -d \ -v $PWD/neo4j/data:/data \ -v $PWD/neo4j/plugins:/plugins \ --env NEO4J_AUTHneo4j/your-password \ neo4j:latestLLM Provider。OpenAI、Anthropic或通过Ollama的本地模型用于提取和生成。Python依赖pip install langchain langchain-community langchain-neo4j langchain-openai pip install neo4j neo4j-graphrag-python pip install tiktoken python-dotenv步骤1连接Neo4j并配置环境import os from dotenv import load_dotenv from langchain_neo4j import Neo4jGraph load_dotenv() os.environ[OPENAI_API_KEY] sk-... os.environ[NEO4J_URI] bolt://localhost:7687 os.environ[NEO4J_USERNAME] neo4j os.environ[NEO4J_PASSWORD] your-password # Establish graph connection graph Neo4jGraph( urlos.environ[NEO4J_URI], usernameos.environ[NEO4J_USERNAME], passwordos.environ[NEO4J_PASSWORD], ) print(Connected to Neo4j successfully.)步骤2摄取和分块文档from langchain.text_splitter import TokenTextSplitter from langchain_community.document_loaders import WikipediaLoader # Load documents (using Wikipedia as an example source) raw_documents WikipediaLoader(queryArtificial Intelligence).load() # Chunk with overlap for context preservation text_splitter TokenTextSplitter( chunk_size512, chunk_overlap64, ) documents text_splitter.split_documents(raw_documents) print(fSplit into {len(documents)} chunks.)步骤3使用基于LLM的提取构建知识图谱这是GraphRAG的核心——使用LLM从非结构化文本中提取结构化实体和关系。from langchain_openai import ChatOpenAI from langchain_experimental.graph_transformers import LLMGraphTransformer # Initialize the LLM for extraction llm ChatOpenAI(modelgpt-4o, temperature0) # Create the graph transformer llm_transformer LLMGraphTransformer(llmllm) # Extract graph documents (entities relationships) graph_documents llm_transformer.convert_to_graph_documents(documents) # Inspect what was extracted for doc in graph_documents[:2]: print(fNodes: {doc.nodes}) print(fRelationships: {doc.relationships}) print(---) # Store in Neo4j graph.add_graph_documents( graph_documents, baseEntityLabelTrue, # adds a generic __Entity__ label include_sourceTrue, # links graph nodes back to source chunks )LLMGraphTransformer提示LLM在每个块中识别实体及其关系。你可以通过指定允许的节点类型和关系类型来自定义提取llm_transformer LLMGraphTransformer( llmllm, allowed_nodes[Person, Organization, Technology, Concept], allowed_relationships[ FOUNDED_BY, WORKS_AT, DEVELOPED, RELATED_TO, USED_IN, PART_OF, ], )步骤4添加向量索引以实现混合检索from langchain_neo4j import Neo4jVector from langchain_openai import OpenAIEmbeddings # Create a hybrid (vector keyword) index over the stored chunks vector_index Neo4jVector.from_existing_graph( OpenAIEmbeddings(), search_typehybrid, node_labelDocument, text_node_properties[text], embedding_node_propertyembedding, ) # Test it results vector_index.similarity_search( What are the major approaches to artificial intelligence? ) for r in results[:3]: print(r.page_content[:200]) print(---)步骤5构建图检索器这就是GraphRAG的不同之处——通过图遍历检索上下文而不仅仅是向量相似度from langchain_neo4j import GraphCypherQAChain # The Cypher QA chain lets the LLM generate graph queries dynamically cypher_chain GraphCypherQAChain.from_llm( llmChatOpenAI(modelgpt-4o, temperature0), graphgraph, verboseTrue, allow_dangerous_requestsTrue, # required for dynamic Cypher ) # Ask a relationship-based question response cypher_chain.invoke({ query: What technologies are related to machine learning? }) print(response[result])为了更好地控制构建一个结合向量搜索和邻域遍历的自定义图检索器from neo4j_graphrag.retrievers import VectorRetriever from neo4j_graphrag.llm import OpenAILLM from neo4j_graphrag.generation import GraphRAG from neo4j_graphrag.embeddings import OpenAIEmbeddings from neo4j import GraphDatabase # Direct Neo4j driver connection driver GraphDatabase.driver( bolt://localhost:7687, auth(neo4j, your-password), ) # Set up retriever with neighborhood expansion embedder OpenAIEmbeddings(modeltext-embedding-3-large) retriever VectorRetriever( driverdriver, index_namevector-index-name, embedderembedder, # Cypher to expand retrieved nodes into their graph neighborhood retrieval_query MATCH (node)-[r]-(neighbor) RETURN node.text AS text, score, collect(type(r) - neighbor.name) AS relationships , ) # Wire up the full GraphRAG pipeline llm OpenAILLM(model_namegpt-4o) rag GraphRAG(retrieverretriever, llmllm) # Query response rag.search( query_textHow is deep learning used in natural language processing?, retriever_config{top_k: 5}, ) print(response.answer)步骤6使用Microsoft的GraphRAG库替代方法Microsoft的开源GraphRAG库提供了一个内置社区检测和层次总结的完整管道pip install graphrag # Initialize a GraphRAG project # graphrag init --root ./my_graphrag_project # Place your documents in ./my_graphrag_project/input/ # Then run indexing: # graphrag index --root ./my_graphrag_project # Query with global search (for thematic questions) # graphrag query --root ./my_graphrag_project \ # --method global \ # --query What are the main themes in this dataset? # Query with local search (for specific questions) # graphrag query --root ./my_graphrag_project \ # --method local \ # --query Tell me about entity X注意Microsoft的实现在索引期间可能很昂贵因为它为实体提取和社区总结进行了许多LLM调用。从小数据集开始并监控你的API成本。5、GraphRAG生产基础设施从原型到生产需要深思熟虑的基础设施选择图数据库。Neo4j社区版或企业版是标准选择。对于云部署Neo4j Aura提供了托管服务。替代方案包括Amazon Neptune、TigerGraph或NebulaGraph尽管Neo4j拥有最强的GraphRAG生态系统。向量存储。Neo4j的原生向量索引适用于集成部署。对于大规模系统你可以将其与专用向量数据库如Milvus、Pinecone或Weaviate配对用于初始检索层。LLM基础设施。你需要在两个阶段访问LLM索引期间的实体提取批量可以使用较便宜的模型和查询期间的答案生成实时受益于更强的模型。考虑使用GPT-4o-mini或Claude Haiku进行提取使用GPT-4o或Claude Sonnet进行生成以管理成本。编排。LangChain、LangGraph或LlamaIndex用于链接检索和生成步骤。LangGraph对于具有图和向量检索之间条件路由的复杂工作流程特别有用。计算。索引阶段是计算密集型的受益于异步处理。为大型语料库计划可夜间运行的批量索引作业。查询时的检索通常很快亚秒级图查询加上LLM延迟。监控。跟踪图大小节点/边计数、查询延迟、检索精度和LLM令牌使用情况。LangSmith或PhoenixArize AI等工具可以帮助实现可观测性。最小的生产架构如下┌─────────────────────────────────────────────────┐ │ Ingestion Pipeline │ │ Documents → Chunking → LLM Extraction → Neo4j │ │ ↓ │ │ Vector Indexing │ └─────────────────────────────────────────────────┘ ┌─────────────────────────────────────────────────┐ │ Query Pipeline │ │ User Query │ │ ├── Vector Search (candidate retrieval) │ │ ├── Graph Traversal (relationship expansion) │ │ └── Context Assembly │ │ ↓ │ │ LLM Generation → Response │ └─────────────────────────────────────────────────┘6、GraphRAG的优势多跳推理。图遍历自然地处理需要跨多个文档和实体连接信息的问题这是向量相似度搜索根本无法做到的。可解释性。每个答案都可以追溯到图谱——你可以向用户准确展示哪些实体、关系和源文档贡献了响应。这对于医疗、金融和法律等合规性重的领域至关重要。减少幻觉。通过将LLM的上下文建立在结构化的、事实性的关系上而不是松散相似的文本块GraphRAG显著减少了幻觉反应的表面面积。全局推理。通过社区总结GraphRAG可以回答主题性的、语料库级别的问题“我们所有客户反馈的主要趋势是什么”这在传统RAG中需要处理比上下文窗口允许的更多的令牌。增量更新。知识图谱可以增量更新——添加新的实体和关系而无需重新索引整个文档语料库。7、局限性和权衡索引成本。通过LLM进行实体提取代价高昂。处理大型语料库会消耗大量API令牌。Microsoft明确警告索引可能很昂贵并建议从小规模开始。复杂性。与vanilla RAG相比GraphRAG增加了显著的架构复杂性。你现在需要管理图数据库、向量索引、实体解析和更复杂的检索逻辑。实体解析质量。同一实体可能被用不同的名称提取“Dr. John Smith”、“J. Smith”、“John”。糟糕的实体解析导致图谱碎片化。生产系统需要强大的去重策略。并非总是必要。对于简单文档的简单问答GraphRAG的增加复杂性可能不值得其性能提升。始终为你的特定用例对vanilla RAG进行基准测试。8、新兴变体和未来展望GraphRAG生态系统正在快速发展。值得关注的关键变体包括LightRAG和FastGraphRAG它们针对速度和成本优化了索引管道。Microsoft的LazyGraphRAG将昂贵的图构建推迟到查询时间显著降低了前期成本。HippoRAG使用个性化PageRank进行更智能的图遍历。2025年初的研究表明图操作符的选择如何遍历和排名节点比图结构本身更重要——结合拓扑遍历和统计排名的方法如个性化PageRank始终优于其他方法。趋势很明显检索的未来不仅仅是找到相似的文本——而是理解知识本身的结构。9、结束语GraphRAG代表了我们将LLM与私有数据连接的有意义演进。通过将实体及其关系编码在图结构中它实现了多跳推理、可解释检索和主题理解而这是单纯的向量搜索无法提供的。与vanilla RAG相比实现更复杂但对于复杂、关系丰富的领域质量提升是显著的。从关系重要的清晰用例开始。使用Neo4j和LangChain构建原型。与vanilla RAG进行基准测试。然后从那里扩展。原文链接GraphRAG 完全指南 - 汇智网