前言RAGRetrieval Augmented Generation检索增强生成通常预训练模型的知识存储在参数中因此模型无法了解训练集之外的知识。。之前的做法是通过在预训练模型上进行微调来更新模型的知识。。那么如何让大模型使用外部知识进行生成这样会有些问题每次有新知识模型都需要重新进行微调训练成本很高所有AI模型的底层原理都基于数学概率大模型也不例外。因此有时模型缺乏某方面知识可能会生成不准确内容即“幻觉”。识别这些“幻觉”对用户来说相当困难。对于企业数据安全至关重要。没有企业愿意承担数据泄漏风险将其私域数据上传到第三方平台进行训练。。因此完全依赖通用大模型能力的应用方案在数据安全与效果之间存在权衡。。所以才有了RAG方法。。预训练能够理解新知识那么我们可以通过提示prompt的方式将新知识直接提供给模型。。RAG检索增强生成是一种将大模型语言模型LLM与外部知识源的检索相结合以改进问答能力的工程框架。是一种从外部知识库检索事实将大模型锚定在最准确、最新信息上提升生成质量的AI框架。它使用来自私有或专有数据源的信息来辅助文本生成从而弥补LLM的局限性特别是在解决幻觉问题和提升时效性上面。。原始RAG流程包括索引、检索和生成三个步骤即把问答内容输入到数据库中给定query可以直接去数据库中搜索搜索完成后把查询结果和query拼接起来送给模型去生成内容。。实际langchain、llama-index本质上就是做的这套RAG系统当然还包括构建在RAG之上的agentRAG与模型微调的对比微调模型RAG优点针对特定任务调整预训练模型。优点是可针对特定任务优化结合检索系统和生成模型。优点是能利用最新信息提高答案质量具有更好的可解释性和适应性缺点但缺点是更新成本高对新信息适应性较差是可能面临检索质量问题和增加额外计算资源需求;RAG不改动大模型本身不用重新训练外接私有/实时更新的知识库用户提问-先去库里找相关内容-把资料问题一起给大模型-大模型基于资料生成答案答案有依据、不幻觉、知识实时更新总结RAG检索增强生成检索技术LLM提示。如向LLM提问一个问题RAG从各种数据源检索相关的信息并将检索到的信息和问题注入到LLM提示中LLM最后给出答案。。RAG是2023年基于LLM系统中最受欢迎的架构许多产品基于RAG构建从基于web搜索引擎和LLM的问答服务到私有数据的chat应用程序RAG推动了向量搜索领域的发展RAG流程加载-切片-向量化-检索生成文档加载把资料喂进去文本分块切片向量化把文字变成数字向量检索生成用户提问转成向量向量库找到最相似的内容把问题加检索到的资料拼好传给大模型