今日题目• RAG知识库如何构建• RAG策略• RAG流程与优化手段• 评价RAG项目效果• ragflow和llamaindex区别• RAG在大模型中的作用• 如何让大模型的回答更加多样化• 主流大模型的解码策略一、RAG 的基本流程RAGRetrieval-Augmented Generation检索增强生成是一种将外部知识库与大语言模型LLM结合的技术用于解决 LLM 固有知识有限、易产生幻觉、无法访问私有数据等问题。其核心思想是在生成答案前先从外部文档中检索相关片段再将这些片段作为上下文输入给 LLM引导其生成更准确、可溯源的回答。标准 RAG 流程包含三个阶段1、索引构建Indexing1将外部知识库如 PDF、网页、数据库记录切分为文本块chunks2使用嵌入模型如 bge、text-embedding-ada-002将每个 chunk 转为向量3将向量存入向量数据库如 FAISS、Milvus、Pinecone建立高效检索索引。2、检索Retrieval1用户输入查询query后用同一嵌入模型将其转为向量2在向量库中搜索 top-K 最相似的 chunks通常 K3–103可加入元数据过滤如时间范围、文档类型提升相关性。3、生成Generation1将原始 query 与检索到的 chunks 拼接成提示prompt例如“根据以下资料回答问题{chunk1} {chunk2} … 问题{query}”2将该 prompt 输入 LLM生成最终答案3理想情况下答案应基于检索内容避免编造。二、RAG 的常见问题与优化手段1、检索质量不高1问题召回的文档不相关或关键信息被遗漏2优化方法①改进嵌入模型使用更强的开源模型如 bge-large-zh-v1.5、e5-mistral替代通用 embedding②多向量检索对同一 chunk 生成多个视角的向量如摘要向量 关键词向量③HyDEHypothetical Document Embeddings让 LLM 先生成一个假设答案用其向量去检索提升语义匹配④混合检索结合向量检索语义与关键词检索BM25取并集或加权融合。2、上下文噪声干扰1问题检索结果包含无关或矛盾信息干扰 LLM 判断2优化方法①重排序Reranking用 Cross-Encoder如 bge-reranker对 top-K 结果重新打分保留最相关 few 条②上下文压缩让小模型或规则模块提取检索内容中的关键句去除冗余③多跳检索Multi-hop若首轮结果不足基于初步答案发起第二轮检索逐步聚焦。3、LLM 未有效利用检索内容1问题LLM 忽略上下文直接凭内部知识作答导致事实错误2优化方法①Prompt 工程明确指令如“仅根据以上资料回答若无相关信息请回答‘不知道’”②微调 LLM在含检索上下文的数据上进行 SFT教会模型依赖外部信息③对比解码同时生成“有上下文”和“无上下文”两个答案选择差异小的版本抑制幻觉。4、长上下文处理效率低1问题检索结果过长超出 LLM 上下文窗口或增加推理成本2优化方法①智能切分按语义边界如段落、标题切 chunk避免截断关键信息②动态窗口只保留与 query 最相关的句子而非整个 chunk③使用支持长上下文的 LLM如 Llama3-8B-Instruct8K、Qwen-72B32K或 Claude200K。三、高级 RAG 架构演进1、Corrective RAGCRAG1引入验证模块对检索结果进行可信度打分2若得分低则触发网络搜索或拒绝回答3提升系统鲁棒性避免传播错误知识。2、FLAREFuture-aware Active Retrieval1在生成过程中动态判断是否需要再次检索2例如当 LLM 即将输出不确定内容时暂停生成发起新检索3实现“边想边查”更接近人类推理过程。3、Self-RAG1训练 LLM 自主决定何时检索、是否接受检索结果2通过特殊 token如 、控制流程3减少对外部模块的依赖提升端到端可控性。四、评估与监控1、离线评估指标1检索阶段Hit RateK、MRR、NDCG2生成阶段Faithfulness忠实度、Answer Relevance、ROUGE/BLEU若有人工答案。2、线上监控1记录检索命中率、平均 chunk 长度、LLM 引用率2抽样检查幻觉比例建立反馈闭环3A/B 测试不同 RAG 配置对用户满意度的影响。RAG 是当前大模型落地最实用的技术路径之一它用相对低成本的方式弥补了 LLM 的知识短板。但“检索生成”不是简单拼接而是一个需要精细调优的系统工程。从嵌入模型选择、检索策略设计到 prompt 编排和生成控制每一步都影响最终效果。普通人如何抓住AI大模型的风口领取方式在文末为什么要学习大模型目前AI大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 大模型作为其中的重要组成部分 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 为各行各业带来了革命性的改变和机遇 。目前开源人工智能大模型已应用于医疗、政务、法律、汽车、娱乐、金融、互联网、教育、制造业、企业服务等多个场景其中应用于金融、企业服务、制造业和法律领域的大模型在本次调研中占比超过30%。随着AI大模型技术的迅速发展相关岗位的需求也日益增加。大模型产业链催生了一批高薪新职业人工智能大潮已来不加入就可能被淘汰。如果你是技术人尤其是互联网从业者现在就开始学习AI大模型技术真的是给你的人生一个重要建议最后只要你真心想学习AI大模型技术这份精心整理的学习资料我愿意无偿分享给你但是想学技术去乱搞的人别来找我在当前这个人工智能高速发展的时代AI大模型正在深刻改变各行各业。我国对高水平AI人才的需求也日益增长真正懂技术、能落地的人才依旧紧缺。我也希望通过这份资料能够帮助更多有志于AI领域的朋友入门并深入学习。真诚无偿分享vx扫描下方二维码即可加上后会一个个给大家发【附赠一节免费的直播讲座技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等欢迎大家~】大模型全套学习资料展示自我们与MoPaaS魔泊云合作以来我们不断打磨课程体系与技术内容在细节上精益求精同时在技术层面也新增了许多前沿且实用的内容力求为大家带来更系统、更实战、更落地的大模型学习体验。希望这份系统、实用的大模型学习路径能够帮助你从零入门进阶到实战真正掌握AI时代的核心技能01教学内容从零到精通完整闭环【基础理论 →RAG开发 → Agent设计 → 模型微调与私有化部署调→热门技术】5大模块内容比传统教材更贴近企业实战大量真实项目案例带你亲自上手搞数据清洗、模型调优这些硬核操作把课本知识变成真本事‌02适学人群应届毕业生‌无工作经验但想要系统学习AI大模型技术期待通过实战项目掌握核心技术。零基础转型‌非技术背景但关注AI应用场景计划通过低代码工具实现“AI行业”跨界‌。业务赋能突破瓶颈传统开发者Java/前端等学习Transformer架构与LangChain框架向AI全栈工程师转型‌。vx扫描下方二维码即可【附赠一节免费的直播讲座技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等欢迎大家~】本教程比较珍贵仅限大家自行学习不要传播更严禁商用03入门到进阶学习路线图大模型学习路线图整体分为5个大的阶段04视频和书籍PDF合集从0到掌握主流大模型技术视频教程涵盖模型训练、微调、RAG、LangChain、Agent开发等实战方向新手必备的大模型学习PDF书单来了全是硬核知识帮你少走弯路不吹牛真有用05行业报告白皮书合集收集70报告与白皮书了解行业最新动态0690份面试题/经验AI大模型岗位面试经验总结谁学技术不是为了赚$呢找个好的岗位很重要07 deepseek部署包技巧大全由于篇幅有限只展示部分资料并且还在持续更新中…真诚无偿分享vx扫描下方二维码即可加上后会一个个给大家发【附赠一节免费的直播讲座技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等欢迎大家~】