极客时间大模型RAG进阶实战营

说明

通过三个问题，快速了解 RAG 的核心概念、应用场景和优化方向，为后续学习打下基础。
1. 掌握 RAG 的基本概念和整体框架，
2. 了解 RAG 的典型应用场景和优势
3. 明确 RAG 系统的关键优化方向和步骤

详细内容

• RAG 的整体框架和技术组件是什么？
  • 详解 RAG 的三个核心组成部分：文档读取、检索和生成
  • 10 大核心组件：文档导入、文本分块、嵌入、向量存储、查询优化、检索、检索后处理、生成、评估、整体流程优化
  • RAG 的完整流程，并讲解每个环节的作用和意义
• 如何快速搭建 RAG 系统？
  • 使用 LlamaIndex 和 LangChain 快速搭建 RAG 系统（在 GPT-o1/DeepSeek-V3/R1 等最新大模型间任意切换）
  • 不使用框架，直接用嵌入模型、向量数据库和 LLM 搭建 RAG 系统
  • 使用 Coze、Dify 和 Ragflow 等可视化工具搭建 RAG 系统
• 从何处入手优化 RAG 系统？
  • 分块策略：不同粒度对检索效率和准确度的影响
  • 嵌入策略：如何选择合适的嵌入模型和向量数据库
  • 检索策略：关键词检索、语义检索和混合检索的优缺点
  • 生成策略：如何控制生成内容的质量和相关性
  • 评估体系：如何评估 RAG 系统的性能和效果

第二课

实战项目-1：构建自己的 RAG 前端和后端框架

说明

本课及后续几个项目实战旨在让学员快速搭建完整项目，搭建起基于本地知识库的企业问答系统，并初步运行 RAG 系统。后续章节的核心技术详解篇仍将基于这些项目逐步优化 RAG 系统，并在过程中逐步深化对 RAG 各个组件的理解。

• • • 项目目标
      • 掌握 RAG 前端框架的设计和开发
      • 学习如何与后端 RAG 系统进行交互
      • 实现用户友好的界面和交互体验
      • 自己搭建框架，便于评估，调试
      • 自主配置各种 RAG Pipeline, 文档解析器，嵌入模型和生成模型
    • 项目内容
      • 设计前端界面，包括用户输入、结果展示、交互功能等
      • 使用 JavaScript、HTML、CSS 等技术实现前端框架
      • 与后端 RAG 系统进行 API 对接，实现数据传输和交互
      • 优化前端性能，提升用户体验

第三课

实战项目-2：金融/医疗领域专有词汇标准化系统开发

说明

金融/医疗领域有自己的特定术语系统，如何在金融（或医疗）文档中识别这些术语，并进行标准化处理，可以节省从业人员的时间成本，提升工作效率，同时提高文档的专业程度。

• 项目目标
• • 掌握金融 / 科技专有词汇标准化系统的开发
  • 学习如何处理金融 / 医疗领域的专业术语，将非标准化术语通过 RAG 和检索系统进行标准化，以及缩略语的自动扩写
  • 构建一个可以对专有词汇进行标准化的 RAG 系统
• 项目内容
• • 收集整理银行/医疗领域的专有词汇和相关文档
  • 构建 RAG 系统，实现对专有词汇的识别和标准化

第四课

实战项目-3：企业文档合规性检索和问答系统开发

说明

企业文档合规性检索和问答系统开发，通过 RAG 系统帮助企业进行合规性审查，提升工作效率，同时降低合规风险。

• 项目目标
  • 掌握企业文档合规性检索和问答系统的开发
  • 学习如何处理法律法规、行业标准等文档
  • 构建一个可以帮助企业进行合规性审查的 RAG 系统
• 项目内容
  • 收集整理企业内部文档和相关法律法规、行业标准等
  • 对文档进行预处理，包括分词、实体识别等
  • 构建 RAG 系统，实现对文档的检索和问答功能
  • 尝试 BM25、Naive RAG、混合检索等多种算法
  • 对系统进行评估和优化，提升准确性和效率
    

第五课

实战项目-4：基于 GraphRAG、LightRAG 和 LazyGraphRAG 的知识图谱 RAG 系统构建

说明

近年来，知识图谱在企业 RAG 系统中得到了越来越广泛的应用，本项目将实现医学领域的医疗术语的知识图谱的构建和可视化，同时可以进行知识推理和问答。

• 项目目标
  • 掌握基于图的 RAG 系统的构建
  • 学习 GraphRAG、LightRAG 和 LazyGraphRAG 等方法
  • 构建一个可以进行知识推理和问答的 RAG 系统
• 项目内容
  • 收集整理知识图谱数据
  • 基于知识图谱构建 RAG 系统

第二部分：RAG 各组件与核心技术详细拆解

第一课

数据导入技术

说明

掌握从不同来源导入数据的技巧，包括文本、表格、图像、网页等，为 RAG 系统提供丰富的数据支持。
1. 学会使用不同的数据加载器读取各种格式的文档，尤其是复杂 PDF 的解析方式
2. 掌握处理图像和网页数据的技巧
3. 了解如何保留文档的结构化信息

详细内容

• • 简单文本的读取
    • 使用 LangChain 和 LlamaIndex 读取 txt 文档
    • 各种主要文档加载器的介绍和使用
  • 表格数据的导入
    • 使用 Unstructured 处理 CSV 数据
    • 自动形成和手动指定元数据
  • PDF 图像 表格和网页数据的处理
    • 使用 OCR 技术识别图像中的文字
    • 利用 LLM 解析图文信息
    • 爬取网页数据并进行解析
• 实战
  • 重构实战项目 1 和 3 中的数据导入部分。

第二课

文本分块技术

理解文本分块的重要性，掌握不同的分块策略，并学习如何优化分块效果。

• 教学目标
  • 理解分块对 RAG 系统的影响
  • 掌握按大小、格式和语义进行分块的技巧
  • 学习如何为文本块添加元数据
• 详细内容
  • 分块的重要性
    • 影响检索效率和准确度
    • 避免 LLM 的上下文窗口限制
  • 不同的分块策略
    • 按大小分块：固定长度、滑动窗口等
    • 按格式分块：段落、课节等
    • 按语义分块：主题、实体等
  • 高级分块技巧
    • 使用 Tiktoken 计算 Token 数量
    • 为文本块添加元数据
    • 构建多层次索引
• 实战
  • 重构实战项目 1 和 3 中的文本分块部分。

第三课

嵌入技术

了解嵌入模型的原理，掌握不同嵌入模型的特点，并学习如何选择合适的嵌入模型。

• 教学目标
  • 掌握嵌入模型的基本概念和作用
  • 了解不同嵌入模型的优缺点和适用场景
  • 学习如何评估嵌入模型的效果
• 详细内容
  • 嵌入模型的原理
    • 将文本转换为向量表示。
    • 捕捉文本的语义信息。
  • 不同嵌入模型的特点
    • 商用模型：OpenAI、Cohere、VoyageAI 等
    • 开源模型：BGE、Sentence Transformer 等
    • 实战案例：使用 OpenAI 嵌入模型进行文本聚类
  • 嵌入模型的评估和选择
    • MTEB 基准测试
    • 稀疏嵌入和密集嵌入
    • 重排序模型
• 实战
  • 重构实战项目 1、2、3 中的嵌入部分。

第四课

向量存储和索引技术

掌握向量数据库的工作原理，了解不同向量数据库的特点，并学习如何选择和使用向量数据库。不同索引的区别、维度区别、如何加速索引，Query 和 Search 的区别和组合。

• 教学目标
  • 理解向量数据库的基本概念和作用
  • 了解不同向量数据库的优缺点和适用场景
  • 学习如何优化向量数据库的性能
• 详细内容
  • 向量数据库的工作原理
    • 存储和检索文本向量
    • 加速语义检索
  • 不同向量数据库的特点
    • Milvus、Weaviate、Qdrant 等
    • 索引和搜索设置
    • 实战案例：使用 Milvus 构建 RAG 系统
  • 向量数据库的高级应用
    • 混合嵌入和混合检索（稀疏检索 + 密集检索 / BM25 + ANN 相似度检索）
    • 多模态检索
• 实战
  • 重构实战项目 1、2、3、4 中的向量存储部分

第五课

预检索-查询优化技术

学习如何优化查询语句，提高检索效率和准确度。

• 教学目标
  • 掌握查询重写、分解和澄清的技巧
  • 了解查询路由和扩展的应用
• 详细内容
  • 查询构建（Query Rewriting）
    • Text-to-SQL：将自然语言转换为 SQL 语句
    • Text-to-Cypher：适配图数据库的查询转换
    • Self-query Retriever：自动从查询中提取结构化信息
  • 查询优化（Query Translation）
    • 查询重写（Query Rewriting）：使用 LLM 优化查询语句改写原始查询以提高准确性
    • 查询分解（Query Decomposition）：将复杂查询拆分为多个子查询
    • 查询澄清（Query Clarification）：通过交互明确用户意图
    • 查询扩展 – HyDE：生成假设文档来增强查询效果
  • 查询路由
    • 语义路由：根据查询内容选择合适的知识库
    • 定义路由：基于预设规则进行查询分发
• 实战
  • 重构实战项目 1、2、3、4 中的查询优化部分。