你好,我是 Mingy

这里记录深度学习、大模型Agent的学习笔记。偶尔也写点乱七八糟的东西。

RAG 中 QUERY 改写的核心策略与实践

1. QUERY 改写的常见问题 资源浪费:60% 的简单查询无需改写,却因无差别调用大模型导致算力浪费。 召回率下降:大模型倾向将口语化查询改写为通用书面语,与业务文档中的专业表述(如 “白名单”)匹配度降低,导致相似度下降。 缺乏业务上下文:通用大模型不理解业务专属术语(如法律领域 “motion” 指 “动议” 而非 “运动”),易引发语义偏差。 2. QUERY 改写的主流方案 2.1 基础改写(补全与缩写展开) 功能:补全简短查询(如 “预审批贷款案例”→“请提供关于预审批贷款的案例分析”)、展开缩写(如 “AI”→“Artificial Intelligence 人工智能”)。 局限:仅解决表述不完整问题,无法处理语义偏差。 2.2 Multi-Query 多查询改写 核心:从不同角度生成多个查询(如 “气候变化对环境影响”→“气候变化对生物多样化 / 海洋 / 天气模式的影响”),合并检索结果提升全面性。 实践建议:生成 2-3 个改写(研究显示 4-5 个效果最佳,但需平衡成本)。 2.3 subquery 分解(子问题拆解) 适用场景:复杂问题含多个子问题(如 “比较马斯克和贝佐斯的教育背景”→拆分为 “马斯克教育背景”“贝佐斯教育背景”),分拆检索提升准确性。 2.4 stepback(退后一步泛化) 策略:将具体问题泛化为抽象背景问题(如 “某明星在某剧穿的衣服”→“某剧的服装设计风格”),先获取背景信息再回答具体问题。 2.5 Hyde(假设性文档嵌入) 思路:用大模型生成假设性答案,以 “文档匹配文档” 替代 “问题匹配文档”,提升相似度。 前提:大模型需对问题有一定了解,否则假设答案错误会导致检索偏差。 3. 业务知识注入策略 3.1 业务词典构建 内容:整理业务缩写、同义词、专有名词、黑话(如内部产品名 “XFlake”),直接用原词检索避免改写失真。 3.2 上下文注入(静态与动态) 静态注入:在 prompt 中补充业务背景(如 “我们是法律科技公司,HP 指 hearing preparation 庭审准备”),但受限于 token 成本。 动态注入:构建业务知识库(存术语解释),用户 query 先检索该库,将相关知识拼接至 prompt(如 “HP 流程”→检索到 “HP=hearing preparation”,注入后改写为 “庭审准备阶段的流程是怎样的”)。 3.3 实体识别与用户画像结合 实体识别:先识别 query 中的产品名、功能名、缩写词,针对性检索解释,减少噪音。 用户画像:同一术语因部门不同含义不同(如 “PIPELINE”:销售指 “销售漏斗”,工程师指 “数据流水线”),按用户部门注入对应背景。 3.4 fewshot 动态检索 机制:维护历史改写案例库,新 query 检索相似案例作为示例注入 prompt,使大模型学习业务改写风格。 4. 落地建议 先分类再改写:用轻量级分类器区分简单查询(直接检索)、复杂查询(分解)、专业术语(词典映射)。 控制改写数量:2-3 个改写性价比最高,平衡召回率与成本。 建立评估机制:通过评估集监测改写前后召回率变化,避免无效策略。 优先构建业务词典:整理所有缩写、黑话、专有名词,作为改写效果的基础保障。 5. 核心原则 通用策略(如 Multi-Query、Hyde)打底,业务知识(词典、动态注入)兜底,大模型处理开放问题,业务规则处理专属问题,两者结合提升 RAG 效果。

2026-04-17 · 3 分钟 · 1243 字 · Mingy

Agentic RAG 性能优化:规划缓存策略

1. Agentic RAG 的速度瓶颈 传统 RAG 流程为用户提问→检索一次→生成答案(一次 LLM 调用)。 Agentic RAG 需多轮 LLM 调用:分析问题→检索→判断信息是否足够(不足则继续检索)→生成答案,每步调用耗时(调三四次需十几秒)。 实测显示,从传统 RAG 升级到 Agentic 架构后,准确率提升但平均响应时间从 3 秒增至 14 秒。限制迭代次数或用小模型中间步骤等方法治标不治本,会导致准确率下降。 ...

2026-04-15 · 2 分钟 · 727 字 · Mingy

RAG 系统回答不准确的排查方法

第一步:确认答案是否在知识库中 排查方法:针对回答错误的 bad case,人工在知识库中搜索答案。若人工无法找到,说明问题出在数据源(如文档未完整导入、格式解析失败(PDF 表格、扫描件文字提取错误)、知识库未及时更新等),需优先解决数据源问题,否则后续优化无效。 第二步:检查 chunking 是否切碎答案 问题表现: ...

2026-03-14 · 2 分钟 · 739 字 · Mingy

GraphRAG和LightRAG技术介绍

RAG介绍 检索增强生成(Retrieval-Augmented Generation)技术是一种结合了检索和生成两个阶段的自然语言处理技术,它由Facebook AI团队在 2020 年提出。通常包括两个阶段:检索阶段和生成阶段。在检索阶段,从知识库中找出与问题最相关的知识,为后续的答案生成提供素材。在生成阶段,RAG会将检索到的知识内容作为输入,与问题一起输入到语言模型中进行生成。这样,生成的答案不仅考虑了问题的语义信息,还考虑了相关私有数据的内容。解决了以下几个问题: ...

2025-01-08 · 23 分钟 · 11216 字 · Mingy

透彻理解交叉熵的本质

关于交叉熵在loss函数中使用的理解 交叉熵(cross entropy)是深度学习中常用的一个概念,一般用来求目标与预测值之间的差距。以前做一些分类问题的时候,没有过多的注意,直接调用现成的库,用起来也比较方便。最近开始研究起对抗生成网络(GANs),用到了交叉熵,发现自己对交叉熵的理解有些模糊,不够深入。遂花了几天的时间从头梳理了一下相关知识点,才算透彻的理解了,特地记录下来,以便日后查阅。 ...

2018-09-26 · 5 分钟 · 2085 字 · Mingy

梯度消失和梯度爆炸的原因

前言:深度神经网络中,我们听到的最多的词就是梯度消失(gradient vanishing )和梯度爆炸(gradient exploding),那么这两个词到底表示什么意思呢?今天就让我们来一探究竟。 一.梯度消失与梯度爆炸问题简述 层数比较多的神经网络模型在使用梯度下降法对误差进行反向传播时会出现梯度消失和梯度爆炸问题。梯度消失问题和梯度爆炸问题一般会随着网络层数的增加变得越来越明显。 例如,对于图1所示的含有3个隐藏层的神经网络,梯度消失问题发生时,靠近输出层的hidden layer 3的权值更新相对正常,但是靠近输入层的hidden layer1的权值更新会变得很慢,导致靠近输入层的隐藏层权值几乎不变,扔接近于初始化的权值。这就导致hidden layer 1 相当于只是一个映射层,对所有的输入做了一个函数映射,这时此深度神经网络的学习就等价于只有后几层的隐藏层网络在学习。梯度爆炸的情况是:当初始的权值过大,靠近输入层的hidden layer 1的权值变化比靠近输出层的hidden layer 3的权值变化更快,就会引起梯度爆炸的问题。 ...

2018-09-24 · 2 分钟 · 787 字 · Mingy

卷积神经网络中两种Padding方式的介绍

当我们计算卷积池化后的图像尺寸时,需要注意“VALID”和“SAME”两种Padding对应的输出尺寸计算方式不一样,下面就来说说具体的计算方式 1. 当Padding为“VALID” 这种情况下,当你经过最后一步步长做卷积或池化运算,超出图像边界不会补‘0’,输出的形状为:⌈(W-F+1)/S⌉ ...

2018-03-08 · 1 分钟 · 245 字 · Mingy

Windows安装Tensorflow

一、安装 cpu版本的tensorflow 首先安装python环境,建议安装python3.5版本的 升级pip python.exe -m pip install --upgrade pip 安装cpu版本的Tensorflow pip install --upgrade https://storage.googleapis.com/tensorflow/windows/cpu/tensorflow-1.2.1-cp35-cp35m-win_amd64.whl 网址最好在官网找最新的 安装完成后在导入模块的时候 import tensorflow as tf可能会找不到模块这是还需要下载下面的插件 插件下载地址 ...

2017-07-13 · 1 分钟 · 493 字 · Mingy

Md快速入门

一、标题写法 # 一级标题 ## 二级标题 ### 三级标题 #### 四级标题 ##### 五级标题 ###### 六级标题 注:最好#和标题之间保留一个空格 效果如下: 一级标题 二级标题 三级标题 四级标题 五级标题 六级标题 二、列表写法 无序列表: - 列表一 - 列表二 - 列表三 或者 * 列表一 * 列表二 * 列表三 或者 + 列表一 + 列表二 + 列表三 三者效果一样,如下所示: 列表一 列表二 列表三 有序列表: ...

2017-05-20 · 2 分钟 · 850 字 · Mingy