精选·RAG工程

RAG 和微调怎么选?电商客服场景该用哪个?

91学AI·2026/7/13·8 阅读

考察点

这是 2026 年多份面经都出现的经典对比题(「电商智能客服选 RAG 还是微调」是原题变体)。面试官想看你能不能把「RAG 管知识、微调管能力」这条主线讲透,而不是背「各有优劣」。场景题里还要看你抓不抓得住题眼:商品参数、退换货政策频繁变动。

参考答案

一句话结论

RAG 解决「模型不知道什么」,微调解决「模型不会做什么」。 知识更新、事实问答用 RAG;输出格式、语气风格、任务范式用微调。电商客服这种商品参数和退换政策天天变的场景,主体必须是 RAG。

四个维度对比

维度RAG微调
知识实时性改知识库立刻生效,分钟级要重新训练,天级,还有灾难性遗忘风险
成本Embedding + 向量库,百万文档建库成本几千元级一次全量微调几万到几十万,还要持续重训
幻觉控制答案有据可查,可附引用来源,可追溯知识「揉」进权重,错了无法定位无法撤回
效果上限受检索质量限制对固定范式任务上限更高

电商客服场景展开

题目里「动态更新」三个字就是题眼。商品 SKU 每周上新、价格每天变、退换政策随大促调整——这种知识变更频率下,微调意味着每周重训一次模型,成本不可接受,而且每次重训都可能把之前学会的东西忘掉一块。RAG 侧只需要:商品库变更触发增量索引,分钟级生效;政策文档更新重新切分入库,即时生效。

微调在这个场景的位置是辅助性的:如果要求客服语气统一(「亲和、不卑不亢、先共情再给方案」)、输出带固定结构(先结论、再依据、再操作步骤),这些是「能力」不是「知识」,可以用几百条高质量对话做 SFT 固化下来。RAG + 轻量 SFT 的组合才是完整答案。

微调的不可替代场景

别把微调一棍子打死,三种情况它是对的:

  1. 格式与风格强约束:法律文书口吻、固定 JSON 结构输出,靠 Prompt 约束不稳,微调能固化。
  2. 领域术语理解:医学、芯片这类术语密集领域,Embedding 和生成模型对术语的理解都不到位,领域继续预训练(CPT)治本。
  3. 降低推理成本:把长 Prompt 里固定的行为模式蒸馏进小模型,线上用小模型替代大模型 + 长 Prompt,延迟和成本都降一个量级。

常见误区

面试里讲出这几个误区很加分:微调不能用来注入事实性知识——一万条商品参数喂进去,模型照样把 8GB 记成 16GB,因为权重存储的是统计模式不是精确事实;RAG 不能改变模型的行为模式——检索到再规范的模板,模型也可能不按模板写。两者是互补的两层,不是竞争关系。

决策顺序:先 RAG 把知识管起来;发现格式、语气、范式不稳定,再补 SFT;发现领域理解根本不行,再考虑 CPT。每一步都有明确的触发信号,别一上来就微调。

可能的追问

Q:RAG 知识库很大时,为什么不干脆微调进去? 三个不可行:精确事实存不进权重(数字、编号必错);更新一次全量重训,频率跟不上;出了错无法撤回——RAG 删一条文档就解决,微调错了只能再训一版。

Q:长上下文模型窗口都上百万 token 了,RAG 还有必要吗? 有。全量塞上下文的成本是每次问答都付全量 token 钱,延迟也线性涨;且长上下文的中段利用衰减真实存在。RAG 把每次问答的成本收敛到相关片段,这个经济性优势不会消失。

Q:微调和 RAG 一起用时顺序怎么定? 微调在离线训练期做,RAG 在线推理期做,互不干扰。注意微调过的模型要回归测试 RAG 场景——微调可能改变模型利用上下文的风格,别假设微调后 RAG 表现不变。

评论 (0)

暂无评论,快来抢沙发吧!

91学AI

© 2026 91学AI · 按岗位学 AI 与大数据. All rights reserved.