考察点
这道题出自百度搜索方向实习面，表面问技术替代，实际考的是产品经理的算账能力。面试官想看的不是你喊「AI 降本增效」，而是你能不能把一笔账拆清楚：收益侧是审核人力成本，成本侧除了模型调用费还有最容易被忽略的错误代价——误杀和漏放在内容审核里都是真金白银。高手的回答一定会落到「不是替代，是人机协同」和「按风险分层替代」上，因为审核是个错了要出舆情、甚至出监管问题的业务。追问会往「漏放一个违规内容值多少钱」「准确率多少才够本」「灰度怎么设计」走。
参考答案
先把账本的格子画出来
算这笔 ROI，我会先把成本和收益都摊开，免得漏项。
收益侧主要是三块：人工审核团队的直接人力成本（审核员的薪资、管理、场地，一个几十到几百人的审核团队一年是千万量级的投入）、审核时效提升带来的间接收益（内容从投稿到上线的时长缩短，对 UGC 生态的供给侧活跃有正贡献）、以及峰值弹性（热点事件时人工审核要临时扩编，机器的弹性几乎是免费的）。
成本侧也是三块，而后两块最容易被漏算：模型调用和工程建设的成本（相对好算）；误杀成本——把正常内容误判违规，伤害创作者，严重的引发舆情；漏放成本——违规内容没拦住，轻则是平台和用户双输，重则是监管处罚，这种损失单次就可能是天文数字，而且有概率属性，得按期望值算。
所以这笔账的标准公式是：ROI =（节省的人力成本 + 时效收益）/（模型与工程成本 + 误杀损失期望 + 漏放损失期望）。算不出来精确值没关系，面试里能把这个结构讲清楚、每格给出估算方法，就已经赢过只会说「能省多少人」的候选人了。
关键判断：不是替代，是分层的人机协同
直接回答「替代」是不专业的。内容审核行业里跑通的正确姿势是按风险和置信度分层。
第一层，机器直接过。模型对明显正常的内容给出高置信度判断，直接放行，这一层通常能吃掉七八成的审核量——审核内容里绝大多数本来就是正常的，机器在这一层的价值最大、风险最小。第二层，机器直接拦。对明确高危的（涉政敏感、暴恐、明确的色情），模型高置信度命中直接拒绝，人只做复核抽检。第三层，人机协同区——模型拿不准的中间地带，转人工，但机器不是只甩过来一条内容，而是附上「疑似问题点、命中的规则、相似历史判例」，把人工单条审核时长从一分钟压到十几秒。
注意这三层下来，人的角色变了：从「逐条看内容」变成「处理疑难 case + 抽检机器 + 给机器喂标注数据」。人力需求可能降到原来的两三成，但不会到零——因为审核标准本身是动态博弈的，黑产在变着法子绕，新梗新语境在出现，这层判断必须有懂业务的人。
数字怎么估（面试现场版）
现场我会这样给量级：假设一个 200 人的审核团队，年综合人力成本按人均 15-20 万估，约三四千万。大模型方案落地后，机器直接处理 70-80% 的量，人机协同区人效提升 2-3 倍，综合人力可压到 50-80 人，年省两千万上下。模型调用成本按日审核量级估，文本审核摊到单条是厘级，一年几百万量级，加上一次性工程投入，账面 ROI 第一年就能打正。
但我会立刻补一句：这个正 ROI 的前提是漏放损失期望没有爆。所以真正决定这个项目生死的不是省多少人，是漏放率能做到多少、以及出了事有没有快速下线的熔断机制。
落地节奏：先当助手，再当主审
灰度路径三步。第一步 shadow 模式，机器只打分不生效，和人工结论跑一致率，把准确率和漏放率摸出来，这一步至少跑一个月，攒够数据。第二步开「机器放行」——只动低风险侧，误杀的代价远低于漏放，先赚安全的钱。第三步才开「机器拦截」的高置信度区，同时保留人工抽检通道和按品类的熔断开关。每一步都设明确的一致率门槛，过不了就不进下一步。全程保留抽样人工复审做持续校准，因为内容生态在变，模型的判断会漂移。
可能的追问
- 漏放一个违规内容值多少钱？怎么估？ 答：分级估。普通低质内容漏放，损失是体验级的，按用户流失折算；涉政、未成人保护这类红线内容，单次损失按监管处罚和舆情处置的历史案例估，乘上发生概率进期望值。宁可把这个数估得保守（偏高），它决定你能放多少给机器。
- 模型准确率要做到多少才够启动？ 答：不是单看准确率，看「高置信度区间的精度」。机器只对它最有把握的 70% 做决策，这 70% 的精度要显著高于人工基线（人工审核本身也有 1-3% 的差错率）——比人准，才有资格替人。
- 黑产对抗导致模型失效怎么办？ 答：这是常态，所以架构上人工通道永远不能拆，且审核标准、特征规则要有人持续运营。模型上线不是项目结束，是攻防的开始，预算里要留出持续对抗的运营人力。