效果验收:先定义「可以上线」的门槛
这是 AI 产品独有的第一项。上线前必须有一个评测集(至少几百条覆盖核心场景和边界 case 的题目),并且提前和业务方白纸黑字定好达标线:比如核心场景准确率 ≥90%、严重 bad case(给用户造成实质损失的错误)= 0。注意,达标线要分场景定,不要追求一个总指标——闲聊场景答错无所谓,涉及退款金额的场景必须 100% 准。
同样重要的是「拒答率」指标:模型遇到不会的问题,是老实承认还是瞎编。上线前专门测一批超出知识范围的问题,确认拒答逻辑生效。一个会认怂的 AI 比一个自信的骗子安全得多,这条在客服、医疗、金融场景是生死线。
幻觉和安全的兜底机制
效果达标只代表「大部分时候对」,上线前必须回答「错的时候怎么办」。我的 checklist 里固定有四层兜底:第一层,输出侧加规则过滤,涉政涉黄涉敏的关键词走敏感词库和人审;第二层,关键信息给引用来源,RAG 场景让模型附文档出处,用户能自己核实;第三层,高风险操作留人工确认口——AI 建议退款、AI 改配置这类动作,必须有人点确认才执行;第四层,页面上明示「AI 生成内容仅供参考」,这既是用户预期管理,也是法律上的必要声明。
另外上线前要做一轮红队测试:找几个人专门想办法诱导模型说错话、泄露 prompt、越权回答。越狱、prompt 注入这些攻击手法,自己人先打一遍,比被用户挂到网上强。
成本和性能:算清三件事
AI 产品的成本结构跟传统产品完全不同,上线前必须算三笔账。一是单次请求成本:一次对话平均消耗多少 token、折合多少钱,乘以预估流量得出日成本,再乘以峰值系数。二是限流和降级方案:流量超预期时怎么办——排队、降级到便宜模型、还是限量开放,提前定好,别等账单爆了再开会。三是延迟:LLM 的首 token 延迟普遍在秒级,用户能接受多久?超过预期就用流式输出救体验,首字快一点,感知延迟能降一半。
监控告警也要上线前配好:token 消耗速率、API 错误率、响应延迟、拒答率,四个指标各配一条告警线。Cursor 和 Copilot 这类产品都有明显的用量管控策略,免费额度、限速、模型分级,这些不是上线后补的,是设计之初就想清楚的。
合规和法务:别跳过这一步
国内上线 AI 产品,合规是硬门槛。面向公众提供生成式 AI 服务,要按《生成式人工智能服务管理暂行办法》做备案或登记;用第三方大模型 API 的,确认上游模型本身已备案。内容侧要接内容安全审核(输入输出双向),日志按规定留存。用户协议里要写清楚数据怎么被使用——用户的对话会不会被用于训练、会不会传给第三方模型服务商,这些不说清楚,后面就是舆情和诉讼风险。
企业内部场景的合规相对轻,但数据出域问题同样要查:你的业务数据传给外部 API,法务和安全部门知情吗?很多大公司的 AI 项目就死在这一步,产品做完了,安全评审过不去。
上线策略:别全量,留好回滚
最后一条,AI 产品第一次上线别搞全量发布。标准打法:先内部员工试用一周,收集几百条真实反馈修一轮;再灰度 5%-10% 的外部用户,盯两周指标;确认解决率、满意度、成本都在预期内,再逐步全量。回滚预案要具体到操作:模型版本能一键回退、prompt 改动走配置而非发版、实在不行能切回旧的规则引擎或人工流程。AI 产品的回滚比传统产品更重要,因为效果问题往往不是 bug,修起来没有一个「改一行代码」那么快。