先把设计目标改了：不是不出错，是出错可控
传统功能测试通过了就稳定了，模型不是这样——今天答对的问题，换个问法明天就答错，幻觉是它的固有属性，不是修完就没的 bug。所以 AI 产品的容错设计，目标从来不该是「把错误率降到零」（那等于永远不上线），而是「错误发生时，用户损失最小、恢复最快」。这个认知转过来，后面很多设计决策就顺了。
输入侧：让用户更难问出错问题
最好的兜底是让错误少发生。手段是把自由输入往结构化引导：表单化关键参数（让模型生成 SQL 前先确认库、表、字段）、提供选项而不是开放填空、用示例问题把用户往模型擅长的领域引。Kimi、ChatGPT 都在弱化「什么都能问」的预期，推场景化入口，本质就是收缩用户提问的分布，往模型的高准确率区间收。入口越自由，badcase 的分布越不可控。
输出侧：给用户一双能识别错误的眼睛
既然拦不住所有错，就让错容易被发现。引用溯源是性价比最高的一招——Perplexity 每句话带角标、Kimi 答完附来源链接，用户能抽查，信任就有了抓手。其次是确定性分级的表达：模型自信的内容直接陈述，拿不准的加限定语（「可能」「据公开资料」），重要建议附「仅供参考」的提示。ChatGPT 底部那句「可能会犯错，请核查重要信息」虽然没人细看，但真出了纠纷，它就是产品提前立过的界。
流程侧：给错误装刹车和倒挡
不可逆操作必须有人工闸口：AI 帮你写的邮件，发送键在人手里；Agent 要执行的批量操作，先列清单让用户确认。可逆操作尽量做得恢复成本低：生成结果支持一键重试、历史版本可回退。答不了的要有体面的拒答——拒答后给替代路径（「这个问题我答不好，建议你……」或直接转人工），别让用户撞墙。客服产品里「三次未解决自动转人工」这类规则，就是拿一点体验换确定性，值。
分级：按错误代价分配设计资源
不是所有错都值得兜。我把场景按「错误代价」分两档：高风险（钱、健康、法律、对外发声）上全套——置信度过滤、人工审核、二次确认，宁可多挡不可错放；低风险（写文案、闲聊、头脑风暴）基本裸奔，错了让用户自己点重新生成就行。拿同一套标准套所有场景，要么过度设计把体验拖垮，要么在高风险场景裸奔出事故，两头都是死。
兜底本身有体验成本，别兜过头
容错设计不是越多越好。每加一道确认，任务完成率就掉一截；每多一句限定语，答案的可信感就弱一分。见过设计过度的产品：AI 给的每条建议都带三遍「仅供参考」，每个操作都要二次确认，用户嫌烦，最后要么流失，要么养成无脑点确认的肌肉记忆——确认环节形同虚设，比不设计还糟。分寸的拿法：确认闸口只放在不可逆、高代价的动作上，低风险环节把「重新生成」做好就够。信任用户的判断力，本身也是一种设计。