评测与安全2026-07-26
幻觉怎么检测和监控？线上怎么兜底？
考察幻觉治理的工程闭环：检测靠检索对照、NLI 一致性校验和多次采样，监控靠抽样加用户反馈信号，兜底靠引用溯源、低置信拒答和人工接管。
91学AI·7 阅读
标签
#幻觉
共 2 篇文章
大模型基础2026-07-26
大模型幻觉是怎么产生的？有哪些缓解手段？
考察幻觉的成因分析（自回归训练目标、数据噪声、知识边界）和分层缓解方案，重点是 RAG、解码控制、提示工程与训练侧手段的组合使用。
91学AI·8 阅读
共 2 篇文章
考察幻觉治理的工程闭环：检测靠检索对照、NLI 一致性校验和多次采样，监控靠抽样加用户反馈信号，兜底靠引用溯源、低置信拒答和人工接管。
考察幻觉的成因分析（自回归训练目标、数据噪声、知识边界）和分层缓解方案，重点是 RAG、解码控制、提示工程与训练侧手段的组合使用。