考察点
「AI 的能力边界在哪」是开放题里的照妖镜，把只会喊「Agent 万能」的人筛掉。面试官想听你从原理层面说清楚限制来自哪里，以及在工程上怎么识别一个任务落在边界内还是边界外。
参考答案
边界从哪里来：四层限制
1. 模型推理上限。Agent 的每一步决策质量都封顶多步推理模型的水平。一个让顶尖模型单次回答都答错的问题，包上 Agent 循环通常也救不回来——Agent 放大的是「行动能力」，不是「智商」。多步任务里每一步的正确率还会连乘衰减：单步 90% 准确率，10 步任务端到端只剩 35% 左右。这就是为什么步骤越多、Agent 越不可靠，这是数学，不是工程不够努力。
2. 上下文窗口。窗口是 Agent 的工作记忆，装不下的东西它就「不知道」。百万 token 窗口听着大，塞进去两百个文件之后模型的注意力质量明显下降（长上下文退化是公认现象），关键指令被淹没在海量观察里。子 Agent、记忆压缩都是在这个边界里腾挪，但边界本身还在。
3. 工具覆盖度与反馈质量。Agent 只能通过工具感知和影响世界，工具够不到的地方就是盲区。更微妙的是反馈质量：工具返回「操作成功」但业务上其实失败了（比如接口返回 200 但数据没写进去），Agent 会基于错误的 observation 继续推进，错得理直气壮。环境反馈不可信的场景，Agent 的可靠性天花板很低。
4. 时间与成本。每步决策都是一次 LLM 调用，几百毫秒到几秒。强实时场景（高频交易、工业控制、游戏内决策）从物理上就不适合。成本同理，一步一毛钱的多步任务，跑批量作业时账单会先失控。
明确不适合 Agent 的场景
- 零容错的不可逆操作：资金清算、医疗剂量计算。不是技术做不到，是「偶尔错一次」的代价不可接受。这类场景 Agent 最多做草拟，决策权必须在人或确定性系统手里。
- 强合规审计：监管要求「每个决策可复现、可解释」，概率性系统天然冲突。
- 低维度的确定性任务：能用规则引擎三行 if-else 解决的，上 Agent 是拿不确定性换不存在的好处。
- 评估标准缺失的探索任务：连人都没有办法判断「做得好不好」的任务，Agent 的自我判断更不可靠，循环会朝着莫名其妙的方向自我强化。
工程上怎么判断一个任务在不在边界内
我的 checklist：第一，单步正确率能到多少？拿 50 个真实 case 让模型单测，低于 80% 就要警惕多步衰减。第二，步骤数中位数多少？超过 10 步要专门设计目标锚定机制。第三，环境反馈可信吗？工具的成功信号和业务成功一致吗？第四，错了能不能撤回？能撤回的场景 Agent 的性价比立刻高一档。
四条都过，放心做；过一两条，做人机协同；基本不过，这钱别烧。
边界在移动，但形态没变
模型在变强，上下文在变长，边界确实在外扩。但「概率性决策 × 多步连乘 × 环境反馈」这个基本结构没变，边界只是从「5 步任务」推到「50 步任务」。做架构设计时赌「明年模型会更强」是可以的，赌「Agent 会永远正确」是不行的。好的 Agent 系统永远为「模型会犯错」而设计，这是边界意识落地成工程的最后一步。
可能的追问
- 「怎么提高多步任务的端到端成功率？」 三个方向：减少步数（更好的工具抽象，一个工具顶五步）、关键步骤加外部验证（用确定性检查兜住连乘里最弱的环节）、失败早停重跑而不是硬撑到底。
- 「模型变强之后 Workflow 会被 Agent 全取代吗？」 不会。可审计性和成本是结构性需求，不是模型能力问题；更可能的演化是 Workflow 骨架 + Agent 节点的混合形态成为主流。
- 「你怎么向非技术的老板解释 Agent 不能做什么？」 用员工类比：Agent 是一个聪明但偶尔走神、且不知道自己走神的实习生，适合探索性杂活，不适合签字画押。