推理与部署2026-07-26
大模型应用怎么控制成本？缓存、模型路由、大小模型搭配怎么做？
考察 LLM 应用的成本结构认知和工程化降本能力：语义缓存、模型路由、级联调用三大手段的原理、收益与风险。
91学AI·9 阅读
标签
#成本控制
共 2 篇文章
Agent 开发2026-07-26
Agent 上生产环境要考虑什么？状态保存恢复、重试、成本怎么控？
考察 Agent 生产化的完整清单：checkpoint 状态恢复与工具幂等、分层重试与超时、全链路可观测、模型路由与上下文管理等成本控制手段。
91学AI·13 阅读