
公司真题库2026-07-27
【Amazon】主模型挂了怎么自动切备用模型?LangChain 的 fallback 机制怎么用?
Amazon 常考工程题:LLM fallback 的机制——with_fallbacks 串起主备链、按异常类型切换;重点是哪些错误该切、切换后的质量与成本一致性、以及和重试/限流的分工。
91学AI·17 阅读
共 1 篇文章

Amazon 常考工程题:LLM fallback 的机制——with_fallbacks 串起主备链、按异常类型切换;重点是哪些错误该切、切换后的质量与成本一致性、以及和重试/限流的分工。