公司真题库2026-07-26
【蚂蚁】为什么 Claude Code 使用时间越长响应越慢？
蚂蚁 Agent 实习一面真题：考对长上下文成本的理解。核心是会话变长导致 prefill 增大、KV cache 膨胀，以及上下文压缩机制。
91学AI·30 阅读
标签
#KV Cache
共 4 篇文章
推理与部署2026-07-26
KV Cache 是什么？怎么加速推理？显存占用怎么算？
考察对自回归推理瓶颈的理解：KV Cache 用空间换时间避免重复计算，要求能手推显存占用公式并说出优化手段。
91学AI·13 阅读
大模型基础2026-07-26
MHA、GQA、MQA、MLA 的区别和各自的优化目标是什么？
考察四种注意力变体的 KV head 共享机制，核心是 KV cache 体积与模型效果的权衡，MLA 的低秩压缩思路是 DeepSeek 系列的关键设计。
91学AI·11 阅读