公司真题库2026-07-27
【Meta】LangChain 里怎么接入开源 LLM？和商业 API 混用要注意什么？
Meta 常考 LangChain 题：开源模型接入路径——本地 Ollama/vLLM 推理服务、HuggingFace 直连，重点是接口抽象、prompt 格式差异、量化与并发能力这些和商业 API 的真实差距。
91学AI·15 阅读
标签
#vLLM
共 2 篇文章
推理与部署2026-07-26
vLLM 为什么快？PagedAttention 解决了什么问题？
考察对 vLLM 核心机制的理解：PagedAttention 借虚拟内存思想消除 KV Cache 碎片浪费，配合 continuous batching 把吞吐提升数倍。
91学AI·6 阅读