
【OpenAI】如何搭建一条生产级 RAG 流水线?从原型到上线差在哪?
OpenAI 常考系统设计题:生产级 RAG 与 demo 的差距——离线的解析清洗建库流水线、在线的改写-召回-精排-生成链路、评估闭环与可观测性,每一层的工程取舍都要讲清。
共 20 篇文章

OpenAI 常考系统设计题:生产级 RAG 与 demo 的差距——离线的解析清洗建库流水线、在线的改写-召回-精排-生成链路、评估闭环与可观测性,每一层的工程取舍都要讲清。

Amazon 常考 Agent 题:AgentExecutor 是 agent 决策循环的执行引擎,max_iterations 是防失控熔断器;考点在循环为什么可能不收敛、撞限后的降级策略、以及轨迹成本控制。

Google 常考 RAG 题:向量召回是「粗排」,bi-encoder 打分快但不准;rerank 用 cross-encoder 对 query-文档逐对精排。考点在两阶段架构的原理、召回量与延迟的权衡、模型选型。

OpenAI 常考工程题:LLM 缓存两层——精确匹配缓存靠 key 哈希,语义缓存靠 embedding 相似度;考点在命中率与正确性的权衡、相似度阈值设定、缓存失效与成本收益测算。

Amazon 常考工程题:LLM fallback 的机制——with_fallbacks 串起主备链、按异常类型切换;重点是哪些错误该切、切换后的质量与成本一致性、以及和重试/限流的分工。

Google 常考 Agent 题:ReAct 的推理-行动-观察循环原理、LangChain 里 AgentExecutor 的执行机制,以及生产中工具描述、错误回传、迭代上限这些决定成败的细节。

Meta 常考 LangChain 题:开源模型接入路径——本地 Ollama/vLLM 推理服务、HuggingFace 直连,重点是接口抽象、prompt 格式差异、量化与并发能力这些和商业 API 的真实差距。

OpenAI 常考 RAG 题:向量检索擅长语义、BM25 守住专有名词和精确匹配,融合靠 RRF 或加权分数;重点是各自的失效场景、归一化陷阱和工程实现选型。

Amazon 常考 RAG 题:chunk 大小没有银弹——小 chunk 检索准但上下文碎、大 chunk 语义完整但噪声多;答案核心是按内容结构定基线、用检索评测调参、配合 overlap 与子块策略。

Google 常考 LangChain 题:两种 Memory 的机制差异——Buffer 原样存全部历史、Summary 滚动压缩成摘要;考点在 token 成本、信息保真度的权衡及生产选型策略。

字节实习一面真题:考察对两个基础概念的边界理解——Function Calling 是模型的结构化工具调用能力,单次、无状态;Agent 是目标驱动的多步循环系统,FC 只是它的一个可选组件。

字节实习二面真题:考察对 VLM 架构谱系的梳理——双塔对比式(CLIP)、LLM 外挂视觉编码器(LLaVA/BLIP-2)、原生早融合三类路线,差异在融合深度与图文 token 的处理方式。

字节社招真题:考察 AI 辅助编程的工程治理——把 AI 代码当初级工程师产出看待,小 PR、强制测试、静态扫描、作者必须能讲清逻辑四道关,以及典型事故模式与流程补救。

阿里实习一面真题:考察对 Transformer 计算分布的量化理解——参数量 FFN 占约三分之二,但 attention 有 O(n²d) 项,序列超过约 4 倍隐藏维度后 attention 反超成为算力大头。

阿里淘天校招真题:考察 RAG 数据层的工程设计——统一解析网关按格式分发专用处理器,PDF 因版面复杂最难(双栏、表格、扫描件),表格需结构感知抽取,网页需正文提取去噪。

字节实习一面真题:考察对 RLHF 多目标优化的工程理解——直接加权简单但易失衡和 reward hacking,更优方案是硬约束与软目标分层、分维度归一化、动态权重与分维度监控。

字节实习一面真题:考察对开源模型架构的横向对比——三者同为 decoder-only,但注意力机制(GQA/滑窗)、FFN 结构、归一化、MoE 路线选择不同,差异背后是推理成本与长上下文取舍。

字节实习一面真题:考察对 R1 技术路线的理解——核心突破是验证纯 RL 可涌现推理能力(R1-Zero)并全量开源,R1 用冷启动 SFT 加 GRPO 多阶段训练解决可读性与语言混杂问题。

腾讯二面真题:考察对 Agent 技术栈的整体架构观——FC 是模型能力层、MCP 是工具集成层、Skill 是知识流程层、A2A 是 Agent 协作层,选型框架是「先定位问题在哪一层」。

快手、阿里真题:考察对两个协议定位的理解——MCP 解决 Agent 与工具的垂直连接,A2A 解决 Agent 与 Agent 的水平协作,不是竞品;真实系统里 Agent 对外暴露 A2A、对内用 MCP。