
公司真题库2026-07-27
【字节跳动】微调用的训练数据如何构造?如何在保证多样性的同时兼顾质量?
字节跳动大模型智能体算法一面真题:考察 SFT 数据工程——真实数据与合成数据的配比、指令多样性设计、质量过滤手段,以及「质重于量」的取舍逻辑。
91学AI·5 阅读
共 5 篇文章

字节跳动大模型智能体算法一面真题:考察 SFT 数据工程——真实数据与合成数据的配比、指令多样性设计、质量过滤手段,以及「质重于量」的取舍逻辑。

快手大模型岗真题:考 LoRA 初始化的细节理解。核心是 A 高斯初始化、B 置零保证训练起点等价于原模型,反向则梯度断流。


考察对 LoRA 数学原理与实现细节的掌握:低秩假设的来源、ΔW=BA 的参数化方式、A 高斯 B 置零的初始化设计,以及合并推理等工程要点。

考察 prompt 工程、RAG、微调三者的选型逻辑:各自解决什么问题、成本量级差异,以及必须微调的几类典型场景。