精选·模型与微调基础2026-07-13
Tokenizer 与 BPE：token 是什么，为什么它直接影响成本和效果
讲清 BPE 分词的合并逻辑和 token 与字词的对应关系，覆盖词表大小权衡、中文切分、成本估算等应用工程师必须懂的实际影响。
91学AI·7 阅读
标签
#模型基础
共 3 篇文章
精选·模型与微调基础2026-07-13
Self-Attention 完整计算过程：为什么 Softmax 前要除以根号 d_k
走一遍 QKV 到注意力输出的完整链路，从数值稳定性角度讲清缩放因子的由来，再落到复杂度、KV Cache 等工程推论。
91学AI·5 阅读
精选·模型与微调基础2026-07-13
把 Transformer 架构讲清楚：每个模块在工程上意味着什么
拆解 Transformer 的注意力、FFN、残差与 LayerNorm 各模块职责，讲清它取代 RNN 的原因，以及做 AI 应用必须懂的几个工程推论。
91学AI·6 阅读