#RoPE

位置编码的演进：从正弦编码到 RoPE，以及长上下文扩展

讲清为什么注意力需要位置信息、RoPE 用旋转把相对位置注入 QK 内积的原理，以及上下文窗口扩展的工程手段与边界。