一文通透位置编码：从标准位置编码、旋转位置编码RoPE到ALiBi、LLaMA 2 Long

2024-02-22 AIGC 0

前言

关于位置编码和RoPE

应用广泛，是很多大模型使用的一种位置编码方式，包括且不限于LLaMA、baichuan、ChatGLM等等
我之前在本博客中的另外两篇文章中有阐述过(一篇是关于LLaMA解读的，一篇是关于transformer从零实现的)，但自觉写的不是特别透彻好懂
再后来在我参与主讲的类ChatGPT微调实战课中也有讲过，但有些学员依然反馈RoPE不是特别好理解

考虑到只要花足够多的时间心思投入，没有写不清楚的，讲课更是如此，故为彻底解决这个位置编码/RoPE的问题，我把另外两篇文章中关于位置编码的内容抽取出来，并不断深入、扩展、深入，比如其中最关键的改进是两轮改进，一个12.16那天，一个12.21那天

12.16那天
小的改进是把“1.1 标准位置编码的起源”中，关于i、2i、2i+1的一系列计算结果用表格规整了下
如此，相比之前把一堆数字一堆，表格更加清晰、一目了然
大的改进是把“3.1.1 第一种形式的推导(通俗易懂版)”的细节重新梳理了以下，以更加一目了然、一看即懂，可能是全网关于RoPE最通俗细致的推导
12.21那天
把RoPE的本质给强调出来

最终成为本文

第一部分 transformer原始论文中的标准位置编码

如此篇文章《Transformer通俗笔记：从Word2Vec、Seq2Seq逐步理解到GPT、BERT》所述，RNN的结构包含了序列的时序信息，而Transformer却完全把时序信息给丢掉了，比如“他欠我100万”，和“我欠他100万”，两者的意思千差万别，故为了解决时序的问题，Transformer的作者用了一个绝妙的办法：位置编码(Positional Encoding)

1.1 标准位置编码的起源

即将每个位置编号，从而每个编号对应一个向量，最终通过结合位置向量和词向量，作为输入embedding，就给每个词都引入了一定的位置信息，这样Attention就可以分辨出不同位置的词了，具体怎么做呢？

如果简单粗暴的话，直接给每个向量分配一个数字，比如1到1000之间
也可以用one-hot编码表示位置
transformer论文中作者通过sin函数和cos函数交替来创建 positional encoding，其计算positional encoding的公式如下
$PE_{(pos,2i+1)} = cos/left ( /frac{pos}{10000^{/frac{2i}{d_{model}}}} /right )$
%20
%20其中，pos相当于是每个token在整个序列中的位置，相当于是0,%201,%202,%203...(看序列长度是多大，比如10，比如100)，代表位置向量的维度(也是词embedding的维度，transformer论文中设置的512维) %20
至于是embedding向量的位置下标对2求商并取整(可用双斜杠表示整数除法，即求商并取整)，它的取值范围是，比如
%20%20%20位置向量的第多少维(0%202%204等偶数维用sin函数计算)0 1 2 3 4 56....510511%20相当于是指向量维度中的偶数维，即第0维、第2维、第4维...，第510维，用sin函数计算%20是向量维度中的奇数维，即第1维、第3维、第5维..，第511维，用cos函数计算

%20

不要小看transformer的这个位置编码，不少做NLP多年的人也不一定对其中的细节有多深入，而网上大部分文章谈到这个位置编码时基本都是千篇一律、泛泛而谈，很少有深入，故本文还是细致探讨下

%20

1.2%20标准位置编码的示例：多图多举例

%20

考虑到一图胜千言%20一例胜万语，举个例子，当我们要编码「我%20爱%20你」的位置向量，假定每个token都具备512维，如果位置下标从0开始时，则根据位置编码的计算公式可得『且为让每个读者阅读本文时一目了然，我计算了每个单词对应的位置编码示例(在此之前，这些示例在其他地方基本没有)』

%20

当对上的单词「我」进行位置编码时，它本身的维度有512维
当对上的单词「爱」进行位置编码时，它本身的维度有512维%20
$PE_1 = [sin(/frac{1}{10000^{/frac{0}{512}}}),cos(/frac{1}{10000^{/frac{0}{512}}}), sin(/frac{1}{10000^{/frac{2}{512}}}),cos(/frac{1}{10000^{/frac{2}{512}}}), sin(/frac{1}{10000^{/frac{4}{512}}}), cos(/frac{1}{10000^{/frac{4}{512}}}),..., sin(/frac{1}{10000^{/frac{510}{512}}}),cos(/frac{1}{10000^{/frac{510}{512}}})]$
然后再叠加上embedding向量，可得
%20
当对 $pos = 2$ 上的单词「你」进行位置编码时，它本身的维度有512维
....

%20

最终得到的可视化效果如下图所示

%20

1.3 标准位置编码的coding实现

代码实现如下

“”“位置编码的实现，调用父类nn.Module的构造函数”“”class PositionalEncoding(nn.Module):    def __init__(self, d_model, dropout, max_len=5000):        super(PositionalEncoding, self).__init__()          self.dropout = nn.Dropout(p=dropout)  # 初始化dropout层                # 计算位置编码并将其存储在pe张量中        pe = torch.zeros(max_len, d_model)                # 创建一个max_len x d_model的全零张量        position = torch.arange(0, max_len).unsqueeze(1)  # 生成0到max_len-1的整数序列，并添加一个维度        # 计算div_term，用于缩放不同位置的正弦和余弦函数        div_term = torch.exp(torch.arange(0, d_model, 2) *                             -(math.log(10000.0) / d_model))        # 使用正弦和余弦函数生成位置编码，对于d_model的偶数索引，使用正弦函数；对于奇数索引，使用余弦函数。        pe[:, 0::2] = torch.sin(position * div_term)        pe[:, 1::2] = torch.cos(position * div_term)        pe = pe.unsqueeze(0)                  # 在第一个维度添加一个维度，以便进行批处理        self.register_buffer('pe', pe)        # 将位置编码张量注册为缓冲区，以便在不同设备之间传输模型时保持其状态            # 定义前向传播函数    def forward(self, x):        # 将输入x与对应的位置编码相加        x = x + Variable(self.pe[:, :x.size(1)],                          requires_grad=False)        # 应用dropout层并返回结果        return self.dropout(x)

本文发布之后，有同学留言问，上面中的第11行、12行代码

div_term = torch.exp(torch.arange(0, d_model, 2) * -(math.log(10000.0) / d_model))

为什么先转换为了等价的指数+对数运算，而不是直接幂运算？是效率、精度方面有差异吗？

这里使用指数和对数运算的原因是为了确保数值稳定性和计算效率

一方面，直接使用幂运算可能会导致数值上溢或下溢。当d_model较大时，10000.0 ** (-i / d_model)中的幂可能会变得非常小，以至于在数值计算中产生下溢。通过将其转换为指数和对数运算，可以避免这种情况，因为这样可以在计算过程中保持更好的数值范围
二方面，在许多计算设备和库中，指数和对数运算的实现通常比幂运算更快。这主要是因为指数和对数运算在底层硬件和软件中有特定的优化实现，而幂运算通常需要计算更多的中间值

所以，使用指数和对数运算可以在保持数值稳定性的同时提高计算效率。

既然提到了这行代码，我们干脆就再讲更细致些，上面那行代码对应的公式为

其中的中括号对应的是一个从 0 到 $d_{/text{model}} - 1$ %20的等差数列(步长为%202)，设为

%20

且上述公式与这个公式是等价的

%20

为何，原因在于 $a^x=e^{(x/cdot ln(a))}$ ，从而有

%20

最终，再通过下面这两行代码完美实现位置编码

%20

%20%20%20%20%20%20%20%20#%20使用正弦和余弦函数生成位置编码，对于d_model的偶数索引，使用正弦函数；对于奇数索引，使用余弦函数。%20%20%20%20%20%20%20%20pe[:,%200::2]%20=%20torch.sin(position%20*%20div_term)%20%20%20%20%20%20%20%20pe[:,%201::2]%20=%20torch.cos(position%20*%20div_term)

%20

第二部分%20从复数到欧拉公式

%20

先复习下复数的一些关键概念

%20

我们一般用表示复数，实数叫做复数的实部，实数叫做复数的虚部%20
复数的辐角是指复数在复平面上对应的向量和正向实数轴所成的有向角
$z = a + ib$ 的共轭复数定义为：，也可记作，复数与其共轭的乘积等于它的模的平方，即，这是一个实数

%20

2.1%20如何通俗易懂的理解复数

%20

在我们的日常生活中，经常会遇到各种平移运动，为了描述这些平移运动，数学上定义了加减乘除，然还有一类运动是旋转运动，而加减乘除无法去描述旋转运动，而有了复数之后，便不一样了，此话怎讲？

%20

根据复数的定义：，可以看出来：，而这个展开过程就揭示了虚数背后的本质，因为这个展开过程中的两次乘法可以看成连续的操作

%20

即把%201%20经过2次完全一样的操作：，变成了%20−1 ，那什么样的操作能得到这个效果呢？
你两眼一亮，直呼：旋转啊，先旋转 90度，再旋转 90%20度就可以了啊，如下图所示%20

so，

2.2 如何快速理解欧拉公式

2.2.1 什么是欧拉公式

当 $x$ %20表示任意实数，%20是自然对数的底数，%20是复数中的虚数单位，则根据欧拉公式有

%20

表达的含义在于该指数函数可以表示为实部为，虚部为的一个复数

%20

%20%20
该欧拉公式相当于建立了指数函数、三角函数和复数之间的桥梁，但怎么推导出来的呢，其实很简单
%20%20
由于有%20
%20
%20
%20
所以，如果，则有
%20%20
%20

%20

2.2.2%20欧拉公式与三角函数

%20

如何直观的理解这个欧拉公式呢？

%20

其实，可以把看作通过单位圆的圆周运动来描述单位圆上的点，通过复平面的坐标来描述单位圆上的点，是同一个点不同的描述方式，所以有，如下图所示

%20

根据欧拉公式 $e^{i /theta}=/cos /theta+i /sin /theta$ ，可以轻易推出：

%20

我们把复数当作向量来看待，复数的实部是方向，虚部是方向，很容易观察出其几何意义，如下图所示

%20

还在思考怎么得来的？很简单哦，还记得向量的加减法么？

第三部分旋转位置编码(RoPE)的推导与实现

3.1 旋转位置编码的原理与推导

所谓旋转位置编码，其在位置编码上删除了绝对位置嵌入，而在网络的每一层增加了苏剑林等人(2021)提出的旋转位置嵌入(RoPE)，其思想是采用绝对位置编码的形式实现相对位置编码，且RoPE主要借助了复数的思想

具体来说，当咱们给self-attention中的 $q,k,v$ 向量都加入了位置信息后，便可以表示为

%20

其中

%20

表示「第 %20个%20token%20对应的词向量」集成「位置信息」之后的%20query%20向量
而、则分别表示第个%20token%20对应的词向量 集成位置信息之后的%20key%20向量、 value%20向量

%20

3.1.1%20第一种形式的推导(可能是全网最通俗易懂版)

%20

接着论文中提出为了能利用上%20token%20之间的相对位置信息，假定%20query%20向量和%20key%20向量之间的内积操作可以被一个函数表示，该函数的输入是词嵌入向量、，和它们之间的相对位置：

%20

%20%20
这里面其实有很大的一个关键，但大部分资料甚至RoPE原始论文都不会给你特别强调出来，即为何要构造这么一个等式呢？
%20%20
原因在于左边算是q和k向量的内积，而这恰好是transformer计算自注意力机制的核心一步，右边等式则意味着m与n的相对位置%20如此一来，该等式便把“q和k的内积”与“它们的相对位置”给串起来了
也如阿荀所说，左边是含有各自绝对位置信息的q向量和k向量，而这个等式就是RoPE追求的目标，物理含义就是通过显式传入绝对位置信息实现与传入相对位置信息对等的情况
%20

%20

假定现在词嵌入向量的维度是两维 %20，然后RoPE利用2维度平面上的向量的几何性质，再结合复数的性质，神奇般的找到了满足上述等式的和，其形式如下：

%20

这里面的%20Re%20表示复数的实部

%20

进一步地，可以表示成下面的式子(如果此刻你觉得你有点懵，没事，下文马上会一步一步的详细推导)：

%20

看到这里会发现，这不就是%20query%20向量乘以了一个旋转矩阵吗？这就是为什么叫做旋转位置编码的原因%20同理， %20可以表示成下面的式子：

%20

最终可以表示如下：

%20

%20%20
然上述分别关于、、的三个式子，咋一步一步推导来的？为做细致说明，特参考此文一步一步解释下
%20%20%20%20
首先看第一个式子，对于，这个式子的右边项有两部分，一部分是、一部分是
%20%20
对于前者，可知其中的是个二维矩阵，是个二维向量，自然相乘的结果也必然是一个二维向量，用表示
对于后者，根据欧拉公式，可得%20
基于上面第1点结论，可知%20然后将表示成复数形式，可得%20从而有%20基于上面第2点结论，可知即是两个复数相乘
考虑到以下两个关于复数的背景知识%20可得%20将这个结果表达成实数向量形式，即是%20至此，你也就不难发现，这不就是query向量乘以了一个旋转矩阵么
%20%20
至于第二个式子，根据上述过程同理，可得key向量
%20%20
%20%20
最后第三个式子，函数g，则可得
%20%20
%20%20
其中，表示一个复数的实数部分，而则表示复数的共轭
%20%20
考虑到%20再结合上面第一个式子中的推导，可得%20继续结合上面第一个式子中的推导(比如，及)，继续可知，我们现在要证明的是存在
总之，接下来我们就要证明上述函数%20g%20的计算公式是成立的%20首先，回顾一下attention操作，位置m的query和位置n的key会做一个内积操作%20即由%20可得%20「相当于[A,B]与[C,D]做内积，则相当于A%20B横着，C%20D竖着，最终结果为AC%20BD，最后再把括号里的项全部对应相乘、展开」
首先，把上面第二点的式子整理一下，总计8项，为了把相关的项提取出来，第1项%208项合并处理、第2项%207项合并处理、第3项%206项合并处理、第4项%205项合并处理%20其次，考虑到%20最后，再把相关项的特点，两次调整下顺序即可%20依据以上三点，从而有%20完美!%20如此，也就证明了，位置%20m%20的%20query%20和位置%20n%20的%20key%20的内积就是函数%20g%20%20%20%20
最后，把上面的式子一、式子二的最终结果都分别用矩阵向量乘的形式来表达就是：
%20
%20
%20
接下来，我们要计算两个旋转矩阵的乘积，即中间部分的这个式子
%20
%20
%20
展开之后，可得
%20
%20
%20
从而有
%20
%20
%20

%20

上面都还只是针对词嵌入维度为2的情况，那对于的通用情况呢，将2维推广到任意维度，可以表示如下：

%20

内积满足线性叠加性，因此任意偶数维的RoPE，我们都可以表示为二维情形的拼接，即将词嵌入向量元素按照两两一组分组

%20

每组应用同样的旋转操作且每组的旋转角度计算方式如下：

%20

所以简单来说%20RoPE%20的%20self-attention%20操作的流程是

%20

对于 token 序列中的每个词嵌入向量，首先计算其对应的 query 和 key 向量
然后对每个 token 位置都计算对应的旋转位置编码
接着对每个 token 位置的 query 和 key 向量的元素按照两两一组应用旋转变换
最后再计算 query 和 key 之间的内积得到 self-attention 的计算结果

3.1.2 第二种形式的推导(苏剑林版)

与上面第一种形式的推导类似，为了引入复数，首先假设了在加入位置信息之前，原有的编码向量是二维行向量 $q_m$ 和，其中和是绝对位置，现在需要构造一个变换，将和引入到和中，即寻找变换：

%20

也就是说，我们分别为、设计操作、，使得经过该操作后，、就带有了位置、的绝对位置信息%20考虑到Attention的核心计算是内积：

%20

故我们希望的内积的结果带有相对位置信息，即寻求的这个变换，应该具有特性：

%20

「怎么理解？很简单，当m和n表示了绝对位置之后，m与n在句子中的距离即位置差m-n，就可以表示为相对位置了，且对于复数，内积通常定义为一个复数与另一个复数的共轭的乘积」

%20

为合理的求出该恒等式的一个尽可能简单的解，可以设定一些初始条件，比如、，然后可以先考虑二维情形，然后借助复数来求解%20在复数中有，表示取实部的操作(复数%20%20和“%20复数%20%20的共轭即 ”之积仍是一个复数)因论文100课的群里有学员对该点存在疑问，故借用七月黄老师的回复补充下：这个等式和复数乘法和向量乘积的联系有关%20考虑两个复数，的共轭是一方面，对于等式的右边项而言%20q和k*的乘积是%20%20这个结果的实部是%20二方面，对于等式的左边项而言%20其对应于对应的实数向量和对应的实数向量的乘积%20综合以上两点，可知右边项所表示的“复数q和复数k的共轭k*的乘积”，和左边项做表示的“q、k所对应向量的乘积”是一样的%20总之，我们需要寻找一种变换，使得
简单起见，我们假设存在复数，使得，然后我们用复数的指数形式，设
那么代入方程后就得到两个方程%20方程1：%20方程2：Θf(q,m)−Θf(k,n)%20=%20Θg(q,k,m−n) %20对于方程1，代入得到(接着，再把和都设为0)%20最后一个等号源于初始条件和，所以现在我们可以很简单地设，，即它不依赖于 %20至于方程2，同样代入得到%20Θf(q,m)−Θf(k,m)%20=%20Θg(q,k,0)%20=%20Θf(q,0)−Θf(k,0)%20=%20Θ(q)−Θ(k)%20这里的、是、本身的幅角，而最后一个等号同样源于初始条件%20根据上式Θf(q,m)−Θf(k,m)%20=%20Θ(q)−Θ(k)，可得Θf(q,m)−Θ(q)=Θf(k,m)−Θ(k)，所以Θf(q,m)−Θ(q)的结果是一个只与m相关、跟q无关的函数，记为φ(m)，即Θf(q,m)=Θ(q)+φ(m)
接着令n=m−1代入Θf(q,m)−Θf(k,n)%20=%20Θg(q,k,m−n)，可以得到%20Θf(q,m)−Θf(k,m-1)%20=%20Θg(q,k,1)%20然后将%20Θf(q,m)%20和%20Θf(k,m-1)%20的等式代入Θf(q,m)=Θ(q)+φ(m)，我们可以得到%20Θ(q)%20+%20φ(m)%20-%20(Θ(k)%20+%20φ(m-1))%20=%20Θg(q,k,1)，整理一下就得到%20即{φ(m)}是等差数列，设右端为θ，那么就解得φ(m)=mθ%20综上，我们得到二维情况下用复数表示的RoPE：
所以说，寻求的变换就是，也就是给乘以，相应地，乘以%20做了这样一个变换之后，根据复数的特性，有：%20也就是，如果把二维向量看做复数，那么它们的内积，等于一个复数乘以另一个复数的共轭，得到的结果再取实部，代入上面的变换，也就有：%20
%20这样一来，内积的结果就只依赖于，也就是相对位置了%20换言之，经过这样一番操作，通过给Embedding添加绝对位置信息，可以使得两个token的编码，经过内积变换（self-attn）之后，得到结果是受它们位置的差值，即相对位置影响的

%20

于是，对于任意的位置为的二维向量，把它看做复数，乘以，而根据欧拉公式，有：

%20

从而上述的相乘变换也就变成了(过程中注意：)：

%20

把上述式子写成矩阵形式：

%20

而这个变换的几何意义，就是在二维坐标系下，对向量 $(q_0, q_1)$ 进行了旋转，因而这种位置编码方法，被称为旋转位置编码

%20

根据刚才的结论，结合内积的线性叠加性，可以将结论推广到高维的情形。可以理解为，每两个维度一组，进行了上述的“旋转”操作，然后再拼接在一起：

%20

由于矩阵的稀疏性，会造成计算上的浪费，所以在计算时采用逐位相乘再相加的方式进行：

其中 $/otimes$ 为矩阵逐位相乘操作

%20

3.2%20旋转位置编码的coding实现(分非LLaMA版和LLaMA版两种)

%20

原理理解了，接下来可以代码实现旋转位置编码，考虑到LLaMA本身的实现不是特别好理解，所以我们先通过一份非LLaMA实现的版本，最后再看下LLaMA实现的版本

%20

对于，非LLaMA版的实现，其核心就是实现下面这三个函数%20(再次强调，本份关于RoPE的非LLaMA版的实现%20与上面和之后的代码并非一体的，仅为方便理解RoPE的实现)

%20

3.2.1%20非LLaMA版的实现

%20

3.2.1.1%20sinusoidal_position_embedding的编码实现

%20

sinusoidal_position_embedding：这个函数用来生成正弦形状的位置编码。这种编码用来在序列中的令牌中添加关于相对或绝对位置的信息

%20

def%20sinusoidal_position_embedding(batch_size,%20nums_head,%20max_len,%20output_dim,%20device):%20%20%20%20#%20(max_len,%201)%20%20%20%20position%20=%20torch.arange(0,%20max_len,%20dtype=torch.float).unsqueeze(-1)%20%20%20%20#%20(output_dim//2)%20%20%20%20#%20即公式里的i,%20i的范围是%20[0,d/2]%20%20%20%20ids%20=%20torch.arange(0,%20output_dim%20//%202,%20dtype=torch.float)%20%20%20%20%20%20theta%20=%20torch.pow(10000,%20-2%20*%20ids%20/%20output_dim)%20%20%20%20#%20(max_len,%20output_dim//2)%20%20%20%20#%20即公式里的：pos%20/%20(10000^(2i/d))%20%20%20%20embeddings%20=%20position%20*%20theta%20%20%20%20%20#%20(max_len,%20output_dim//2,%202)%20%20%20%20embeddings%20=%20torch.stack([torch.sin(embeddings),%20torch.cos(embeddings)],%20dim=-1)%20%20%20%20#%20(bs,%20head,%20max_len,%20output_dim//2,%202)%20%20%20%20#%20在bs维度重复，其他维度都是1不重复%20%20%20%20embeddings%20=%20embeddings.repeat((batch_size,%20nums_head,%20*([1]%20*%20len(embeddings.shape))))%20%20%20%20%20%20#%20(bs,%20head,%20max_len,%20output_dim)%20%20%20%20#%20reshape后就是：偶数sin,%20奇数cos了%20%20%20%20embeddings%20=%20torch.reshape(embeddings,%20(batch_size,%20nums_head,%20max_len,%20output_dim))%20%20%20%20embeddings%20=%20embeddings.to(device)%20%20%20%20return%20embeddings

%20

一般的文章可能解释道这个程度基本就over了，但为了让初学者一目了然计，我还是再通过一个完整的示例，来一步步说明上述各个步骤都是怎么逐一结算的，整个过程和之前此文里介绍过的transformer的位置编码本质上是一回事..

%20

为方便和transformer的位置编码做对比，故这里也假定output_dim%20=%20512

%20

首先，我们有%20ids%20张量，当%20output_dim%20为%20512%20时，则%20
，，，，，，%20...，，%20ids%20=%20[0,0,%201,1,%202,2,%20...,%20254,254,%20255,255]
%20然后我们有一个基数为10000的指数运算，使用了公式%20torch.pow(10000,%20-2%20*%20ids%20/%20output_dim)%20
%20
执行%20embeddings%20=%20position%20*%20theta%20这行代码，它会将%20position%20的每个元素与%20theta%20的相应元素相乘，前三个元素为
接下来我们将对%20embeddings%20的每个元素应用%20torch.sin%20和%20torch.cos%20函数%20对于%20torch.sin(embeddings)，我们将取%20embeddings%20中的每个元素的正弦值：%20对于%20torch.cos(embeddings)，我们将取%20embeddings%20中的每个元素的余弦值：%20最后，torch.stack([torch.sin(embeddings),%20torch.cos(embeddings)],%20dim=-1)%20将这两个新的张量沿着一个新的维度堆叠起来，得到的%20embeddings如下%20
%20
%20
%20

最终，得到如下结果%20

[%20%20[%20%20%20%20[%20%20%20%20%20%20[sin(/frac{0}{10000^{/frac{0}{512}}}),%20cos(/frac{0}{10000^{/frac{0}{512}}}),%20sin(/frac{0}{10000^{/frac{2}{512}}}),%20cos(/frac{0}{10000^{/frac{2}{512}}}),%20...,%20cos(/frac{0}{10000^{/frac{510}{512}}})],%20%20%20%20%20%20[sin(/frac{1}{10000^{/frac{0}{512}}}),%20cos(/frac{1}{10000^{/frac{0}{512}}}),%20sin(/frac{1}{10000^{/frac{2}{512}}}),%20cos(/frac{1}{10000^{/frac{2}{512}}}),%20...,%20cos(/frac{1}{10000^{/frac{510}{512}}})],%20%20%20%20%20%20[sin(/frac{2}{10000^{/frac{0}{512}}}),%20cos(/frac{2}{10000^{/frac{0}{512}}}),%20sin(/frac{2}{10000^{/frac{2}{512}}}),%20cos(/frac{2}{10000^{/frac{2}{512}}}),%20...,%20cos(/frac{2}{10000^{/frac{510}{512}}})]%20%20%20%20]%20%20]]

%20

3.2.1.2%20RoPE的编码实现

%20

RoPE：这个函数将相对位置编码（RoPE）应用到注意力机制中的查询和键上。这样，模型就可以根据相对位置关注不同的位置

%20

import%20torchimport%20torch.nn%20as%20nnimport%20torch.nn.functional%20as%20Fimport%20mathdef%20RoPE(q,%20k):%20%20%20%20#%20q,k:%20(bs,%20head,%20max_len,%20output_dim)%20%20%20%20batch_size%20=%20q.shape[0]%20%20%20%20nums_head%20=%20q.shape[1]%20%20%20%20max_len%20=%20q.shape[2]%20%20%20%20output_dim%20=%20q.shape[-1]%20%20%20%20#%20(bs,%20head,%20max_len,%20output_dim)%20%20%20%20pos_emb%20=%20sinusoidal_position_embedding(batch_size,%20nums_head,%20max_len,%20output_dim,%20q.device)%20%20%20%20#%20cos_pos,sin_pos:%20(bs,%20head,%20max_len,%20output_dim)%20%20%20%20#%20看rope公式可知，相邻cos，sin之间是相同的，所以复制一遍。如(1,2,3)变成(1,1,2,2,3,3)%20%20%20%20cos_pos%20=%20pos_emb[...,%20%201::2].repeat_interleave(2,%20dim=-1)%20%20#%20将奇数列信息抽取出来也就是cos%20拿出来并复制%20%20%20%20sin_pos%20=%20pos_emb[...,%20::2].repeat_interleave(2,%20dim=-1)%20%20#%20将偶数列信息抽取出来也就是sin%20拿出来并复制%20%20%20%20#%20q,k:%20(bs,%20head,%20max_len,%20output_dim)%20%20%20%20q2%20=%20torch.stack([-q[...,%201::2],%20q[...,%20::2]],%20dim=-1)%20%20%20%20q2%20=%20q2.reshape(q.shape)%20%20#%20reshape后就是正负交替了%20%20%20%20#%20更新qw,%20*对应位置相乘%20%20%20%20q%20=%20q%20*%20cos_pos%20+%20q2%20*%20sin_pos%20%20%20%20k2%20=%20torch.stack([-k[...,%201::2],%20k[...,%20::2]],%20dim=-1)%20%20%20%20k2%20=%20k2.reshape(k.shape)%20%20%20%20#%20更新kw,%20*对应位置相乘%20%20%20%20k%20=%20k%20*%20cos_pos%20+%20k2%20*%20sin_pos%20%20%20%20return%20q,%20k

%20

老规矩，为一目了然起见，还是一步一步通过一个示例来加深理解

%20

sinusoidal_position_embedding函数生成位置嵌入。在output_dim=512的情况下，每个位置的嵌入会有512个维度，但为了简单起见，我们只考虑前8个维度，前4个维度为sin编码，后4个维度为cos编码。所以，我们可能得到类似以下的位置嵌入%20

#%20注意，这只是一个简化的例子，真实的位置嵌入的值会有所不同。pos_emb%20=%20torch.tensor([[[[0.0000,%200.8415,%200.9093,%200.1411,%201.0000,%200.5403,%20-0.4161,%20-0.9900],%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20[0.8415,%200.5403,%200.1411,%20-0.7568,%200.5403,%20-0.8415,%20-0.9900,%20-0.6536],%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20[0.9093,%20-0.4161,%20-0.8415,%20-0.9589,%20-0.4161,%20-0.9093,%20-0.6536,%200.2836]]]])

%20

然后，我们提取出所有的sin位置编码和cos位置编码，并在最后一个维度上每个位置编码进行复制%20

sin_pos%20=%20pos_emb[...,%20::2].repeat_interleave(2,%20dim=-1)%20%20#%20提取出所有sin编码，并在最后一个维度上复制cos_pos%20=%20pos_emb[...,%201::2].repeat_interleave(2,%20dim=-1)%20%20#%20提取出所有cos编码，并在最后一个维度上复制

%20

更新query向量%20我们首先构建一个新的q2向量，这个向量是由原来向量的负的cos部分和sin部分交替拼接而成的%20我们用cos_pos对q进行元素级乘法，用sin_pos对q2进行元素级乘法，并将两者相加得到新的query向量%20

q2%20=%20torch.stack([-q[...,%201::2],%20q[...,%20::2]],%20dim=-1).flatten(start_dim=-2)#%20q2:%20tensor([[[[-0.2,%20%200.1,%20-0.4,%20%200.3,%20-0.6,%20%200.5,%20-0.8,%20%200.7],#%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20[-1.0,%20%200.9,%20-1.2,%20%201.1,%20-1.4,%20%201.3,%20-1.6,%20%201.5],#%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20[-1.8,%20%201.7,%20-2.0,%20%201.9,%20-2.2,%20%202.1,%20-2.4,%20%202.3]]]])q%20=%20q%20*%20cos_pos%20+%20q2%20*%20sin_pos

%20公式表示如下%20

更新key向量
对于key向量，我们的处理方法与query向量类似

k2 = torch.stack([-k[..., 1::2], k[..., ::2]], dim=-1).flatten(start_dim=-2)# k2: tensor([[[[-0.15,  0.05, -0.35,  0.25, -0.55,  0.45, -0.75,  0.65

3.2.1.3 attention的编码实现

attention：这是注意力机制的主要功能

首先，如果use_RoPE被设置为True，它会应用RoPE，通过取查询和键的点积（并进行缩放）
然后，进行softmax操作来计算注意力分数，以得到概率，输出是值的加权和，权重是计算出的概率
最后，旋转后的q和k计算点积注意力后，自然就具备了相对位置信息

def attention(q, k, v, mask=None, dropout=None, use_RoPE=True):    # q.shape: (bs, head, seq_len, dk)    # k.shape: (bs, head, seq_len, dk)    # v.shape: (bs, head, seq_len, dk)    if use_RoPE:        # 使用RoPE进行位置编码        q, k = RoPE(q, k)    d_k = k.size()[-1]    # 计算注意力权重    # (bs, head, seq_len, seq_len)    att_logits = torch.matmul(q, k.transpose(-2, -1))      att_logits /= math.sqrt(d_k)    if mask is not None:        # 对权重进行mask，将为0的部分设为负无穷大        att_scores = att_logits.masked_fill(mask == 0, -1e-9)      # 对权重进行softmax归一化    # (bs, head, seq_len, seq_len)    att_scores = F.softmax(att_logits, dim=-1)      if dropout is not None:        # 对权重进行dropout        att_scores = dropout(att_scores)    # 注意力权重与值的加权求和    # (bs, head, seq_len, seq_len) * (bs, head, seq_len, dk) = (bs, head, seq_len, dk)    return torch.matmul(att_scores, v), att_scoresif __name__ == '__main__':    # (bs, head, seq_len, dk)    q = torch.randn((8, 12, 10, 32))    k = torch.randn((8, 12, 10, 32))    v = torch.randn((8, 12, 10, 32))    # 进行注意力计算    res, att_scores = attention(q, k, v, mask=None, dropout=None, use_RoPE=True)    # 输出结果的形状    # (bs, head, seq_len, dk),  (bs, head, seq_len, seq_len)    print(res.shape, att_scores.shape)

3.2.2 LLaMA版的实现

接下来，我们再来看下LLaMA里是怎么实现这个旋转位置编码的，具体而言，LLaMA 的model.py文件里面实现了旋转位置编码(为方便大家理解，我给相关代码加了下注释)
首先，逐一实现这三个函数
precompute_freqs_cis
reshape_for_broadcast
apply_rotary_emb

# 预计算频率和复数的函数def precompute_freqs_cis(dim: int, end: int, theta: float = 10000.0):    freqs = 1.0 / (theta ** (torch.arange(0, dim, 2)[: (dim // 2)].float() / dim))    # 计算频率    t = torch.arange(end, device=freqs.device)    # 根据结束位置生成序列    freqs = torch.outer(t, freqs).float()    # 计算外积得到新的频率    freqs_cis = torch.polar(torch.ones_like(freqs), freqs)    # 计算复数    return freqs_cis    # 返回复数

# 重塑的函数def reshape_for_broadcast(freqs_cis: torch.Tensor, x: torch.Tensor):    ndim = x.ndim    # 获取输入张量的维度    assert 0 <= 1 < ndim    # 检查维度的合理性    assert freqs_cis.shape == (x.shape[1], x.shape[-1])    # 检查复数的形状    shape = [d if i == 1 or i == ndim - 1 else 1 for i, d in enumerate(x.shape)]    # 计算新的形状    return freqs_cis.view(*shape)    # 重塑复数的形状并返回

# 应用旋转嵌入的函数def apply_rotary_emb(    xq: torch.Tensor,    xk: torch.Tensor,    freqs_cis: torch.Tensor,) -> Tuple[torch.Tensor, torch.Tensor]:    xq_ = torch.view_as_complex(xq.float().reshape(*xq.shape[:-1], -1, 2))    # 将xq视为复数    xk_ = torch.view_as_complex(xk.float().reshape(*xk.shape[:-1], -1, 2))    # 将xk视为复数    freqs_cis = reshape_for_broadcast(freqs_cis, xq_)    # 重塑复数的形状    xq_out = torch.view_as_real(xq_ * freqs_cis).flatten(3)    # 计算xq的输出    xk_out = torch.view_as_real(xk_ * freqs_cis).flatten(3)    # 计算xk的输出    return xq_out.type_as(xq), xk_out.type_as(xk)    # 返回xq和xk的输出

之后，在注意力机制的前向传播函数中调用上面实现的第三个函数 apply_rotary_emb，赋上位置信息

        # 对Query和Key应用旋转嵌入        xq, xk = apply_rotary_emb(xq, xk, freqs_cis=freqs_cis)

第四部分线性偏差注意力ALiBi

模型名称	隐藏层维度	层数	注意力头数	词表大小	训练数据（tokens）	位置编码	最大长度
Baichuan-7B	4,096	32	32	64,000	1.2 万亿	RoPE	4,096
Baichuan-13B	5,120	40	40	64,000	1.4 万亿	ALiBi	4,096
Baichuan 2-7B	4096	32	32	125,696	2.6万亿	RoPE	4096
Baichuan 2-13B	5120	40	40	125,696	2.6万亿	ALiBi	4096

注意看上表的位置编码那一列，baichuan 7B无论第一代还是第二代，位置编码均用的RoPE，而baichuan 13B则无论是第一代还是第二代，均用的ALiBi

下面便详细介绍下该ALiBi

4.1 什么是ALiBi

ALiBi全称是Attention with Linear Biases，通过论文《Train Short, Test Long: Attention with Linear Biases Enables Input Length Extrapolation》提出，其不像标准transformer那样，在embedding层添加位置编码，而是在softmax的结果后添加一个静态的不可学习的偏置项(说白了，就是数值固定)

具体而言，如下图所示

当计算每个头的注意力分数时，线性偏差注意力方法ALiBi会向每个注意力分数( $q_i/cdot k_j$ ，左)添加一个常数偏差(右)When%20computing%20attention%20scores%20for%20each%20head,%20our%20linearly%20biased%20attention%20method,%20ALiBi,%20adds%20a%20constant%20bias%20(right)%20to%20each%20attention%20score%20(qi·%20kj%20,%20left).%20 %20
左边是自注意力得分，关于q和k的内积%20右边是一个相对距离的矩阵，q1 %20q2%20q3%20q4%20q5%20k1 %20k2 %20k3%20k4%20k5%20所以才有 %20q1和k1之间的距离是0，所以对应位置就是0 %20q2和k1之间的距离是「相对位置偏移为“k的索引”1」%20-%20「q的索引2」，得到1-2%20=%20-1，就对应到了中间矩阵的取值为-1了%20以此类推，相对距离矩阵的中间对角线上都是0，然后左下角的取值都是对应的「k的索引」-「q的索引」了
%20
那m具体怎么取值呢，按论文中的说法是%20当8个heads的时候，m的取值为：%20如果是16个heads，则m的取值为：%20相当于追加了一半的1/sqrt(2)到原来的8个head的每个m的取值%20扩展到一般情况就是：对于n个head的话，m的取值就是，即如下，这样的m个坡度了最终整体的公式便是%20对于第i个query来说，他们之间的相对距离就是：k的索引%20-%20q的索引%20具体而言，k的索引%20遍历，而q的索引%20取值为

%20

//%20待更

%20

第五部分 LLaMA%202%20Long中位置编码的修改

%20

5.1 LLaMA%202%20Long相比LLaMA%202的变化：修改位置编码%20长度达到32K

%20

9月底，GenAI,%20Meta正式发布LLaMA%202%20Long(这是其论文《Effective%20Long-Context%20Scaling%20of%20Foundation%20Models》)，与LLaMA%202相比，LLaMA%202%20Long的变化主要体现在以下两点

%20

一是训练参数上，采用了高达4000亿token的数据源(We%20build%20our%20models%20by%20continually%20pretraining%20from%20LLAMA%202%20checkpoints%20with%20additional%20400%20billion%20tokens%20formed%20as%20long%20training%20sequences)%20——相反，原始LLaMA%202包含多个变体，但最多的版本也只有700亿
二是架构上，与LLaMA%202保持不变，但对位置编码进行了一个非常小的必要修改，以此完成高达3.2万token的上下文窗口支持

%20

5.1.1 LLaMA%202%20Long中的位置编码做了怎样的修改

%20

在LLaMA%202中，它的位置编码采用的是旋转编码RoPE方法，其通过旋转矩阵来实现位置编码的外推

%20

本质上来说，RoPE就是将表示单词、数字等信息的token%20embeddings映射到3D图表上，给出它们相对于其他token的位置——即使在旋转时也如此
这就能够使模型产生准确且有效的响应，并且比其他方法需要的信息更少，因此占用的计算存储也更小

%20

然，Meta的研究人员通过对70亿规模的LLaMA%202进行实验，确定了LLaMA%202中的RoPE方法的一个局限性，即，阻止注意力模块聚集远处token的信息

%20

为此，Meta想出了一个非常简单的破解办法：

%20

%20%20
减少每个维度的旋转角度(which%20essentially%20reduces%20the%20rotation%20angles%20of%20each%20dimension)%20具体而言就是将超参数“基频(base%20frequency)b”从10000增加到500000(increasing%20the%20“base%20frequency%20b”%20of%20ROPE%20from%2010,%20000%20to%20500,%20000)
%20

%20

在附录中，Meta还通过可视化为螺旋图这一非常有趣的方式，将RoPE%20ABF与RoPE%20PI的差异进行了理论分析

%20

上图b旨在说明位置插值对映射向量相对位置的影响，与上图a相比，连续点之间的距离被大幅缩小
Figure 8b aims to illustrate the impact of Position Interpolation on the relative position of the mapped vectors. The distance between the consecutive points got reduced considerably compered to Figure8a.
上图c说明了调整基频对结果的影响(The impact of Adjusted Base Frequency is illustrated on Figure 8c)
虽然螺旋频率增加导致点之间最小距离缩小(although the minimal distance between points got considerably reduced due to the increased frequency of the helix)
但连续点之间的距离几乎与上图a相同(The distance between the consecutive points remained almost the same as on Figure 8a)
即螺旋频率增加所带来的影响将在高频段中逐渐减少(This effect of increasedfrequency of the helix would be reduced in the high)

总之，与RoPE PI相比，RoPE ABF的优势主要体现在它能以更大的粒度分配嵌入向量(the embedded vectors)，从而使模型更容易区分位置

此外，他们还观察到，嵌入向量之间的相对距离既对RoPE PI的关键参数有线性依赖性，也对RoPE ABF的关键参数也有对数依赖性。

这也就是为什么可以很容易地对基频这一超参数“下手”

5.1.2 改动之后的效果

这一改动立刻奏效，缩小了RoPE对远端token的衰减效应，并且在扩展LLAMA的上下文长度上优于一项类似的名为“位置插值”的方法RoPE PI(如下图所示，RoPE表示基线方法，RoPE ABF为Meta此次发明的新方法，xPos是另一种应用了该方法的旋转编码变体)

然，一个问题是，通过上面这个可视化结果，Meta观察到RoPE在长程区域出现了较大的“振荡”，这对于语言建模来说可能不是个好消息

不过，通过报告几种方法在长序列困惑度和FIRST-SENTENCE-RETRIEVAL两个任务上的表现来看，问题不大

而且，尤其在后者任务上，他们提出的RoPE ABF是唯一一个可以始终保持性能的变体

最终，LLaMA 2 Long凭借着这一改动，达成了3.2万的上下文token，并通过长下文连续预训练的共同作用，获得了开头所示的好成绩：

除了全面超越LLaMA 2、在特定任务上超越Claude 2和ChatGPT，Meta也给出了它和一些开源长下文模型的对比。结果也相当不赖，如下图所示

//待更

后记

最后，说明下为何像开头说的是「23年12.16日这天对本文做了大修」呢，原因在于

我司《论文审稿GPT第2版》即将进入模型训练阶段，其涉及到三个候选模型：mistral-yarn、mistral、llama-longlora
故准备解析下YaRN，顺带把外推、内插都全面介绍下，而过程中不可避免会提到RoPE，故也总算把RoPE彻底写清楚了
这些东西，哪怕是近期最新的技术、模型等理解了后会发现都不难，但我总想把理解的门槛无限降低，所以想真正写清楚或讲清楚一个东西，必须得反复琢磨、反复修改，以让更多人因此看懂，更何况当我和我的团队每天看paper、做项目，更可以帮到大家不断进阶、深入

如今博客的访问PV2000万，希望明年达到2000万UV以上，以上视为后记