NLP入门：word2vec self-attention transformer diffusion的技术演变

这一段时间大模型的相关进展如火如荼，吸引了很多人的目光；本文从nlp领域入门的角度来总结相关的技术路线演变路线。

1、introduction

自然语言处理（Natural Language Processing），简称NLP，是通过统计学、数学模型、机器学习等相关技术研究人类语言的特征，对其进行数学的表示，并基于这种表示进行计算使其可以处理一些和人类语言相关的事务，模拟人类使用语言的状态。

在人类的思想领域中，针对人的认识，一直以来都有两种倾向。一种是认为人类的各种知识是天然具有逻辑合理性的，因此在建构知识时，应当自顶向下的搭建逻辑的结构，获得对知识的把握；而另一种则认为人类的知识是归纳在世界中的经验一点一点形成的，我们认为是逻辑和理性的认知，也是在经验中被我们归纳确认的，因此人类的知识需要从大量的经验中去归纳总结，这是一个自底向上的过程。从哲学史的角度看来，这两者就是所谓的唯理论和经验论的区别。这两种倾向被带入到具体学科领域中，就会得到两套相反的方法。

之所以要提到这个问题，是因为在自然语言处理领域，也曾有偏向规则的（唯理论的）和偏向统计的（经验论）的两种方法。基于规则和语法的自然语言处理算法曾经一度是NLP领域的主流，很多研究者都基于建构一个更合理的语言规则的思路来推进算法对于人类语言的处理能力。现如今，这一主流已经被基于统计学的方法所取代。目前较为流行的BERT、CLIP及类似算法本质上都是基于对大量语料的训练（实际上就是一种更高级的统计分析）得到的。这种基于神经网络训练的方法得到的模型已经具有了较强的人类语言处理能力。

2、词的向量化

在进入正文之前，我们先提出这样一个问题，一个文本，经过分词之后，送入某一个自然语言处理模型之前该如何表示？例如，“人/如果/没用/梦想/，/跟/咸鱼/还有/什么/差别”，向机器学习模型直接输入字符串并不便于模型进行计算和比较，但是对文本进行向量化的表示，也就是由字符串转换为向量可以帮助我们获得这样的能力。

2.1 one-hot的词向量模型

词袋模型把文本看成是一个装着词的袋子，对这个袋子中包含的所有此词汇采用One-Hot编码，每个词向量维度大小为整个词汇表的大小，对于每个具体的词汇表中的词，将对应的位置置为1。比如我们有下面的5个词组成的词汇表：

采用One-Hot编码方式来表示词向量非常简单，但缺点也是显而易见的。一方面我们实际使用的词汇表很大，经常是百万级以上，这么高维的数据处理起来会消耗大量的计算资源与时间。另一方面，One-Hot编码中所有词向量之间彼此正交，没有体现词与词之间语义之间的相似关系。

2.2 Word2vec 词向量模型

Word2Vec是google的Mikolov在2013年推出的一个NLP工具，由论文Exploiting Similarities among Languages for Machine Translation提出，之所以论文和工具的名称不一致，是因为Google论文开源的Git代码仓库名字就叫做“Word2Vec“。它的特点是能够将单词转化为向量来表示，这样词与词之间就可以定量的去度量他们之间的关系，挖掘词之间的联系。
Word2Vec 的训练模型本质上是只具有一个隐含层的神经元网络，如下图所示：

它的输入是采用One-Hot编码的词汇表向量，它的输出也是One-Hot编码的词汇表向量。例如输入向量x1={1,0,0......0}，在网络最终收敛之后，从输入层x到隐含层h的权重矩阵

$W_{V\cdot N}$ ，便是每一个词的采用Distributed Representation的词向量。比如上图中 Xi 单词的Word embedding后的向量便是权重矩阵W的第i行的转置。这样我们就把原本维数为V的词向量变成了维数为N的词向量（一般而言N远小于V，V的大小就是词袋容量大小），并且词向量间保留了一定的相关关系。

Google在Word2Vec的论文中提出了CBOW和Skip-gram两种模型，CBOW适合于数据集较小的情况，而Skip-Gram在大型语料中表现更好。其中CBOW使用围绕目标单词的其他单词（语境）作为输入，在映射层做加权处理后输出目标单词。与CBOW根据语境预测目标单词不同，Skip-gram根据当前单词预测语境下其他单词。假如我们有一个句子“There is an apple on the table”作为训练数据，CBOW的输入为（is,an,on,the），输出为apple。而Skip-gram的输入为apple，输出为（is,an,on,the）。

2.2.1 Continuous Bag of Words（CBOW）

1、输入层：上下文单词的One-Hot编码词向量，V为词汇表单词个数，C为上下文单词个数。仍以“There is an apple on the table”为例，这里C=4，所以模型的输入是（is,an,on,the）4个单词的One-Hot编码词向量。

2、初始化一个权重矩阵 $W_{V\cdot N}$ ，然后用所有输入的One-Hot编码词向量左乘该矩阵,得到维数为N的向量 $\left (w _{1} , w _{2}, \cdot \cdot \cdot w _{n}\right )$ ，这里的N由自己根据任务需要设置。

3、将所得的向量 $\left (w _{1} , w _{2}, \cdot \cdot \cdot w _{n}\right )$ 相加求平均作为隐藏层向量h。

4、初始化另一个权重矩阵 $W^{'}_{V\cdot N}$ ，用隐藏层向量h左乘，再经激活函数处理得到V维的向量y，y的每一个元素代表相对应的每个单词的概率分布。

5、y中概率最大的元素所指示的单词为预测出的中间词（target word）与true label的One-Hot编码词向量做比较，误差越小越好（根据误差更新两个权重矩阵）

在训练前需要定义好损失函数（一般为交叉熵代价函数），采用梯度下降算法更新W和W’。训练完毕后，输入层的每个单词与矩阵W相乘得到的向量的就是我们想要的Distributed Representation表示的词向量，也叫做word embedding。因为One-Hot编码词向量中只有一个元素为1，其他都为0，所以第i个词向量乘以矩阵W得到的就是矩阵的第i行，所以这个矩阵也叫做look up table，有了look up table就可以免去训练过程，直接查表得到单词的词向量了。

2.2.2 Skip-gram

这部分感兴趣的自行了解，再次不进行赘述。

2.2.3 算法改进

前面部分介绍的简化版Word2Vec过程实际上是为了便于大家理解而概括出来的。这个理想的模型当中存在一些无法回避的问题，比如输出的部分是一个50000维的One-Hot向量，因此数据经过网络后应该得到的也是一个50000维的向量，对这个输出向量进行Softmax计算所需的工作量将是一个天文数字。

Google论文里真实实现的Word2Vec对模型提出了两种改进思路，即Hierarchical Softmax模型和Negative Sampling模型。Hierarchical Softmax是用输出值的霍夫曼编码代替原本的One-Hot向量，用霍夫曼树替代Softmax的计算过程。Negative Sampling（简称NEG）使用随机采用替代Softmax计算概率，它是另一种更严谨的抽样模型NCE的简化版本。

3、多头注意力机制

多头注意力机制起源于Google的论文《Attention is all you need》，之前在李沐的论中阅读中有看过，但是第一次涉略似懂非懂，如今因为大模型的原因重新涉略，果然温故而知新，孔子诚不我欺。

图片的来源是论文原文，可以看出scaled-dot-product-attention到multi-head-attention最后才到transformer的结构，整体上层层递进还是非常明晰的。inputs经过word2vec之后就成为词向量；词在语句中是有位置顺序的，因此需要加上positional encoding部分，通过position encoding添加词语的位置信息。

根据沐神的讲解，原论文中的scaled-dot-product-attention的结构中作为输入层的Q K V其实就是input的输入向量，Query=Key=Value=input。在做计算的过程中，序列中的某一个词语以自身向量作为query，与整个序列其他语句的keys逐个进行点乘；点乘的结果可以用来反应query与keys之间的相似度，毫无疑问他会与自身的key点乘结果最大，这样的结果也是符合常识的。将query与整个序列的keys的点乘结果经过softmax转化为和为1的权重值，这些权重值可以用来表明这个词语与序列中其他词语的相关性关系；将此权重乘上序列的Values就得到最终的attention结果了。

计算过程可以参考：NLP学习—21.自注意力机制（Self-Attention）与Transformer详解，配置了较为精美的插图，便于理解具体的计算过程。

注意一下：
1、Q、K、V可以来自input embedding的线性变化，每一个词向量，都有自己的QKV。通过矩阵变换而来，矩阵可以学习得到。
2、multi-head self-attention 与self-attention 的区别在于可以有多组embedding的线性变化，从而习得多种多样的隐性空间的变换，获得尽可能全面的对于input内在规律的表征。

4、Diffusion

5、Stable Diffusion