深度学习（五）——词向量
2017-06-15AutoEncoder（续）
Stacked AutoEncoders
AE不仅可以单独使用，还可以堆叠式的使用。
上图是个普通的AE，其中的hidden层可以看作是input的Features，不妨称作Features I。
将Features I作为input，送进另一个AE，得到Features II。依此类推，就可以形成一个深度网络，这种方法叫做Stacked Auto-encoder Networks（SANs）。
这实际上，就是Relu发明之前，预训练DNN的标准做法。经过SANs预训练的网络，每层的参数都被归一化，即使使用sigmoid激活函数，也没有严重的梯度消失现象，从而使DNN的训练成为了可能。
参考：
http://ufldl.stanford.edu/wiki/index.php/Stacked_Autoencoders
Stacked Autoencoders
Deep AE
一层的AE有时可能不能很好的进行数据降维，这个时候就可以使用如下所示的Deep AE：
Deep AE可用于异常检测：根据正常数据训练出来的Autoencoder，能够将正常样本重建还原，但是却无法将异于正常分布的数据点较好地还原，导致还原误差较大。
参考：
http://sofasofa.io/tutorials/anomaly_detection/
利用Autoencoder进行无监督异常检测
https://zhuanlan.zhihu.com/p/51053142
基于自编码器的时间序列异常检测算法
https://mp.weixin.qq.com/s/Jqsm_JxI28SVXFt3Xuw8ew
使用自编码器进行图像去噪
参考
http://ufldl.stanford.edu/tutorial/unsupervised/Autoencoders/
Autoencoders
http://blog.csdn.net/changyuanchn/article/details/15681853
深度学习之autoencoder
https://mp.weixin.qq.com/s/cago4myCcLZkv1e43T__3g
深入理解自编码器
http://www.cnblogs.com/neopenx/p/4370350.html
降噪自动编码器（Denoising Autoencoder)
https://mp.weixin.qq.com/s/lODy8ucB3Bw9Y1sy1NxTJg
无监督学习中的两个非概率模型：稀疏编码与自编码器
https://mp.weixin.qq.com/s/QuDa__mi1NX1wOxo5Ki94A
深度学习：自动编码器基础和类型
http://blog.csdn.net/losteng/article/details/51067216
CAE(Convolutional Auto-Encode) 卷积自编码
https://mp.weixin.qq.com/s/q-WExyS-zylMA-L8ojOgRg
简单易懂的自动编码器
https://mp.weixin.qq.com/s/Ci0HPy3ENz1ZooB784aMcA
谷歌大脑Wasserstein自编码器：新一代生成模型算法
https://mp.weixin.qq.com/s/Pgf6JMokilV9JxYWi7Y20Q
揭秘自编码器，一种捕捉数据最重要特征的神经网络
https://mp.weixin.qq.com/s/FpPlSMfbtcxg_UnH0lwaqA
手把手教你实现去噪自编码器（Denoise Autoencoder）
https://zhuanlan.zhihu.com/p/82415579
浅谈Deep Auto-encoder
https://mp.weixin.qq.com/s/PJ-FiDQ7zYN_9rFVWkpeQA
降维算法：主成分分析 VS 自动编码器
词向量
One-hot Representation
NLP是ML和DL的重要研究领域。但是多数的ML或DL算法都是针对数值进行计算的，因此如何将自然语言中的文本表示为数值，就成为了一个重要的基础问题。
词向量顾名思义就是单词的向量化表示。最简单的词向量表示法当属One-hot Representation：
假设语料库的单词表中有N个单词，则词向量可表示为N维向量\([0,\dots,0,1,0,\dots,0]\)
这种表示法由于N维向量中只有一个非零元素，故名。该非零元素的序号，就是所表示的单词在单词表中的序号。
某牛点评：
如果你预测的label是苹果，雪梨，香蕉，草莓这四个，显然他们不直接构成比较关系，但如果我们用1,2,3,4来做label就会出现了比较关系，label之间的距离也不同。有了比较关系，第一个label和最后一个label的距离太远，影响模型的学习。因为模型觉得label 1和label 2最像，和最后一个label最不像。
不过当你的label之间存在直接的比较关系，就可以直接用数字当label。例如你做一个风控模型，预测的是四个风险类别[低，中，高，紧急]，其实你也可以用1，2，3，4来做label，因为确实存在一个比较。但这本质上就成了回归问题。
One-hot Representation的缺点在于：
1.该表示法中，由于任意两个单词的词向量都是正交的，因此无法反映单词之间的语义相似度。
2.一个词库的大小是\(10^5\)以上的量级。维度过高，会妨碍神经网络学习到稀疏特征。
参考：
https://mp.weixin.qq.com/s?__biz=MzI4MzM2NTU0Mg==&mid=2247483698&idx=1&sn=cf185232e43b4523ab9b0bc0ce425ed4
One-Hot编码与哑变量
https://www.zhihu.com/question/359742335
分类问题的label为啥必须是one hot形式？
https://mp.weixin.qq.com/s/gDqI3ttGiZaeOzm7Gvc9dA
数据处理：离散型变量编码及效果分析
https://mp.weixin.qq.com/s/eRxvx1a03p-1nzatJGYQhQ
为什么独热编码会引起维度诅咒以及避免他的几个办法
Word Embedding
针对One-hot Representation的不足，Bengio提出了Distributed Representation，也称为Word Embedding。
Word Embedding的思路如上图所示，即想办法将高维的One-hot词向量映射到低维的语义空间中。
Bengio自己提出了一种基于神经网络的Word Embedding的方案，然而由于计算量过大，目前已经被淘汰了。
参考：
http://www.cnblogs.com/neopenx/p/4570648.html
词向量概况
word2vec
除了Bengio方案之外，早期人们还尝试过基于共生矩阵（Co-occurrence Matrix）SVD分解的Word Embedding方案。该方案对于少量语料有不错的效果，但一旦语料增大，计算量即呈指数级上升。
这类方案的典型是Latent Semantic Analysis(LSA)。参见《机器学习（二十一）》。
Tomas Mikolov于2013年对Bengio方案进行了简化改进，提出了目前最为常用的word2vec方案。
介绍word2vec的数学原理比较好的有：
《Deep Learning实战之word2vec》，网易有道的邓澍军、陆光明、夏龙著。
《word2vec中的数学》，peghoty著。该书的网页版：
http://blog.csdn.net/itplus/article/details/37969519
这里有一个图解版本：
https://jalammar.github.io/illustrated-word2vec/
以及它的中文译本：
https://mp.weixin.qq.com/s/cpzBBntlFw6BDNUs6emCWw
详细图解Word2vec
老惯例这里只对最重要的内容进行摘要。
CBOW & Skip-gram
上图是word2vec中使用到的两种模型的示意图。
从图中可知，word2vec虽然使用了神经网络，但是从层数来说，只有3层而已，还谈不上是Deep Learning。但是考虑到DL，基本就是神经网络的同义词，因此这里仍然将word2vec归为DL的范畴。
注：深度学习不全是神经网络，周志华教授提出的gcForest就是一个有益的另类尝试。
研究一个神经网络模型，最重要的除了神经元之间的连接关系之外，就是神经网络的输入输出了。
CBOW（Continuous Bag-of-Words Model）模型和Skip-gram（Continuous Skip-gram Model）模型脱胎于n-gram模型，即一个词出现的概率只与它前后的n个词有关。这里的n也被称为窗口大小.
上图中，窗口大小为5，即一个中心词\(\{w_t\}\)+前面的两个词\(\{w_{t-1},w_{t-2}\}\)+后面的两个词\(\{w_{t+1},w_{t+2}\}\)。
| 名称 | CBOW | Skip-gram |
|---|---|---|
| 输入 | \(\{w_{t-1},w_{t-2},w_{t+1},w_{t+2}\}\) | \(\{w_t\}\) |
| 输出 | \(\{w_t\}\) | \(\{w_{t-1},w_{t-2},w_{t+1},w_{t+2}\}\) |
| 目标 | 在输入确定的情况下，最大化输出值的概率。 | 在输入确定的情况下，最大化输出值的概率。 |
参考：
https://zhuanlan.zhihu.com/p/27234078
通俗理解Word2Vec之Skip-Gram模型
https://mp.weixin.qq.com/s/reT4lAjwo4fHV4ctR9zbxQ
漫谈Word2vec之skip-gram模型
https://mp.weixin.qq.com/s/9YoeoSpeAXo-QryZ9rxfug
一文理解Skip-Gram上下文的预测算法
https://mp.weixin.qq.com/s/IzWq51xrTYdm5KSQBy7idA
Koan:一段来自彭博社的公案
Hierarchical Softmax
word2vec的输出层有两种模型：Hierarchical Softmax和Negative Sampling。
Softmax是DL中常用的输出层结构，它表征多分类中的每一个分类所对应的概率。
然而在这里，每个分类表示一个单词，即：分类的个数=词汇表的单词个数。如此众多的分类直接映射到隐层，显然并不容易训练出有效特征。
Hierarchical Softmax是Softmax的一个变种。这时的输出层不再是一个扁平的多分类层，而变成了一个层次化的二分类层。
Hierarchical Softmax一般基于Huffman编码构建。在本例中，我们首先统计词频，以获得每个词所对应的Huffman编码，然后输出层会利用Huffman编码所对应的层次二叉树的路径来计算每个词的概率，并逆传播到隐藏层。
由Huffman编码的特性可知，Hierarchical Softmax的计算量要小于一般的Softmax。
参考：
https://mp.weixin.qq.com/s/N1Yt_GK57-FXU-brfu6o8A
GPU上的高效softmax近似
Negative Sampling
在CBOW模型中，已知w的上下文Context(w)需要预测w，则w就是正样本，而其他词是负样本。
负样本那么多，该如何选取呢？Negative Sampling就是一种对负样本采样的方法。
上图是Negative Sampling的原理图。L轴表示的是词频分布，很明显这是一个非等距剖分。而M轴是一个等距剖分。
每次生成一个M轴上的随机数，将之映射到L轴上的一个单词。映射方法如上图中的虚线所示。
除了word2vec之外，类似的Word Embedding方案还有SENNA、RNN-LM、Glove等。但影响力仍以word2vec最大。
Skip-Gram Negative Sampling，又被简称为SGNS。
doc2vec
我们知道，word是sentence的基本组成单位。一个最简单也是最直接得到sentence embedding的方法是将组成sentence的所有word的embedding向量全部加起来。
显然，这种简单粗暴的方法会丢失很多信息。
doc2vec是Mikolov在word2vec的基础上提出的一种生成句子向量的方法。
论文：
《Distributed Representations of Sentences and Documents》
http://cs.stanford.edu/~quocle/paragraph_vector.pdf
上图是doc2vec的框架图，可以看出doc2vec的原理与word2vec基本一致，区别仅在于前者多出来一个Paragraph Vector参与CBOW或Skip-gram的训练。
Paragraph Vector可以和Word Vector一起生成，也可以单独生成，也就是训练时，采用预训练的Word Vector，并只改变Paragraph Vector的值。
https://www.zhihu.com/question/33952003
如何通过词向量技术来计算2个文档的相似度?
https://mp.weixin.qq.com/s/x_y_yygV0L5FdqfKM9xzig
Doc2vec原理解析及代码实践
