点击量：1970
我们先从马尔科夫模型说起。
马尔科夫模型（The Markov chain, sometimes called the observed Markov model）本质上是一个加权的有限状态机（weighted finite automaton），它描述了不同状态之间的转换关系以及转换概率（这里的权重就是状态转移概率）。示意图如下：
一个严格定义的马尔科夫模型由以下几个部分组成：
$$
\begin{align*}
& Q = q_1,q_2,…,q_N \\
& A = a_{01},a_{02},…,a_{nn} \\
& q_0, q_F
\end{align*}
$$
其中，
点击量：11111
前几天的一篇文章自然语言处理入门里提到了一个词嵌入工具GloVe，今天我们花点时间介绍下它的工作原理。不管是英文还是中文，网上关于GloVe的介绍并不多，所以本文的内容主要来自于Stanford NLP Group的Jeffrey Pennington, Richard Socher, Christopher D. Manning在2014年的Empirical Methods in Natural Language Processing (EMNLP)上发表的一篇论文：GloVe: Global Vectors for Word Representation。相对而言这篇论文还是很容易读懂的，下面我们进入正题。
正如论文的标题而言，GloVe的全称叫Global Vectors for Word Representation，它是一个基于全局词频统计（count-based & overall statistics）的词表征（word representation）工具，它可以把一个单词表达成一个由实数组成的向量，这些向量捕捉到了单词之间一些语[……]
点击量：1411
本文主要介绍自然语言处理（Natural Language Processing：NLP）中的一些最基础的概念，可以帮助读者在整体上感知这一领域，算是一篇入门读物。
Vocabulary，表示所有词的集合。一般而言，经过one-hot encoding之后的向量的长度即为词库的大小。
Corpus，由词库里所有的词组成的句子，短语等语料信息，可以简单理解为一个/多个documents。
Word Vector，就是把一个Word表示成一个向量（vector），最常见的有one-hot encoding。
我们知道一个单词最原始的表达方式（Word Representation）是one-hot encoding，但是这种方式是有缺陷的，它仅仅将单词符号化，不包含任何语义信息。那如何才能表达出一个词的语义呢？Harris 在 1954 年提出的分布假说（ Distributional Hypothesis）为这一设想提供了理论基础：上下文相似的词，其语义也相似。 这个很好理解，比如有如下两句话：
点击量：605
本文介绍Coursera-Deep Learning第四课卷积神经网络最后一节内容：神经风格转换（Neural Style Transfer）。
这个概念其实没有明确的定义，但是看一张图就能一目了然了：
最左边是一张古城的照片，而右边则是梵高的著名油画作品：星夜。现在我们在两者的基础上合成一张含有星夜的风格的古城照片，这就是神经风格转换。这应该是神经网络应用里最有趣最好玩的一个了，那么它具体是如何实现的呢？
为了后面的解释更清楚，我们先做一些定义：
直觉上，最后合成的图像G至少应该满足以下两个条件：
要实现一个有趣的神经网络应用，最重要的是你如何去定义或者说找到它的损失函数。根据上面所说的条件，那么神经风格转换的损失函数应该由两部分组成，它的大致形式如下：
$$
J(G) = \alpha[……]
点击量：769
本文介绍Coursera-Deep Learning第四课卷积神经网络最后一节内容：人脸识别。
人脸识别（Face Recognition）
所谓的人脸识别（Face Recognition），指的是给定一个人脸图像，从一个包含k个人脸信息的数据库中，查找出这张脸是否属于其中某个人，这就是人脸识别，它在人脸检测的基础上增加了身份验证功能。
在深度学习起飞之前，基于纯粹的图像处理的人脸识别方法已经存在了，第一个有效的人脸识别方法叫做特征脸方法（Eigenfaces）。该方法首先由Sirovich and Kirby (1987)提出，并由Matthew Turk和Alex Pentland用于人脸分类。它大致的原理是先对图像进行预处理，比如做直方图均值化（Histogram equalization）；再通过PCA对图像进行降维，然后计算出数据库中K个人脸图像的平均脸[……]