https://humyue.github.io/tags/deep-learning/Recent content in Deep-Learning on Mingy'LogHugozh-CNWed, 26 Sep 2018 08:00:54 +0800https://humyue.github.io/posts/05crossentropy/Wed, 26 Sep 2018 08:00:54 +0800https://humyue.github.io/posts/05crossentropy/<p><strong>关于交叉熵在loss函数中使用的理解</strong></p> <blockquote> <p>交叉熵（cross entropy）是深度学习中常用的一个概念，一般用来求目标与预测值之间的差距。以前做一些分类问题的时候，没有过多的注意，直接调用现成的库，用起来也比较方便。最近开始研究起对抗生成网络（GANs），用到了交叉熵，发现自己对交叉熵的理解有些模糊，不够深入。遂花了几天的时间从头梳理了一下相关知识点，才算透彻的理解了，特地记录下来，以便日后查阅。</p> </blockquote>https://humyue.github.io/posts/04gradient/Mon, 24 Sep 2018 08:00:54 +0800https://humyue.github.io/posts/04gradient/<p><strong>前言：深度神经网络中，我们听到的最多的词就是梯度消失（gradient vanishing ）和梯度爆炸（gradient exploding），那么这两个词到底表示什么意思呢？今天就让我们来一探究竟。</strong></p> <h5 id="一梯度消失与梯度爆炸问题简述">一.梯度消失与梯度爆炸问题简述</h5> <blockquote> <p>层数比较多的神经网络模型在使用梯度下降法对误差进行反向传播时会出现梯度消失和梯度爆炸问题。梯度消失问题和梯度爆炸问题一般会随着网络层数的增加变得越来越明显。 例如，对于图1所示的含有3个隐藏层的神经网络，梯度消失问题发生时，靠近输出层的hidden layer 3的权值更新相对正常，但是靠近输入层的hidden layer1的权值更新会变得很慢，导致靠近输入层的隐藏层权值几乎不变，扔接近于初始化的权值。这就导致hidden layer 1 相当于只是一个映射层，对所有的输入做了一个函数映射，这时此深度神经网络的学习就等价于只有后几层的隐藏层网络在学习。梯度爆炸的情况是：当初始的权值过大，靠近输入层的hidden layer 1的权值变化比靠近输出层的hidden layer 3的权值变化更快，就会引起梯度爆炸的问题。</p> </blockquote>