入门: 神经网络(Neural Network)

栏目: 数据库 · 发布时间: 5年前

内容简介:06 December 2018为了更好的理解深度学习,我决定从零开始构建一个神经网络(Neural Network)。所谓M-P模型,其实是按照生物神经元的结构和工作原理构造出来的一个抽象和简化了的模型。简单点说,它是对一个生物神经元的建模。它实际上是两位科学家的名字的合称,1943年心理学家W.McCulloch和数学家W.Pitts合作提出了这个模型,所以取了他们两个人的名字(McCulloch-Pitts)。

06 December 2018

为了更好的理解深度学习,我决定从零开始构建一个神经网络(Neural Network)。

什么是神经网络?

起源:M-P 模型(单层神经元)

所谓M-P模型,其实是按照生物神经元的结构和工作原理构造出来的一个抽象和简化了的模型。简单点说,它是对一个生物神经元的建模。它实际上是两位科学家的名字的合称,1943年心理学家W.McCulloch和数学家W.Pitts合作提出了这个模型,所以取了他们两个人的名字(McCulloch-Pitts)。

入门: 神经网络(Neural Network)

入门: 神经网络(Neural Network)

  1. 每个神经元都是一个多输入单输出的信息处理单元;
  2. 神经元输入分兴奋性输入和抑制性输入两种类型;
  3. 神经元具有空间整合特性和阈值特性(兴奋和抑制,超过阈值为兴奋,低于是抑制);
  4. 神经元输入与输出间有固定的时滞,主要取决于突触延搁;

入门: 神经网络(Neural Network)

MLP:多层感知机(Multilayer Perceptron, 我们常说的神经网络 )

简单地将神经网络描述为将给定输入映射到所需输出的数学函数更容易理解一下。

神经网络包含下面几个组件:

  • 一个输入层(input layer): x
  • 一个任意数量的隐藏层(hidden layers)
  • 一个输出层(output layer): $ \hat{y} $
  • 每一个层之间有一个权重(weight)集和偏差(bias)集: W 和 b
  • 需要为每一个隐藏层选择一个激活函数(activation function), $\sigma$。这里,我们都是用 Sigmod 作为激活函数。

下面显示2层神经网络的架构(注意:当计算层数的时候,一般都会把输入层忽略掉)。

入门: 神经网络(Neural Network)

开始构建

使用 Python 创建一个神经网络的类:

class NeuralNetwork:
    def __init__(self, x, y):
        self.input      = x
        self.weights1   = np.random.rand(self.input.shape[1],4) 
        self.weights2   = np.random.rand(4,1)   
        self.y          = y
        self.output     = np.zeros(y.shape)

神经网络的训练

一个 2-layer 神经网络的输出 $hat{y}$ 是:

你可能注意到上一一个等式,权重 W 和偏差 b 是影响 $\hat{y}$。

很自然,右边值的权重和偏差决定预测的强弱。使用输入数据对权重和偏差的微调过程,就是我们所说的神经网络的训练。

训练过程的每一次迭代包含下面的步骤:

  • 计算预测输出 \(\hat{y}\) ,称之为前馈(feedforward)
  • 更新权重和偏差,称之为反向反馈(backpropagation)

下面的序列图说明了该过程:

入门: 神经网络(Neural Network)

前馈(feedforward)

正如我们所看到的,前馈就是简单的计算,现在看看代码时间

class NeuralNetwork:
    ...
    
    def feedforward(self):
        """前馈"""
        self.layer1 = sigmoid(np.dot(self.input, self.weights1))
        self.output = sigmoid(np.dot(self.layer1, self.weights2))

然而,我们还需要一种评估预测好坏的方式。损失函数(Loss Function)就是这个用途。

损失函数(Loss Function)

损失函数有很多种,选择应该由我们问题的性质决定。在这里,我们将 SSE(sum of sqares error,和方差)作为损失函数:

SSE 就是预测值和实际值的差异的和。差异是平方的,所以我们可以使用差的绝对值来衡量。

我们训练的目标实际找出最佳权重和偏差组合使得损失函数最小化。

反向反馈(Backpropagation)

现在,我们已经测出了预测的误差(损失),我们需要寻找一种方式将误差反馈回去,来更新我们的权重和偏差。

为了知道调整权重和偏差的适当数量,我们需要知道损失函数相对于权重和偏差的导数(derivative)。

回想一下微积分函数的导数就是函数的斜率。

入门: 神经网络(Neural Network)

如果我们有导数,我们就能通过加减它来更新权重和偏差。这就是所谓的梯度下降。

然而,我们不能直接计算损失函数的导数,因为损失函数不包含权重和偏差。因此,我们需要链规则(chain rule)来帮助我们计算它

对 W 进行求导:

计算损失函数对权重的导数的推导。为了简化,我们只展示了一层神经网络的导数。

Phew!虽然很丑,但是这就是我们需要的——损失函数对权重的导数,来帮助我们调整我们的权重。

现在,我们把反向反馈函数添加到代码中:

class NeuralNetwork:
    ...
    
    def backprop(self):
        """反向反馈"""
        # application of the chain rule to find derivative of the loss function with respect to weights2 and weights1
        d_weights2 = np.dot(self.layer1.T, (2*(self.y - self.output) * sigmoid_derivative(self.output)))
        d_weights1 = np.dot(self.input.T,  (np.dot(2*(self.y - self.output) * sigmoid_derivative(self.output), self.weights2.T) * sigmoid_derivative(self.layer1)))

        # update the weights with the derivative (slope) of the loss function
        self.weights1 += d_weights1
        self.weights2 += d_weights2

整合在一起

现在,我们有了完整的神经网络的代码实现。让我们来应用到例子中,看看效果

X1 X2 X3 y
0 0 1 0
0 1 1 1
1 0 1 1
1 1 1 0

我们的神经网络应该学习到立项的权重集来展示这个函数。请注意,仅仅通过检查来计算权重对我们来说并不是微不足道的。

让我们迭代 1500 次,看看会是什么结果。看看每一次迭代的损失,我们可以明显的看出损失单调递减到一个最小值。这与我们之前讨论过的梯度下降算法一致。

入门: 神经网络(Neural Network)

让我们看一下 1500 次迭代后神经网络最后的预测(输出):

预测 Y(实际)
0.023 0
0.979 1
0.975 1
0.025 0

我们做到了!我们前馈和反向反馈算法成功的训练了一个神经网络,他的预测收敛于真正的价值观。

注意到了预测值和实际值存在略微差别。这个是合理的,为了避免过拟合,让神经网络对未知数据有更好的泛化能力。

接下来呢?

后续,我们将会深入讲解激活函数,学习率等等,如果有时间的话^_^。

最后的思考

我是从0开始学习,甚至我还用不用的语言构造自己的神经网络,过程是很有趣的。

虽然像 TensorFlow 和 Keras 这样的深度学习库,让我们不需要对神经网络内部机制有足够的了解,也能构建深度网络,但是能够更深入的了解,对后续的研究更有益。


以上所述就是小编给大家介绍的《入门: 神经网络(Neural Network)》,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对 码农网 的支持!

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

引爆点

引爆点

【加】马尔科姆•格拉德威尔(Malcolm Gladwell) / 钱清、覃爱冬 / 中信出版社 / 2014-4 / 36.00元

《引爆点》是《纽约客》怪才格拉德威尔的一部才华横溢之作。他以社会上突如其来的流行潮为切入点,从全新角度探索了控制科学和营销模式。他认为,思想、行为、信息及产品常会像传染病暴发一样迅速传播。正如一个病人就能引起全城流感;几位涂鸦爱好者能在地铁掀起犯罪浪潮;一位满意而归的顾客还能让新开张的餐馆座无虚席;发起小规模流行的团队能引发大规模流行风暴。这些现象均属“社会流行潮”,它达到临界水平并爆发的那一刻,......一起来看看 《引爆点》 这本书的介绍吧!

Base64 编码/解码
Base64 编码/解码

Base64 编码/解码

SHA 加密
SHA 加密

SHA 加密工具

HSV CMYK 转换工具
HSV CMYK 转换工具

HSV CMYK互换工具