内容简介：反向传播（英语：Backpropagation，缩写为BP）是“误差反向传播”的简称，是一种与最优化方法（如梯度下降法）结合使用的，用来训练人工神经网络的常见方法。该方法对网络中所有权重计算损失函数的梯度。这个梯度会反馈给最优化方法，用来更新权值以最小化损失函数。很多同学在学习深度神经网络的时候，对反向传播的相关细节表示难以理解，国外有一篇技术博客，用例子进行了非常清晰的推导。我们对此进行了汉化，并提供了相关的代码。有兴趣的同学快来看看吧。
反向传播（英语：Backpropagation，缩写为BP）是“误差反向传播”的简称，是一种与最优化方法（如梯度下降法）结合使用的，用来训练人工神经网络的常见方法。该方法对网络中所有权重计算损失函数的梯度。这个梯度会反馈给最优化方法，用来更新权值以最小化损失函数。
很多同学在学习深度神经网络的时候，对反向传播的相关细节表示难以理解，国外有一篇技术博客，用例子进行了非常清晰的推导。我们对此进行了汉化，并提供了相关的代码。有兴趣的同学快来看看吧。
假设，你有这样一个网络层。
现在对他们赋上初值，如下图：
前向传播过程
1. 输入层---->隐含层：
2. 隐藏层---->输出层:
反向传播过程
接下来,就可以进行反向传播的计算了
1. 计算总误差
2. 隐含层---->输出层的权值更新：
下面的图可以更直观的看清楚误差是怎样反向传播的
我们分别计算每个式子的值：
最后三者相乘
看看上面的公式,我们发现：
3.隐含层---->隐含层的权值更新：
同理,计算出
两者相加,得到总值
最后,三者相乘
这样误差反向传播法就完成了，最后我们再把更新的权值重新计算，不停地迭代。
———————————————————————————————————————————Mo （网址： http://momodel.cn ）是一个支持 Python 的人工智能建模平台，能帮助你快速开发训练并部署 AI 应用。
以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持 码农网
猜你喜欢:
- EM算法和GMM算法的相关推导及原理
- 神经网络和BP算法推导
- 逻辑回归的算法推导及案例对接
- 数学推导+纯Python实现机器学习算法：逻辑回归
- 机器学习笔记（十）：这样推导 SMO 算法才易理解
- 机器学习笔记(十)——这样推导SMO算法才易理解
本站部分资源来源于网络，本站转载出于传递更多信息之目的，版权归原作者或者来源机构所有，如转载稿涉及版权问题，请联系我们。
Web容量规划的艺术
阿尔斯帕瓦 / 叶飞、罗江华 / 机械工业出版社 / 2010-1 / 29.00元
《Web容量规划的艺术》由John Allspaw(F订ickr的工程运营经理)撰写，结合了他个人在F1ickr成长过程中的许多经历和很多其他产业中同行的洞察力。在衡量增长、预测趋势、成本效益等方面，他们的经验都会给你一些可靠并有效的指导。 网站的成功是以使用和增长来衡量的，而且网站类公司的成败(生死)是依赖于他们是否有能力来衡量决定他们的基础结构，从而适应不断增长的需求。作者通过自身实践给......一起来看看 《Web容量规划的艺术》 这本书的介绍吧!
图片转BASE64编码
在线图片转Base64编码工具
MD5 加密
MD5 加密工具