经典卷积神经网络算法(2):AlexNet

栏目: IT技术 · 发布时间: 4年前

上文中实现了LeNet-5卷积网络,不可否认这是一个十分经典的网络结构,但是迫于种种复杂的现实场景限制,只能在一些领域应用,所以在接下来的10年间,卷积网络的锋芒一度被SVN算法覆盖,直到2012年AlexNet的提出。2012年Imagenet图像识别大赛中,Alext提出的AlexNet网络模型一鸣惊人,引爆了神经网络的应用热潮,并且赢得了2012届图像识别大赛的冠军,这也使得卷积神经网络真正意义上成为图像处理上的核心算法。AlexNet网络相比于之前的卷积网络模型有以下几点创新:

(1)使用relu作为激活函数。在上世纪末,神经网络大多还是使用sigmod或tanh作为激活函数,使用relu作为激活函数是AlexNet网络开创的先河。

(2)使用GPU并行运算。AlexNet使用两张GPU同时训练模型,大大加快了模型训练的速度。

(3)最大池化。在AlexNet出现以前,大多使用平均池化。

(4)dropout操作。随机杀死部分神经元,防止过拟合。

(5)数据增强。从原始图片中随机截取固定大小的子图,构建更大规模数据集。


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

Programming Ruby

Programming Ruby

Dave Thomas、Chad Fowler、Andy Hunt / Pragmatic Bookshelf / 2004-10-8 / USD 44.95

Ruby is an increasingly popular, fully object-oriented dynamic programming language, hailed by many practitioners as the finest and most useful language available today. When Ruby first burst onto the......一起来看看 《Programming Ruby》 这本书的介绍吧!

XML、JSON 在线转换
XML、JSON 在线转换

在线XML、JSON转换工具

html转js在线工具
html转js在线工具

html转js在线工具

HSV CMYK 转换工具
HSV CMYK 转换工具

HSV CMYK互换工具