Matlab编程之——卷积神经网络CNN代码解析

栏目: 编程工具 · 发布时间: 6年前

内容简介:今天给介绍deepLearnToolbox-master中的CNN部分。该模型使用了mnist的数字mnist_uint8.mat作为训练样本,作为cnn的一个使用样例,每个样本特征为一个28*28=的向量。-让我们来分析各个函数: 一、Test_example_CNN
deepLearnToolbox-master是一个深度学习matlab包,里面含有很多机器学习算法,如卷积神经网络CNN,深度信念网络DBN,自动编码AutoE
ncoder(堆栈SAE,卷积CAE)的作者是 RasmusBerg Palm

今天给介绍deepLearnToolbox-master中的CNN部分。

  • DeepLearnToolbox-master中CNN内的函数:
Matlab编程之——卷积神经网络CNN代码解析

该模型使用了mnist的数字mnist_uint8.mat作为训练样本,作为cnn的一个使用样例,每个样本特征为一个28*28=的向量。

  • 网络结构为:
Matlab编程之——卷积神经网络CNN代码解析

-让我们来分析各个函数: 一、Test_example_CNN

三、cnntrain.m.

四、cnnff.m.

五、cnnbp.m.

五、cnnapplygrads.m.

六、cnntest.m.

一、Test_example_CNN:

1设置CNN的基本参数规格,如卷积、降采样层的数量,卷积核的大小、降采样的降幅

2 cnnsetup函数 初始化卷积核、偏置等

3 cnntrain函数 训练cnn,把训练数据分成batch,然后调用

3.1 cnnff 完成训练的前向过程,

3.2 cnnbp计算并传递神经网络的error,并计算梯度(权重的修改量)

3.3 cnnapplygrads 把计算出来的梯度加到原始模型上去

4 cnntest函数,测试当前模型的准确率

该模型采用的数据为mnist_uint8.mat,

含有70000个手写数字样本其中60000作为训练样本,10000作为测试样本。

把数据转成相应的格式,并归一化。

Matlab编程之——卷积神经网络CNN代码解析
  • 设置网络结构及训练参数
Matlab编程之——卷积神经网络CNN代码解析
Matlab编程之——卷积神经网络CNN代码解析
  • 初始化网络,对数据进行批训练,验证模型准确率
Matlab编程之——卷积神经网络CNN代码解析
  • 绘制均方误差曲线
Matlab编程之——卷积神经网络CNN代码解析

二、Cnnsetup.m

该函数你用于初始化CNN的参数。

设置各层的mapsize大小,

初始化卷积层的卷积核、bias

尾部单层感知机的参数设置

bias统一设置为0

权重设置为:-1~1之间的随机数/sqrt(6/(输入神经元数量+输出神经元数量))

对于卷积核权重,输入输出为fan_in, fan_out

fan_out= net.layers{l}.outputmaps * net.layers{l}.kernelsize ^ 2;

%卷积核初始化,1层卷积为1 6个卷积核,2层卷积一共6 12=72个卷积核。对于每个卷积输出featuremap,

%fan_in= 表示该层的一个输出map,所对应的所有卷积核,包含的神经元的总数。1 25,6 25

fan_in =numInputmaps * net.layers{l}.kernelsize ^ 2;

fin=1 25 or 6 25

fout=1 6 25 or 6 12 25

net.layers{l}.k{i}{j} =(rand(net.layers{l}.kernelsize) - 0.5) * 2 * sqrt(6 / (fan_in + fan_out));

1、卷积降采样的参数初始化

Matlab编程之——卷积神经网络CNN代码解析
Matlab编程之——卷积神经网络CNN代码解析

2、尾部单层感知机的参数(权重和偏量)设置:

Matlab编程之——卷积神经网络CNN代码解析

三、cnntrain.m

该函数用于训练CNN。

生成随机序列,每次选取一个batch(50)个样本进行训练。

批训练:计算50个随机样本的梯度,求和之后一次性更新到模型权重中。

在批训练过程中调用:

Cnnff.m 完成前向过程

Cnnbp.m 完成误差传导和梯度计算过程

Cnnapplygrads.m把计算出来的梯度加到原始模型上去

Matlab编程之——卷积神经网络CNN代码解析
Matlab编程之——卷积神经网络CNN代码解析

四、cnnff.m

1、取得CNN的输入

Matlab编程之——卷积神经网络CNN代码解析

2、两次卷积核降采样层处理

Matlab编程之——卷积神经网络CNN代码解析

3、尾部单层感知机的数据处理,需要把subFeatureMap2连接成为一个(4*4) 12=192的向量,但是由于采用了50样本批训练的方法,subFeatureMap2被拼合成为一个192 50的特征向量fv;

Fv作为单层感知机的输入,全连接的方式得到输出层

Matlab编程之——卷积神经网络CNN代码解析

五、cnnbp.m

该函数实现2部分功能,计算并传递误差,计算梯度

1、计算误差和LossFunction

Matlab编程之——卷积神经网络CNN代码解析

2、计算尾部单层感知机的误差

Matlab编程之——卷积神经网络CNN代码解析

3、把单层感知机的输入层featureVector的误差矩阵,恢复为subFeatureMap2的4*4二维矩阵形式

Matlab编程之——卷积神经网络CNN代码解析

插播一张图片:

Matlab编程之——卷积神经网络CNN代码解析

4、误差在特征提取网络【卷积降采样层】的传播

如果本层是卷积层,它的误差是从后一层(降采样层)传过来,误差传播实际上是用降采样的反向过程,也就是降采样层的误差复制为2*2=4份。卷积层的输入是经过sigmoid处理的,所以,从降采样层扩充来的误差要经过sigmoid求导处理。

如果本层是降采样层,他的误差是从后一层(卷积层)传过来,误差传播实际是用卷积的反向过程,也就是卷积层的误差,反卷积(卷积核转180度)卷积层的误差,原理参看插图。

Matlab编程之——卷积神经网络CNN代码解析

5、计算特征抽取层和尾部单层感知机的梯度

Matlab编程之——卷积神经网络CNN代码解析

以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

软件随想录

软件随想录

Joel Spolsky / 阮一峰 / 人民邮电出版社 / 2009 / 49.00元

《软件随想录:程序员部落酋长Joel谈软件》是一部关于软件技术、人才、创业和企业管理的随想文集,作者以诙谐幽默的笔触将自己在软件行业的亲身感悟娓娓道来,观点新颖独特,内容简洁实用。全书分为 36讲,每一讲都是一个独立的专题。 《软件随想录:程序员部落酋长Joel谈软件》从不同侧面满足了软件开发人员、设计人员、管理人员及从事软件相关工作的人员的学习与工作需要。一起来看看 《软件随想录》 这本书的介绍吧!

JS 压缩/解压工具
JS 压缩/解压工具

在线压缩/解压 JS 代码

XML、JSON 在线转换
XML、JSON 在线转换

在线XML、JSON转换工具

html转js在线工具
html转js在线工具

html转js在线工具