教程 | 图像分类: Caltech 256数据集

栏目: Python · 发布时间: 5年前

内容简介:Caltech 256数据集是加利福尼亚理工学院收集整理的数据集,该数据集选自Google Image数据集,并手工去除了不符合其类别的图片。在该数据集中,图片被分为256类,每个类别的图片超过80张。

Caltech 256是什么?

Caltech 256数据集是加利福尼亚理工学院收集整理的数据集,该数据集选自Google Image数据集,并手工去除了不符合其类别的图片。在该数据集中,图片被分为256类,每个类别的图片超过80张。

为什么要用Densenet121模型?

本项目使用在PyTorch框架下搭建的神经网络来完成图片分类的任务。由于网络输出的类别数量很大,简单的网络模型无法达到很好的分类效果,因此,本项目使用了预训练的Densenet121模型,并仅训练全连接层的参数。

项目流程:

1.数据处理

2.Densenet模型解读

3.加载预训练网络模型

4.训练神经网络

1、数据处理

首先从指定路径读取图像,将图像大小更改为224*224,并将图片范围从0-255改为0-1:

from PIL import Image
image= Image.open(path)
image=image.resize((224,224))
x_data= x_data.astype(numpy.float32)
x_data= numpy.multiply(x_data, 1.0/255.0)  
## scale to [0,1] from [0,255]

由于此数据集中有少量图片的色彩是单通道的,而神经网络的输入需要为三个通道,因此,将该通道的数据复制到三个通道上:

if len(x_data.shape)!=3:
temp=numpy.zeros
((x_data.shape[0],x_data.shape[1],3))
temp[:,:,0] = x_data
temp[:,:,1] = x_data
temp[:,:,2] = x_data
x_data= temp
x_data=numpy.transpose(x_data,(2,0,1)) 
## reshape

在上述步骤之后,对图片进行白化,即让像素点的平均值为0,方差为1。这样做是为了减小图片的范围,使得图片的特征更易于学习。白化的过程如下所示:

if x_train is not None:
  x_train[:,0,:,:] = (x_train[:,0,:,:]-0.485)/0.229
  x_train[:,1,:,:] = (x_train[:,1,:,:]-0.456)/0.224
  x_train[:,2,:,:] = (x_train[:,2,:,:]-0.406)/0.225

if x_test is not None:
 x_test[:,0,:,:] = (x_test[:,0,:,:] -0.485) /0.229
 x_test[:,1,:,:] = (x_test[:,1,:,:] -0.456) /0.224
 x_test[:,2,:,:] = (x_test[:,2,:,:] -0.406) /0.225

2、DenseNet模型解读

DenseNet的网络结构如下图所示。在传统的CNN中,每个卷积层只与其相邻的卷积层相连接,这就造成了位于网络浅层的参数在反向传播中获取的梯度非常小,也就是梯度消失问题。

教程 | 图像分类: Caltech 256数据集

DenseNet设计了名为Dense Block的特殊的网络结构,在一个Dense Block中,每个层的输入为前面所有层的输出,这也正是Dense的含义。通过这种方法,在反向传播中,网络浅层的参数可以从后面所有层中获得梯度,在很大程度上减弱了梯度消失的问题。值得注意的是,每个层只与同位于一个Dense Block中的多个层有连接,而与Dense Block外的层是没有连接的。

3、加载预训练网络模型

torchvision是服务于PyTorch框架的,用于进行图片处理和生成一些主流模型的库。使用该库可以方便的加载PyTorch的预训练模型。首先使用pip安装torchvision库:

pip install torchvision

创建densenet121模型实例,并加载预训练参数:

cnn = torchvision.models.densenet121
(pretrained = True) 
#pretrained =True即为加载预训练参数,默认不加载。

冻结所有模型参数,使其值在反向传播中不改变:

for param in cnn.parameters():
    param.requires_grad= False

改变模型全连接层输出的个数为256:

num_features= cnn.classifier.in_features
cnn.classifier= nn.Linear(num_features, 256)

此处不需要担心新建的全连接层参数会被冻结,因为新建的层参数是默认获取梯度的。

4、训练神经网络

损失函数选择CrossEntropy,优化器选择Adam:

optimizer= Adam(cnn.parameters(), lr=0.001, betas=(0.9, 0.999))  # 选用AdamOptimizer
loss_fn= nn.CrossEntropyLoss()  # 定义损失函数

下面是完整的训练过程:

# 训练并评估模型
data= Dataset()
model= Model(data)

best_accuracy= 0
foriinrange(args.EPOCHS):
   cnn.train()
   x_train, y_train, x_test, y_test= data.next_batch(args.BATCH)  # 读取数据

   x_train= torch.from_numpy(x_train)
   y_train= torch.from_numpy(y_train)
   x_train= x_train.float()

   x_test= torch.from_numpy(x_test)
   y_test= torch.from_numpy(y_test)
   x_test= x_test.float()
   
   ifcuda_avail:
       x_train= Variable(x_train.cuda())
       y_train= Variable(y_train.cuda())
       x_test= Variable(x_test.cuda())
       y_test= Variable(y_test.cuda())
       
   outputs= cnn(x_train)
   _, prediction= torch.max(outputs.data, 1)
   
   optimizer.zero_grad()

   # calculate the loss according to labels
   loss= loss_fn(outputs, y_train)
   # backward transmit loss
   loss.backward()

   # adjust parameters using Adam
   optimizer.step()

   # 若测试准确率高于当前最高准确率,则保存模型
   train_accuracy= eval(model, x_test, y_test)
   iftrain_accuracy>best_accuracy:
       best_accuracy= train_accuracy
       model.save_model(cnn, MODEL_PATH, overwrite=True)
       print("step %d, best accuracy %g"%(i, best_accuracy))

   print(str(i) +"/"+str(args.EPOCHS))

总结:

本文主要讲解了DenseNet的网络结构,以及在PyTorch框架下如何加载预训练模型并进行fine-tuning。为了在数据集上获得更高的准确率,读者可尝试取消冻结参数的设置,使得卷积层也参与训练。

获取相关项目代码 请访问: https://www.flyai.com/d/Calte...

— END —


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

Python编程

Python编程

[美]埃里克·马瑟斯 / 袁国忠 / 人民邮电出版社 / 2016-7-1 / CNY 89.00

本书是一本针对所有层次的Python 读者而作的Python 入门书。全书分两部分:第一部分介绍用Python 编程所必须了解的基本概念,包括matplotlib、NumPy 和Pygal 等强大的Python 库和工具介绍,以及列表、字典、if 语句、类、文件与异常、代码测试等内容;第二部分将理论付诸实践,讲解如何开发三个项目,包括简单的Python 2D 游戏开发如何利用数据生成交互式的信息图......一起来看看 《Python编程》 这本书的介绍吧!

RGB转16进制工具
RGB转16进制工具

RGB HEX 互转工具

在线进制转换器
在线进制转换器

各进制数互转换器

HTML 编码/解码
HTML 编码/解码

HTML 编码/解码