第五周学习：ShuffleNet & EfficientNet & 迁移学习

Part 1 视频学习

1、ShuffleNet V1

ShuffleNet和MobileNet一样想，应用于移动端，其主要有两个亮点，一个是提出了Channel Shuffle的思想，另一个是使用的全是GConv（分组卷积）和DWConv。

（1）Channel Shuffle

如上图所示（a），对普通的GConv，其虽然能减少参数参与计算量，但GConv不同组之间信息没有交流。ShuffleNet的核心设计理念是对不同的channels进行shuffle来解决GConv带来的弊端。

在我们进行一次组卷积之前，我们先对每一个组内的特征图进行划分，划分数等于分组数，然后再以此重新组合，即完成了以此Channel Shuffle。

FLOPS：全大写，是floating point operations per second的缩写，指每秒浮点运算次数，可以理解为计算的速度。是衡量硬件性能的一个指标。（硬件）FLOPs：s小写，是floating point operations的缩写（s表复数），指浮点运算数，理解为计算量。可以用来衡量算法/模型的复杂度。（模型）在论文中常用GFLOPs（1 GFLOPs=10^9 FLOPs)

2、ShuffleNet V2

在ShuffleNet V2中作者提出计算复杂度不能只看FLOPs，并提出了4条设计高效网络准则，基于准则，又提出了新的block设计。

FLOPs并不是衡量运算量的直接指标，速度才是直接指标，除了FLOPs之外还有诸如MAC（memory access cost）、degree of parallelism等因素会影响速度。

接下来作者提出了四条关于如何设计一个高效的网络的建议：

①当卷积层的输入特征矩阵与输出特征矩阵相等时MAC最小（保持FLOPs不变时）

采用均值不等式能得到式子 $MAC\geq 2\sqrt {hwB}+\frac{B}{hw}\\$ 以及 $B = hwc_1c_2$

证明如下：

作者的实验对比如下：

②当GConv的groups增大时（保持FLOPs不变时），MAC也会增大

$MAC = hw(c_1 + c_2) + \frac{c_1c_2}{g} = hwc_1+\frac{Bg}{c_1}+\frac{B}{hw}$

其中 $B=hwc_1c_2/g$

实验对比：

③网络设计的碎片化程度越高，速度越慢。

这里的碎片化可以理解成分支，可以是并联也可以是串联，如下所示

实验对比如下：

前三行对应的是上图中(a)、(b)、(c)三个串联结构，最后两行对应的是(d)、(e)这种并行情况。

④Element-wise操作带来的影响是不可忽略的。（包括激活ReLu和相加的操作）

Element-wise操作包括ReLU，AddTensor，AddBias等，他们FLOPs很小，但是MAC大

总结：①使用使用比较平衡的卷积（输入和输出的比值尽量接近1）

②注意分组卷积的运算成本

③降低网络的碎片化程度

④减少element-wise操作的使用

下图是ShuffleNet V1&V2的步长分别为1和2时的block

3、EfficientNet

Part 2 代码练习

1、使用VGG进行猫狗大战

（1）调用库

import numpy as np
import matplotlib.pyplot as plt
import os
import torch
import torch.nn as nn
import torchvision
from torchvision import models,transforms,datasets
import time
import json# 判断是否存在GPU设备
device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")
print('Using gpu: %s ' % torch.cuda.is_available())

（2）加载数据并处理

! wget http://fenggao-image.stor.sinaapp.com/dogscats.zip
! unzip dogscats.zipnormalize = transforms.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225])vgg_format = transforms.Compose([transforms.CenterCrop(224),transforms.ToTensor(),normalize,])data_dir = './dogscats'dsets = {x: datasets.ImageFolder(os.path.join(data_dir, x), vgg_format)for x in ['train', 'valid']}dset_sizes = {x: len(dsets[x]) for x in ['train', 'valid']}
dset_classes = dsets['train'].classes

# 通过下面代码可以查看 dsets 的一些属性print(dsets['train'].classes)
print(dsets['train'].class_to_idx)
print(dsets['train'].imgs[:5])
print('dset_sizes: ', dset_sizes)

loader_train = torch.utils.data.DataLoader(dsets['train'], batch_size=64, shuffle=True, num_workers=6)
loader_valid = torch.utils.data.DataLoader(dsets['valid'], batch_size=5, shuffle=False, num_workers=6)'''
valid 数据一共有2000张图，每个batch是5张，因此，下面进行遍历一共会输出到 400
同时，把第一个 batch 保存到 inputs_try, labels_try，分别查看
'''
count = 1
for data in loader_valid:print(count, end='\n')if count == 1:inputs_try,labels_try = datacount +=1print(labels_try)
print(inputs_try.shape)# 显示图片的小程序def imshow(inp, title=None):
#   Imshow for Tensor.inp = inp.numpy().transpose((1, 2, 0))mean = np.array([0.485, 0.456, 0.406])std = np.array([0.229, 0.224, 0.225])inp = np.clip(std * inp + mean, 0,1)plt.imshow(inp)if title is not None:plt.title(title)plt.pause(0.001)  # pause a bit so that plots are updated# 显示 labels_try 的5张图片，即valid里第一个batch的5张图片
out = torchvision.utils.make_grid(inputs_try)
imshow(out, title=[dset_classes[x] for x in labels_try])

（3）创建VGG网络

torchvision中集成了很多在 ImageNet （120万张训练数据）上预训练好的通用的CNN模型，可以直接下载使用。

在此，我们直接使用预训练好的 VGG 模型。同时，为了展示 VGG 模型对本数据的预测结果，还下载了 ImageNet 1000 个类的 JSON 文件。

在这部分代码中，对输入的5个图片利用VGG模型进行预测，同时，使用softmax对结果进行处理，随后展示了识别结果。可以看到，识别结果是比较非常准确的。


!wget https://s3.amazonaws.com/deep-learning-models/image-models/imagenet_class_index.jsonmodel_vgg = models.vgg16(pretrained=True)with open('./imagenet_class_index.json') as f:class_dict = json.load(f)
dic_imagenet = [class_dict[str(i)][1] for i in range(len(class_dict))]inputs_try , labels_try = inputs_try.to(device), labels_try.to(device)
model_vgg = model_vgg.to(device)outputs_try = model_vgg(inputs_try)print(outputs_try)
print(outputs_try.shape)'''
可以看到结果为5行，1000列的数据，每一列代表对每一种目标识别的结果。
但是我也可以观察到，结果非常奇葩，有负数，有正数，
为了将VGG网络输出的结果转化为对每一类的预测概率，我们把结果输入到 Softmax 函数
'''
m_softm = nn.Softmax(dim=1)
probs = m_softm(outputs_try)
vals_try,pred_try = torch.max(probs,dim=1)print( 'prob sum: ', torch.sum(probs,1))
print( 'vals_try: ', vals_try)
print( 'pred_try: ', pred_try)print([dic_imagenet[i] for i in pred_try.data])
imshow(torchvision.utils.make_grid(inputs_try.data.cpu()), title=[dset_classes[x] for x in labels_try.data.cpu()])

（4）修改最后一层，冻结前面层的参数

print(model_vgg)model_vgg_new = model_vgg;for param in model_vgg_new.parameters():param.requires_grad = False
model_vgg_new.classifier._modules['6'] = nn.Linear(4096, 2)
model_vgg_new.classifier._modules['7'] = torch.nn.LogSoftmax(dim = 1)model_vgg_new = model_vgg_new.to(device)print(model_vgg_new.classifier)

（5）对模型进行训练并测试连接层

'''
第一步：创建损失函数和优化器损失函数 NLLLoss() 的 输入 是一个对数概率向量和一个目标标签.
它不会为我们计算对数概率，适合最后一层是log_softmax()的网络.
'''
criterion = nn.NLLLoss()# 学习率
lr = 0.001# 随机梯度下降
optimizer_vgg = torch.optim.SGD(model_vgg_new.classifier[6].parameters(),lr = lr)'''
第二步：训练模型
'''def train_model(model,dataloader,size,epochs=1,optimizer=None):model.train()for epoch in range(epochs):running_loss = 0.0running_corrects = 0count = 0for inputs,classes in dataloader:inputs = inputs.to(device)classes = classes.to(device)outputs = model(inputs)loss = criterion(outputs,classes)           optimizer = optimizeroptimizer.zero_grad()loss.backward()optimizer.step()_,preds = torch.max(outputs.data,1)# statisticsrunning_loss += loss.data.item()running_corrects += torch.sum(preds == classes.data)count += len(inputs)print('Training: No. ', count, ' process ... total: ', size)epoch_loss = running_loss / sizeepoch_acc = running_corrects.data.item() / sizeprint('Loss: {:.4f} Acc: {:.4f}'.format(epoch_loss, epoch_acc))# 模型训练
train_model(model_vgg_new,loader_train,size=dset_sizes['train'], epochs=1, optimizer=optimizer_vgg)

训练结果：

def test_model(model,dataloader,size):model.eval()predictions = np.zeros(size)all_classes = np.zeros(size)all_proba = np.zeros((size,2))i = 0running_loss = 0.0running_corrects = 0for inputs,classes in dataloader:inputs = inputs.to(device)classes = classes.to(device)outputs = model(inputs)loss = criterion(outputs,classes)           _,preds = torch.max(outputs.data,1)# statisticsrunning_loss += loss.data.item()running_corrects += torch.sum(preds == classes.data)predictions[i:i+len(classes)] = preds.to('cpu').numpy()all_classes[i:i+len(classes)] = classes.to('cpu').numpy()all_proba[i:i+len(classes),:] = outputs.data.to('cpu').numpy()i += len(classes)print('Testing: No. ', i, ' process ... total: ', size)        epoch_loss = running_loss / sizeepoch_acc = running_corrects.data.item() / sizeprint('Loss: {:.4f} Acc: {:.4f}'.format(epoch_loss, epoch_acc))return predictions, all_proba, all_classespredictions, all_proba, all_classes = test_model(model_vgg_new,loader_valid,size=dset_sizes['valid'])

测试结果：

（6）可视化模型预测结果：

# 单次可视化显示的图片个数
n_view = 8
correct = np.where(predictions==all_classes)[0]
from numpy.random import random, permutation
idx = permutation(correct)[:n_view]
print('random correct idx: ', idx)
loader_correct = torch.utils.data.DataLoader([dsets['valid'][x] for x in idx],batch_size = n_view,shuffle=True)
for data in loader_correct:inputs_cor,labels_cor = data
# Make a grid from batch
out = torchvision.utils.make_grid(inputs_cor)
imshow(out, title=[l.item() for l in labels_cor])

OUC暑期培训（深度学习）——第五周学习记录：ShuffleNet EfficientNet 迁移学习相关推荐

Web前端学习第五周
Web前端学习第五周 strong和b.em和i strong 和 em 都是表示强调的标签,表现形态为文本加粗和斜体. b 和 i 标签同样也表示文本加粗和斜体. 区别在于,strong和em 是具 ...
【深度学习】一文看懂 (Transfer Learning)迁移学习（pytorch实现）
前言你会发现聪明人都喜欢"偷懒", 因为这样的偷懒能帮我们节省大量的时间, 提高效率. 还有一种偷懒是 "站在巨人的肩膀上". 不仅能看得更远, 还能看到更多 ...
weka分类器怎么设置类别_AI 迁移学习怎么玩？手把手教你实战迁移学习
本文将说明如何使用迁移学习来解决图像分类问题,相关代码示例将使用 Python + Keras 进行实现. 深度学习在最近几年发展迅速,并且已经在人工只能领域占据了极其重要的一席之地(LeCun,20 ...
EfficientNet迁移学习（四） —— 损失函数解析
损失函数的解析请参考我之前写的博客: YOLO-V3代码解析系列(五) -- 损失函数(yolov3.py) ResNet迁移学习(四)-- 损失函数
tensorflow 迁移学习_基于 TensorFlow.js 1.5 的迁移学习图像分类器
在黑胡桃社区的体验案例中,有一个"人工智能教练",它其实是一个自定义的图像分类器.使用 TensorFlow.js 这个强大而灵活的 Javascript 机器学习库可以很轻松地构 ...
【迁移学习(Transfer L)全面指南】2021年迁移学习发展现状及案例探究
文章目录 1 迁移学习简介 2 样本权重迁移法 3 特征变换迁移法 4 迁移学习最新进展 5 迁移学习在图像处理领域的应用 1 迁移学习简介迁移学习(Transfer Learning)是机器学习中 ...
OUC暑期培训（深度学习）——第六周学习记录：Vision Transformer amp； Swin Transformer
第六周学习:Vision Transformer & Swin Transformer Part 1 视频学习及论文阅读 1.Vision Transformer 原文链接:https://a ...
OUC暑期培训（深度学习）——第一周学习记录：深度学习和pytorch基础
第一周学习:深度学习和pytorch基础目录第一周学习:深度学习和pytorch基础 Part 1:视频学习: 1. 绪论: 2. 深度学习概述: Part 2:代码练习: 1. pytorch基 ...
OUC暑期培训（深度学习）——第四周学习记录：MobileNetV1，V2，V3
第四周学习:MobileNetV1,V2,V3 Part 1 视频学习及论文阅读 1.MobileNetV1 MobileNetV1论文网址:[1704.04861] MobileNets: Effi ...

OUC暑期培训（深度学习）——第五周学习记录：ShuffleNet EfficientNet 迁移学习