pytorch搭建分类网络并进行训练和测试

  • 前言
  • 1. 准备数据
    • 1.1 准备自己的数据
    • 1.2 自己下载Cifar10数据集
    • 1.3 使用torchvision下载CIFAR10
  • 2 数据加载
    • 2.1 从图片数据到pytorch的Dataset对象
      • 2.1.1 数据预处理
      • 2.1.2 用torchvision提供的函数
      • 2.1.3 自己写方法实现
    • 2.2 从pytorch的Dataset对象到pytorch的数据迭代器
  • 3 搭建网络
    • 3.1 搭建网络
    • 3.2 网络初始化
      • 3.2.1 默认初始化
      • 3.2.2 自定义初始化
      • 3.2.3 Finetune初始化
  • 4 训练模型
    • 4.1 损失函数
    • 4.2 学习率的调整
    • 4.3 优化器
    • 4.4 保存模型
    • 4.5 训练过程中的可视化
  • 5 测试
  • 6 预测(应用推理)

前言

本篇主要是讲整个的流程,如果想了解本篇涉及所函数详细的用法可自行查阅.
另外这只是学习笔记和一些心得体会, 里面会有不对之处,请告诉我吧

代码下载地址:https://github.com/hanlinshi/pytorch-for-classfication
图像分类六个步骤:

  1. 准备数据;
  2. 加载数据;
  3. 定义网络结构;
  4. 训练模型;
  5. 测试模型;
  6. 图像预测(模型应用);

第一步骤和第二步骤流程图:

#mermaid-svg-LxpOJutGN8XNU4Oz .label{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);fill:#333;color:#333}#mermaid-svg-LxpOJutGN8XNU4Oz .label text{fill:#333}#mermaid-svg-LxpOJutGN8XNU4Oz .node rect,#mermaid-svg-LxpOJutGN8XNU4Oz .node circle,#mermaid-svg-LxpOJutGN8XNU4Oz .node ellipse,#mermaid-svg-LxpOJutGN8XNU4Oz .node polygon,#mermaid-svg-LxpOJutGN8XNU4Oz .node path{fill:#ECECFF;stroke:#9370db;stroke-width:1px}#mermaid-svg-LxpOJutGN8XNU4Oz .node .label{text-align:center;fill:#333}#mermaid-svg-LxpOJutGN8XNU4Oz .node.clickable{cursor:pointer}#mermaid-svg-LxpOJutGN8XNU4Oz .arrowheadPath{fill:#333}#mermaid-svg-LxpOJutGN8XNU4Oz .edgePath .path{stroke:#333;stroke-width:1.5px}#mermaid-svg-LxpOJutGN8XNU4Oz .flowchart-link{stroke:#333;fill:none}#mermaid-svg-LxpOJutGN8XNU4Oz .edgeLabel{background-color:#e8e8e8;text-align:center}#mermaid-svg-LxpOJutGN8XNU4Oz .edgeLabel rect{opacity:0.9}#mermaid-svg-LxpOJutGN8XNU4Oz .edgeLabel span{color:#333}#mermaid-svg-LxpOJutGN8XNU4Oz .cluster rect{fill:#ffffde;stroke:#aa3;stroke-width:1px}#mermaid-svg-LxpOJutGN8XNU4Oz .cluster text{fill:#333}#mermaid-svg-LxpOJutGN8XNU4Oz div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);font-size:12px;background:#ffffde;border:1px solid #aa3;border-radius:2px;pointer-events:none;z-index:100}#mermaid-svg-LxpOJutGN8XNU4Oz .actor{stroke:#ccf;fill:#ECECFF}#mermaid-svg-LxpOJutGN8XNU4Oz text.actor>tspan{fill:#000;stroke:none}#mermaid-svg-LxpOJutGN8XNU4Oz .actor-line{stroke:grey}#mermaid-svg-LxpOJutGN8XNU4Oz .messageLine0{stroke-width:1.5;stroke-dasharray:none;stroke:#333}#mermaid-svg-LxpOJutGN8XNU4Oz .messageLine1{stroke-width:1.5;stroke-dasharray:2, 2;stroke:#333}#mermaid-svg-LxpOJutGN8XNU4Oz #arrowhead path{fill:#333;stroke:#333}#mermaid-svg-LxpOJutGN8XNU4Oz .sequenceNumber{fill:#fff}#mermaid-svg-LxpOJutGN8XNU4Oz #sequencenumber{fill:#333}#mermaid-svg-LxpOJutGN8XNU4Oz #crosshead path{fill:#333;stroke:#333}#mermaid-svg-LxpOJutGN8XNU4Oz .messageText{fill:#333;stroke:#333}#mermaid-svg-LxpOJutGN8XNU4Oz .labelBox{stroke:#ccf;fill:#ECECFF}#mermaid-svg-LxpOJutGN8XNU4Oz .labelText,#mermaid-svg-LxpOJutGN8XNU4Oz .labelText>tspan{fill:#000;stroke:none}#mermaid-svg-LxpOJutGN8XNU4Oz .loopText,#mermaid-svg-LxpOJutGN8XNU4Oz .loopText>tspan{fill:#000;stroke:none}#mermaid-svg-LxpOJutGN8XNU4Oz .loopLine{stroke-width:2px;stroke-dasharray:2, 2;stroke:#ccf;fill:#ccf}#mermaid-svg-LxpOJutGN8XNU4Oz .note{stroke:#aa3;fill:#fff5ad}#mermaid-svg-LxpOJutGN8XNU4Oz .noteText,#mermaid-svg-LxpOJutGN8XNU4Oz .noteText>tspan{fill:#000;stroke:none}#mermaid-svg-LxpOJutGN8XNU4Oz .activation0{fill:#f4f4f4;stroke:#666}#mermaid-svg-LxpOJutGN8XNU4Oz .activation1{fill:#f4f4f4;stroke:#666}#mermaid-svg-LxpOJutGN8XNU4Oz .activation2{fill:#f4f4f4;stroke:#666}#mermaid-svg-LxpOJutGN8XNU4Oz .mermaid-main-font{font-family:"trebuchet ms", verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-LxpOJutGN8XNU4Oz .section{stroke:none;opacity:0.2}#mermaid-svg-LxpOJutGN8XNU4Oz .section0{fill:rgba(102,102,255,0.49)}#mermaid-svg-LxpOJutGN8XNU4Oz .section2{fill:#fff400}#mermaid-svg-LxpOJutGN8XNU4Oz .section1,#mermaid-svg-LxpOJutGN8XNU4Oz .section3{fill:#fff;opacity:0.2}#mermaid-svg-LxpOJutGN8XNU4Oz .sectionTitle0{fill:#333}#mermaid-svg-LxpOJutGN8XNU4Oz .sectionTitle1{fill:#333}#mermaid-svg-LxpOJutGN8XNU4Oz .sectionTitle2{fill:#333}#mermaid-svg-LxpOJutGN8XNU4Oz .sectionTitle3{fill:#333}#mermaid-svg-LxpOJutGN8XNU4Oz .sectionTitle{text-anchor:start;font-size:11px;text-height:14px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-LxpOJutGN8XNU4Oz .grid .tick{stroke:#d3d3d3;opacity:0.8;shape-rendering:crispEdges}#mermaid-svg-LxpOJutGN8XNU4Oz .grid .tick text{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-LxpOJutGN8XNU4Oz .grid path{stroke-width:0}#mermaid-svg-LxpOJutGN8XNU4Oz .today{fill:none;stroke:red;stroke-width:2px}#mermaid-svg-LxpOJutGN8XNU4Oz .task{stroke-width:2}#mermaid-svg-LxpOJutGN8XNU4Oz .taskText{text-anchor:middle;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-LxpOJutGN8XNU4Oz .taskText:not([font-size]){font-size:11px}#mermaid-svg-LxpOJutGN8XNU4Oz .taskTextOutsideRight{fill:#000;text-anchor:start;font-size:11px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-LxpOJutGN8XNU4Oz .taskTextOutsideLeft{fill:#000;text-anchor:end;font-size:11px}#mermaid-svg-LxpOJutGN8XNU4Oz .task.clickable{cursor:pointer}#mermaid-svg-LxpOJutGN8XNU4Oz .taskText.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-LxpOJutGN8XNU4Oz .taskTextOutsideLeft.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-LxpOJutGN8XNU4Oz .taskTextOutsideRight.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-LxpOJutGN8XNU4Oz .taskText0,#mermaid-svg-LxpOJutGN8XNU4Oz .taskText1,#mermaid-svg-LxpOJutGN8XNU4Oz .taskText2,#mermaid-svg-LxpOJutGN8XNU4Oz .taskText3{fill:#fff}#mermaid-svg-LxpOJutGN8XNU4Oz .task0,#mermaid-svg-LxpOJutGN8XNU4Oz .task1,#mermaid-svg-LxpOJutGN8XNU4Oz .task2,#mermaid-svg-LxpOJutGN8XNU4Oz .task3{fill:#8a90dd;stroke:#534fbc}#mermaid-svg-LxpOJutGN8XNU4Oz .taskTextOutside0,#mermaid-svg-LxpOJutGN8XNU4Oz .taskTextOutside2{fill:#000}#mermaid-svg-LxpOJutGN8XNU4Oz .taskTextOutside1,#mermaid-svg-LxpOJutGN8XNU4Oz .taskTextOutside3{fill:#000}#mermaid-svg-LxpOJutGN8XNU4Oz .active0,#mermaid-svg-LxpOJutGN8XNU4Oz .active1,#mermaid-svg-LxpOJutGN8XNU4Oz .active2,#mermaid-svg-LxpOJutGN8XNU4Oz .active3{fill:#bfc7ff;stroke:#534fbc}#mermaid-svg-LxpOJutGN8XNU4Oz .activeText0,#mermaid-svg-LxpOJutGN8XNU4Oz .activeText1,#mermaid-svg-LxpOJutGN8XNU4Oz .activeText2,#mermaid-svg-LxpOJutGN8XNU4Oz .activeText3{fill:#000 !important}#mermaid-svg-LxpOJutGN8XNU4Oz .done0,#mermaid-svg-LxpOJutGN8XNU4Oz .done1,#mermaid-svg-LxpOJutGN8XNU4Oz .done2,#mermaid-svg-LxpOJutGN8XNU4Oz .done3{stroke:grey;fill:#d3d3d3;stroke-width:2}#mermaid-svg-LxpOJutGN8XNU4Oz .doneText0,#mermaid-svg-LxpOJutGN8XNU4Oz .doneText1,#mermaid-svg-LxpOJutGN8XNU4Oz .doneText2,#mermaid-svg-LxpOJutGN8XNU4Oz .doneText3{fill:#000 !important}#mermaid-svg-LxpOJutGN8XNU4Oz .crit0,#mermaid-svg-LxpOJutGN8XNU4Oz .crit1,#mermaid-svg-LxpOJutGN8XNU4Oz .crit2,#mermaid-svg-LxpOJutGN8XNU4Oz .crit3{stroke:#f88;fill:red;stroke-width:2}#mermaid-svg-LxpOJutGN8XNU4Oz .activeCrit0,#mermaid-svg-LxpOJutGN8XNU4Oz .activeCrit1,#mermaid-svg-LxpOJutGN8XNU4Oz .activeCrit2,#mermaid-svg-LxpOJutGN8XNU4Oz .activeCrit3{stroke:#f88;fill:#bfc7ff;stroke-width:2}#mermaid-svg-LxpOJutGN8XNU4Oz .doneCrit0,#mermaid-svg-LxpOJutGN8XNU4Oz .doneCrit1,#mermaid-svg-LxpOJutGN8XNU4Oz .doneCrit2,#mermaid-svg-LxpOJutGN8XNU4Oz .doneCrit3{stroke:#f88;fill:#d3d3d3;stroke-width:2;cursor:pointer;shape-rendering:crispEdges}#mermaid-svg-LxpOJutGN8XNU4Oz .milestone{transform:rotate(45deg) scale(0.8, 0.8)}#mermaid-svg-LxpOJutGN8XNU4Oz .milestoneText{font-style:italic}#mermaid-svg-LxpOJutGN8XNU4Oz .doneCritText0,#mermaid-svg-LxpOJutGN8XNU4Oz .doneCritText1,#mermaid-svg-LxpOJutGN8XNU4Oz .doneCritText2,#mermaid-svg-LxpOJutGN8XNU4Oz .doneCritText3{fill:#000 !important}#mermaid-svg-LxpOJutGN8XNU4Oz .activeCritText0,#mermaid-svg-LxpOJutGN8XNU4Oz .activeCritText1,#mermaid-svg-LxpOJutGN8XNU4Oz .activeCritText2,#mermaid-svg-LxpOJutGN8XNU4Oz .activeCritText3{fill:#000 !important}#mermaid-svg-LxpOJutGN8XNU4Oz .titleText{text-anchor:middle;font-size:18px;fill:#000;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-LxpOJutGN8XNU4Oz g.classGroup text{fill:#9370db;stroke:none;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);font-size:10px}#mermaid-svg-LxpOJutGN8XNU4Oz g.classGroup text .title{font-weight:bolder}#mermaid-svg-LxpOJutGN8XNU4Oz g.clickable{cursor:pointer}#mermaid-svg-LxpOJutGN8XNU4Oz g.classGroup rect{fill:#ECECFF;stroke:#9370db}#mermaid-svg-LxpOJutGN8XNU4Oz g.classGroup line{stroke:#9370db;stroke-width:1}#mermaid-svg-LxpOJutGN8XNU4Oz .classLabel .box{stroke:none;stroke-width:0;fill:#ECECFF;opacity:0.5}#mermaid-svg-LxpOJutGN8XNU4Oz .classLabel .label{fill:#9370db;font-size:10px}#mermaid-svg-LxpOJutGN8XNU4Oz .relation{stroke:#9370db;stroke-width:1;fill:none}#mermaid-svg-LxpOJutGN8XNU4Oz .dashed-line{stroke-dasharray:3}#mermaid-svg-LxpOJutGN8XNU4Oz #compositionStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-LxpOJutGN8XNU4Oz #compositionEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-LxpOJutGN8XNU4Oz #aggregationStart{fill:#ECECFF;stroke:#9370db;stroke-width:1}#mermaid-svg-LxpOJutGN8XNU4Oz #aggregationEnd{fill:#ECECFF;stroke:#9370db;stroke-width:1}#mermaid-svg-LxpOJutGN8XNU4Oz #dependencyStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-LxpOJutGN8XNU4Oz #dependencyEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-LxpOJutGN8XNU4Oz #extensionStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-LxpOJutGN8XNU4Oz #extensionEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-LxpOJutGN8XNU4Oz .commit-id,#mermaid-svg-LxpOJutGN8XNU4Oz .commit-msg,#mermaid-svg-LxpOJutGN8XNU4Oz .branch-label{fill:lightgrey;color:lightgrey;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-LxpOJutGN8XNU4Oz .pieTitleText{text-anchor:middle;font-size:25px;fill:#000;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-LxpOJutGN8XNU4Oz .slice{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-LxpOJutGN8XNU4Oz g.stateGroup text{fill:#9370db;stroke:none;font-size:10px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-LxpOJutGN8XNU4Oz g.stateGroup text{fill:#9370db;fill:#333;stroke:none;font-size:10px}#mermaid-svg-LxpOJutGN8XNU4Oz g.statediagram-cluster .cluster-label text{fill:#333}#mermaid-svg-LxpOJutGN8XNU4Oz g.stateGroup .state-title{font-weight:bolder;fill:#000}#mermaid-svg-LxpOJutGN8XNU4Oz g.stateGroup rect{fill:#ECECFF;stroke:#9370db}#mermaid-svg-LxpOJutGN8XNU4Oz g.stateGroup line{stroke:#9370db;stroke-width:1}#mermaid-svg-LxpOJutGN8XNU4Oz .transition{stroke:#9370db;stroke-width:1;fill:none}#mermaid-svg-LxpOJutGN8XNU4Oz .stateGroup .composit{fill:white;border-bottom:1px}#mermaid-svg-LxpOJutGN8XNU4Oz .stateGroup .alt-composit{fill:#e0e0e0;border-bottom:1px}#mermaid-svg-LxpOJutGN8XNU4Oz .state-note{stroke:#aa3;fill:#fff5ad}#mermaid-svg-LxpOJutGN8XNU4Oz .state-note text{fill:black;stroke:none;font-size:10px}#mermaid-svg-LxpOJutGN8XNU4Oz .stateLabel .box{stroke:none;stroke-width:0;fill:#ECECFF;opacity:0.7}#mermaid-svg-LxpOJutGN8XNU4Oz .edgeLabel text{fill:#333}#mermaid-svg-LxpOJutGN8XNU4Oz .stateLabel text{fill:#000;font-size:10px;font-weight:bold;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-LxpOJutGN8XNU4Oz .node circle.state-start{fill:black;stroke:black}#mermaid-svg-LxpOJutGN8XNU4Oz .node circle.state-end{fill:black;stroke:white;stroke-width:1.5}#mermaid-svg-LxpOJutGN8XNU4Oz #statediagram-barbEnd{fill:#9370db}#mermaid-svg-LxpOJutGN8XNU4Oz .statediagram-cluster rect{fill:#ECECFF;stroke:#9370db;stroke-width:1px}#mermaid-svg-LxpOJutGN8XNU4Oz .statediagram-cluster rect.outer{rx:5px;ry:5px}#mermaid-svg-LxpOJutGN8XNU4Oz .statediagram-state .divider{stroke:#9370db}#mermaid-svg-LxpOJutGN8XNU4Oz .statediagram-state .title-state{rx:5px;ry:5px}#mermaid-svg-LxpOJutGN8XNU4Oz .statediagram-cluster.statediagram-cluster .inner{fill:white}#mermaid-svg-LxpOJutGN8XNU4Oz .statediagram-cluster.statediagram-cluster-alt .inner{fill:#e0e0e0}#mermaid-svg-LxpOJutGN8XNU4Oz .statediagram-cluster .inner{rx:0;ry:0}#mermaid-svg-LxpOJutGN8XNU4Oz .statediagram-state rect.basic{rx:5px;ry:5px}#mermaid-svg-LxpOJutGN8XNU4Oz .statediagram-state rect.divider{stroke-dasharray:10,10;fill:#efefef}#mermaid-svg-LxpOJutGN8XNU4Oz .note-edge{stroke-dasharray:5}#mermaid-svg-LxpOJutGN8XNU4Oz .statediagram-note rect{fill:#fff5ad;stroke:#aa3;stroke-width:1px;rx:0;ry:0}:root{--mermaid-font-family: '"trebuchet ms", verdana, arial';--mermaid-font-family: "Comic Sans MS", "Comic Sans", cursive}#mermaid-svg-LxpOJutGN8XNU4Oz .error-icon{fill:#522}#mermaid-svg-LxpOJutGN8XNU4Oz .error-text{fill:#522;stroke:#522}#mermaid-svg-LxpOJutGN8XNU4Oz .edge-thickness-normal{stroke-width:2px}#mermaid-svg-LxpOJutGN8XNU4Oz .edge-thickness-thick{stroke-width:3.5px}#mermaid-svg-LxpOJutGN8XNU4Oz .edge-pattern-solid{stroke-dasharray:0}#mermaid-svg-LxpOJutGN8XNU4Oz .edge-pattern-dashed{stroke-dasharray:3}#mermaid-svg-LxpOJutGN8XNU4Oz .edge-pattern-dotted{stroke-dasharray:2}#mermaid-svg-LxpOJutGN8XNU4Oz .marker{fill:#333}#mermaid-svg-LxpOJutGN8XNU4Oz .marker.cross{stroke:#333}:root { --mermaid-font-family: "trebuchet ms", verdana, arial;}#mermaid-svg-LxpOJutGN8XNU4Oz {color: rgba(0, 0, 0, 0.75);font: ;}

1.1
2.1.1和2.1.2
2.1.1和2.1.3
1.2
2.1.1和1.3
2.2
自己的图像数据
按目录存放
Dataset类
公共数据集
数据迭代器
  • 流程图链接线上的数字表示实现这一流程的章节序号.

1. 准备数据

可以用自己准备的图像数据, 或者用公共数据集(本文以CIFAR10为例).
如果用公共数据集有两种方式:

  • 自己下载解压,这流程和用自己的图像数据差不多;
  • 直接用torchvision提供的datasets工具包完成数据准备工作;

1.1 准备自己的数据

步骤: 图像归类 —> 划分数据集

1) 图像归类

  • 把收集的图像按照类别放入不同的文件夹中;
  • 文件夹以类别标签命名.
  • 每个类别的图像数量要差不多一样多比较好,保持数据平衡.如果某个类别的图像数量比较少,该类别的预测效果很可能会不好.
  • 图像目录如图:

2) 划分数据集
脚本: image2train_val_test.py
将图像数据分成训练集,验证集,测试集.(train, validation, test)

  • 训练集: 训练网络权重的数据;
  • 验证集: 训练时,用来调整超参数以及查看模型什么时候停止比较好,可以理解为训练过程中的测试数据集;
  • 测试集: 训练完成,测试模型的泛化能力;

我习惯按照7:1:2比例对数据集进行划分, 也有很多按照8:1:1进行划分.看自己的考虑吧.

1.2 自己下载Cifar10数据集

步骤: 下载数据集 —> 解压数据集 —> 提取图片 —> 划分数据集

1)下载数据

  • 下载好Cifar10数据 cifar-10-python.tar.gz,
  • 放到目录root/Data 下.

2) 解压数据

解压出来8个文件:

data_batch_1 ~ data_batch_5, 这5个文件是训练数据, 各包含1万个样本test_batch  这个是测试数据 包含1万个样本batches.meta  是十个标签名称readme.html  是官网链接地址

3) 提取图片
脚本: cifar10_to_png.py
步骤: 构建存放图片的文件目录 —> 解析(读取)数据文件 —> 按照图片标签保存图片

  • 构建存放图片的文件目录

    • 一个总目录, 下面分为十个标签命名的目录
    • cifar10的10个标签按照顺序依次是:
      “airplane”, “automobile”, “bird”, “cat”, “deer”, “dog”, “frog”, “horse”, “ship”, “truck”
      飞机, 汽车, 鸟, 猫, 鹿, 狗, 青蛙, 马, 船, 货车

  • 解析(读取)数据文件

    • cifar10的官网简介: https://www.cs.toronto.edu/~kriz/cifar.html
    • CIFAR-10数据集包括10个类别的60000个32x32彩色图像，每个类别有6000个图像。有5万张训练图像和1万张测试图像。数据集分为五个训练批和一个测试批，每个批有10000张图像。测试批包含从每个类中随机选择的1000个图像。
    • data_batch_1~data_batch_5, test_batch 可以用pickle读取这些文件.读取的文件将返回一个dict对象,有data,和labels两个key. data是图像, labels是标签的编号0~9.
    • batches.meta 用pickle读取返回一个dict, 他有一个key叫做label_names, 是一个列表,读取方式:
     label_names[0] == "airplane"label_names[1]  == "automobile"

我这里将训练数据和测试数据都解压保存一起了.

  • 按照图片标签保存图片
    数据文件解压出来的dict,保存的时候,要注意:

    • resize改变原来数据形状,
      dict[“data”]是一个list.这个数组的每一行存储了3232大小的彩色图像（3232*3通道=3072）。
    • transpose变换一下顺序.
      dict[“data”]数组的每一行前1024个数是red通道，然后分别是green,blue.就是将RGB改成GBR. 需要改变通道顺序的原因是下一步用opencv保存图片,而opencv保存图片的顺序是GBR.
    • 最后用opencv保存图片.

4) 划分数据集
脚本(同1.1的2): image2train_val_test.py

1.3 使用torchvision下载CIFAR10

使用torchvision提供的datasets工具包datasets.CIFAR10可以直接下载该公共数据集.并返回返回Dataset对象 这种方式下载需要网好.

  • Dataset对象是pytorch通用的数据集对象(更详细的可自己查pytroch的Dataset类)
  • 虽然就一行代码, 但这里面包含了下载图片和图片预处理(关于图片预处理见2.1.1章节)
# 训练集
trainset = torchvision.datasets.CIFAR10(root='./data', train=True,download=True, transform=transform)
# 测试集
testset = torchvision.datasets.CIFAR10(root='./data', train=False,download=True, transform=transform)

2 数据加载

步骤: 从图片数据到pytorch的Dataset对象 --> 从pytorch的Dataset对象到pytorch的数据迭代器

数据加载是指,将图片数据转换成模型输入数据.

第一步,从图片数据到pytorch的Dataset对象有两种方式,

  • 用torchvision提供的ImageFolder函数. 该函数也包含了图片预处理过程.
  • 继承Dataset这个基类,写方法实现.该步骤同样会进行图片的预处理.

第二步,使用pytorch的工具函数DataLoader.实现从pytorch的Dataset对象到pytorch的数据迭代器

2.1 从图片数据到pytorch的Dataset对象

2.1.1 数据预处理

可以看到不管哪种方式都少不了图片预处理.图片预处理可以使得图片更加多样性,训练出来的模型泛化能力也会更强.

torchvision提供的transforms有22钟预处理图片方式,可满足平常所需.(transforms详细请先自行查阅)或者我的笔记TORCHVISION.TRANSFORMS的图像预处理

transform = transforms.Compose([transforms.RandomResizedCrop(224),transforms.RandomHorizontalFlip(),transforms.ToTensor()])

注意这里是下载好图片以后,在训练调用数据时,会按transform已经指定好的顺序依次预处理操作, 然后送给网络进行训练,并不是下载图片时进行预处理,然后保存预处理后的图片,也不会训练时保存预处理后的图片,总之不会保存预处理后的图片,除非你自己写代码保存,

2.1.2 用torchvision提供的函数

脚本: loaddata.py
torchvision提供的ImageFolder函数能够以目录名为标签(就是第一节准备的图片目录结构)来对数据集做划分. (ImageFolder详细请先自行查阅)

trainset = torchvision.datasets.ImageFolder(root="root folder path",transform=transform,  target_transform=None, loader=default_loader)

2.1.3 自己写方法实现

脚本:mydataset.py

自己写的方法是通过继承Dataset这个基类实现的.

可以参考ImageFolde的方式来实现.

  1. 规定好图片的存放形式,
  2. 输入: 图片的根目录,以及图像预处理.
  3. 重写Dataset这个基类的__getitem__(self, index) 和__len__(self)方法.getitem(self, index) 是根据索引index返回图像和标签, 这个index通常是list的index. len(self)返回样本数量.

具体实现参见脚本代码.

2.2 从pytorch的Dataset对象到pytorch的数据迭代器

torch.utils.data.DataLoader 构建可迭代的数据装载器. 加载数据的时候使用mini-batch可以进行多线程并行处理,这样可以加快数据加载速度. (DataLoader详细请先自行查阅)

data_loader = torch.utils.data.DataLoader(data, batch_size=batch_size, shuffle=True, drop_last=False, num_workers=4)

3 搭建网络

3.1 搭建网络

脚本:mysimplenet.py

搭建网络的思路相对简单一些:

  • 继承torch的nn.Module.
  • 在__init__初始化函数体中定义好神经节点（定义“组件”）
  • 重写forward函数,将定义好的神经节点链接起来,形成网络.神经节点可以重复使用.（用“组件”搭建网络）

可以先看简单的网络脚本:mysimplenet.py,

import torch.nn as nn
""" 定义网络 """class Batch_Net(nn.Module):"""定义了一个简单的三层全连接神经网络，每一层都是线性的 nn.Linear加快收敛速度的方法--批标准化 nn.BatchNorm1d前两层,在每层的输出部分添加了激活函数 nn.ReLU(True)  """def __init__(self, in_dim, n_hidden_1, n_hidden_2, out_dim):super(Batch_Net, self).__init__()self.layer1 = nn.Sequential(nn.Linear(in_dim, n_hidden_1), nn.BatchNorm1d(n_hidden_1), nn.ReLU(True))self.layer2 = nn.Sequential(nn.Linear(n_hidden_1, n_hidden_2), nn.BatchNorm1d(n_hidden_2), nn.ReLU(True))self.layer3 = nn.Sequential(nn.Linear(n_hidden_2, out_dim))def forward(self, x):x = self.layer1(x)x = self.layer2(x)x = self.layer3(x)return x

ＰS: 想深入理解神经网络参考【深度学习】神经网络入门（最通俗的理解神经网络）

3.2 网络初始化

神经网络的训练过程中的参数学习是基于梯度下降法进行优化的。梯度下降法需要在开始训练时给各个节点的权重和偏置赋一个初始值。这个初始值的选取十分关键。参数的初始化关系到网络能否训练出好的结果或者是以多快的速度收敛。

初始化方法总共有三种：

  • 默认初始化；
  • 自定义初始化，用pytorch自带的初始化函数进行初始化；
  • Finetune初始化，用预训练模型进行初始化，是迁移学习的一种手段。

3.2.1 默认初始化

在创建网络实例过程中，就会进行默认初始化。一般是均值分布采样初始化。

3.2.2 自定义初始化

可以使用pytorch提供的初始化函数进行初始化（初始化函数在 torch.nn.init 中给出，自行查阅或者参见我的笔记TORCH.NN.INIT）。
具体初始化流程：遍历模型的每一层，判断各层属于什么类型, 例如, 是否是 nn.Conv2d、nn.BatchNorm2d、nn.Linear 等,然后根据不同类型的层,设定不同的权值初始化方法,例如,Xavier,kaiming,normal_,uniform_等。

kaiming 也称之为 MSRA 初始化,当年何恺明还在微软亚洲研究院,因而得名

初始化例子

from torch.nn import init
# 不同类型的层不同初始化
def weigth_init(net):'''初始化网络'''for m in net.modules():if isinstance(m, nn.Conv2d):init.xavier_uniform_(m.weight.data)    init.constant_(m.bias.data, 0)elif isinstance(m, nn.BatchNorm2d):init.constant_(m.weight.data, 1)init.constant_(m.bias.data, 0)elif isinstance(m, nn.Linear):init.normal_(m.weight.data, std=1e-3)init.constant_(m.bias.data, 0)
# 初始化调用一
model = Net() # 实例化一个网络
model.apply(weigth_init)  # 初始化
# 初始化调用二
net = Net() # 实例化一个网络
weigth_init(net)

3.2.3 Finetune初始化

预训练模型在线下载，下模型后的地址是：~/.cache/torch/hub/checkpoints
预训练模型下载地址：
model_urls = {
‘vgg11’: ‘https://download.pytorch.org/models/vgg11-bbd30ac9.pth’,
‘vgg13’: ‘https://download.pytorch.org/models/vgg13-c768596a.pth’,
‘vgg16’: ‘https://download.pytorch.org/models/vgg16-397923af.pth’,
‘vgg19’: ‘https://download.pytorch.org/models/vgg19-dcbb9e9d.pth’,
‘vgg11_bn’: ‘https://download.pytorch.org/models/vgg11_bn-6002323d.pth’,
‘vgg13_bn’: ‘https://download.pytorch.org/models/vgg13_bn-abd245e5.pth’,
‘vgg16_bn’: ‘https://download.pytorch.org/models/vgg16_bn-6c64b313.pth’,
‘vgg19_bn’: ‘https://download.pytorch.org/models/vgg19_bn-c79401a0.pth’,
}
模型微调（Fine Tune）给一个预训练模型（pre-trained model），基于这个模型进行微调，相对从头开始训练（Training a model from scratch）节省了大量的计算资源和计算时间，提高了计算效率，甚至提高了准确率。Fine Tune是迁移学习的一种手段。
详细讲解可以参见CNN入门讲解：什么是微调（Fine Tune）？

网络模型可以分为三段：第一段为浅层卷积神经网络，提取基础特征，如边缘，轮廓等；第二段为深层卷积神经网络，提取抽象特征，如整个脸型；第三段为最后几层，一般为全连接层，根据特征组合进行评分分类。所以总的来说Fine Tune有三种调整方式：

  • 自己的数据量少，但是与预训练模型使用的数据集相似度非常高。这种情况，我们只修改模型的最后几层或者最终的softmax图层的输出类别；
  • 数据量少，相似度低。因为相似度低，所以根据新数据集训练深层网络意义大一些。故冻结第一段的浅层卷积神经网络，训练后面几段；
  • 数据量大，相似度高。这种情况是最有利的情况，这种时候我们可以用把预训练模型作为初始权重进行微调就可以了，所谓微调就是学习率较小的迭代训练。训练的时候设置学习率有两种思路，一种是所有的层都赋一个很小的学习率进行学习。另外一种思路就是前面的层设置较小的学习率，后面的层设置稍大的学习率。

还有一种情况，就是数据量大，但是相似度低。这个时候预训练模型没有什么特别意义。可以选择上面说的默认初始化或者自定义初始化网络。然后从头训练（Training a model from scatch）

这里面就涉及到三个具体的代码实现问题：

  • 拿到预训练模型如何初始化；
  • 如何冻结指定层的神经网络，训练指定层的神经网络；
  • 如何为不同层设置不同的学习率；

参考博客：pytorch 使用预训练模型如resnet、vgg等并修改部分结构
对于第一个问题：
下载好预训练模型，将预训练模型放入默认的模型下载目录：~/.cache/torch/hub/checkpoints中
下列代码就可以获得已经是预训练模型的网络了.

net = torchvision.models.vgg19_bn(pretrained=True)

如果没有预先下载好预训练模型，直接运行这个代码是可以直接下载预训练模型的。但是因为国内的网络原因，还是先手动下载预训练模型，放入默认下载目录下。这样会更快速一些。

使用这行代码我们都不需要自己搭建网络模型了。

我认为这里初始化有两个思路:
一个是自己搭建网络，然后将预训练模型的权重某些层赋值过来。但是这种操作应该比较复杂，我还没有看到相关的代码。
另外一个思路就是获得预训练模型网络以后，改部分层，通常是后面分类层，这种操作的代码比较多。

如何修改预训练模型网络的最后几层？根据层的名字拿到层，然后在重新赋值即可。如果对网络层不熟悉，可以先通过print()函数来查看层的名称。

for name, parameters in net.named_parameters():print(name, ':', parameters.size())
# 以下是后面几层print的结果...
features.49.weight : torch.Size([512, 512, 3, 3])
features.49.bias : torch.Size([512])
features.50.weight : torch.Size([512])
features.50.bias : torch.Size([512])
classifier.0.weight : torch.Size([4096, 25088])
classifier.0.bias : torch.Size([4096])
classifier.3.weight : torch.Size([4096, 4096])
classifier.3.bias : torch.Size([4096])
classifier.6.weight : torch.Size([1000, 4096])
classifier.6.bias : torch.Size([1000])

修改方式为，这里10是将默认的1000个分类改成了10个分类

net.classifier._modules['6'] = nn.Sequential(nn.Linear(4096, 10), nn.Softmax(dim=1))

对于第二个问题，如何冻结指定层的神经网络，训练指定层的神经网络
比如可以对不是分类层的其他层冻结起来。指定层的requires_grad属性为False就可以了。没有为False的层在训练代码中将得到训练更新。如下

# 冻结特征层前面30层，特征层后20层以及分类层进行训练
# 这里冻结层数可以根据自己需求更改
param_group = []
learning_rate = 1e-3
for name, parameters in net.named_parameters():# 获取层的数量layersid = int(name.split(".")[1])if not name.__contains__('classifier') and layersid <= 30:parameters.requires_grad = Falseparam_group += [{'params': parameters, 'lr': learning_rate}]

对于第三个问题，如何为不同层设置不同的学习率
也同第二个问题一样处理，如下：

param_group = []
learning_rate = 1e-6
for name, parameters in net.named_parameters():if not name.__contains__('classifier'):param_group += [{'params': parameters, 'lr': learning_rate}]else:param_group += [{'params': parameters, 'lr': learning_rate*1000}]

这三个问题清楚以后，只要组合应用这三种方式，就可以写出前面说的三种fine-tune的调整方式。

为了不混淆，将五种不同的初始化，单独写出训练脚本：
1 train_default_init.py: 默认初始化训练脚本。
2 train_custom_init.py: 自定义初始化训练脚本。
3 train_finetune_classifier.py: fine tune更改分类层训练脚本。
4 train_finetune_deep.py: fine tune冻结浅层卷积神经网络训练脚本。
5 train_finetune_whole.py: fine tune训练整个神经网络，但是设置不同的学习率训练脚本。

4 训练模型

脚本: train.py
现在已经准备好数据集,网络也搭建好了. 现在要做的事情就是确定权重,也就是训练模型,

用a@x=ya@x=ya@x=y进行类比:

  • xxx表示图像,yyy表示该图像的分类.(x,y)(x,y)(x,y)就是数据集;
  • aaa表示权重.一个计算通常是两个数的某种操作,图像表示是一个数,而权重则是另外一个数;
  • @@@表示网络,也就是权重和图像之前的操作,规定好了计算方法,加减乘除,以及计算步骤,先做哪一步,再做哪一步;
  • 如果有了一张图像, 并且知道了权重,也知道了网络. 我们就可以对图像进行一系列的计算,然后得到yyy这个分类,这就是推理预测;
  • 而现在是根据(x,y)数据集来反推aaa. 就是训练模型.做法先给aaa赋个初始值a′a'a′, 然后计算a′@xa'@xa′@x 得到y′y'y′, 再根据预测值y′y'y′和真实值yyy之间的差距,最后根据差距来调整a′a'a′. 反复这个过程就是训练模型;
  • 计算预测值y′y'y′和真实值yyy之间的差距的函数就是损失函数(Loss Function);
  • 根据损失来调整a′a'a′.就是优化器所做的工作.

训练流程图:

#mermaid-svg-M0BDScfmnD92iPLH .label{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);fill:#333;color:#333}#mermaid-svg-M0BDScfmnD92iPLH .label text{fill:#333}#mermaid-svg-M0BDScfmnD92iPLH .node rect,#mermaid-svg-M0BDScfmnD92iPLH .node circle,#mermaid-svg-M0BDScfmnD92iPLH .node ellipse,#mermaid-svg-M0BDScfmnD92iPLH .node polygon,#mermaid-svg-M0BDScfmnD92iPLH .node path{fill:#ECECFF;stroke:#9370db;stroke-width:1px}#mermaid-svg-M0BDScfmnD92iPLH .node .label{text-align:center;fill:#333}#mermaid-svg-M0BDScfmnD92iPLH .node.clickable{cursor:pointer}#mermaid-svg-M0BDScfmnD92iPLH .arrowheadPath{fill:#333}#mermaid-svg-M0BDScfmnD92iPLH .edgePath .path{stroke:#333;stroke-width:1.5px}#mermaid-svg-M0BDScfmnD92iPLH .flowchart-link{stroke:#333;fill:none}#mermaid-svg-M0BDScfmnD92iPLH .edgeLabel{background-color:#e8e8e8;text-align:center}#mermaid-svg-M0BDScfmnD92iPLH .edgeLabel rect{opacity:0.9}#mermaid-svg-M0BDScfmnD92iPLH .edgeLabel span{color:#333}#mermaid-svg-M0BDScfmnD92iPLH .cluster rect{fill:#ffffde;stroke:#aa3;stroke-width:1px}#mermaid-svg-M0BDScfmnD92iPLH .cluster text{fill:#333}#mermaid-svg-M0BDScfmnD92iPLH div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);font-size:12px;background:#ffffde;border:1px solid #aa3;border-radius:2px;pointer-events:none;z-index:100}#mermaid-svg-M0BDScfmnD92iPLH .actor{stroke:#ccf;fill:#ECECFF}#mermaid-svg-M0BDScfmnD92iPLH text.actor>tspan{fill:#000;stroke:none}#mermaid-svg-M0BDScfmnD92iPLH .actor-line{stroke:grey}#mermaid-svg-M0BDScfmnD92iPLH .messageLine0{stroke-width:1.5;stroke-dasharray:none;stroke:#333}#mermaid-svg-M0BDScfmnD92iPLH .messageLine1{stroke-width:1.5;stroke-dasharray:2, 2;stroke:#333}#mermaid-svg-M0BDScfmnD92iPLH #arrowhead path{fill:#333;stroke:#333}#mermaid-svg-M0BDScfmnD92iPLH .sequenceNumber{fill:#fff}#mermaid-svg-M0BDScfmnD92iPLH #sequencenumber{fill:#333}#mermaid-svg-M0BDScfmnD92iPLH #crosshead path{fill:#333;stroke:#333}#mermaid-svg-M0BDScfmnD92iPLH .messageText{fill:#333;stroke:#333}#mermaid-svg-M0BDScfmnD92iPLH .labelBox{stroke:#ccf;fill:#ECECFF}#mermaid-svg-M0BDScfmnD92iPLH .labelText,#mermaid-svg-M0BDScfmnD92iPLH .labelText>tspan{fill:#000;stroke:none}#mermaid-svg-M0BDScfmnD92iPLH .loopText,#mermaid-svg-M0BDScfmnD92iPLH .loopText>tspan{fill:#000;stroke:none}#mermaid-svg-M0BDScfmnD92iPLH .loopLine{stroke-width:2px;stroke-dasharray:2, 2;stroke:#ccf;fill:#ccf}#mermaid-svg-M0BDScfmnD92iPLH .note{stroke:#aa3;fill:#fff5ad}#mermaid-svg-M0BDScfmnD92iPLH .noteText,#mermaid-svg-M0BDScfmnD92iPLH .noteText>tspan{fill:#000;stroke:none}#mermaid-svg-M0BDScfmnD92iPLH .activation0{fill:#f4f4f4;stroke:#666}#mermaid-svg-M0BDScfmnD92iPLH .activation1{fill:#f4f4f4;stroke:#666}#mermaid-svg-M0BDScfmnD92iPLH .activation2{fill:#f4f4f4;stroke:#666}#mermaid-svg-M0BDScfmnD92iPLH .mermaid-main-font{font-family:"trebuchet ms", verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-M0BDScfmnD92iPLH .section{stroke:none;opacity:0.2}#mermaid-svg-M0BDScfmnD92iPLH .section0{fill:rgba(102,102,255,0.49)}#mermaid-svg-M0BDScfmnD92iPLH .section2{fill:#fff400}#mermaid-svg-M0BDScfmnD92iPLH .section1,#mermaid-svg-M0BDScfmnD92iPLH .section3{fill:#fff;opacity:0.2}#mermaid-svg-M0BDScfmnD92iPLH .sectionTitle0{fill:#333}#mermaid-svg-M0BDScfmnD92iPLH .sectionTitle1{fill:#333}#mermaid-svg-M0BDScfmnD92iPLH .sectionTitle2{fill:#333}#mermaid-svg-M0BDScfmnD92iPLH .sectionTitle3{fill:#333}#mermaid-svg-M0BDScfmnD92iPLH .sectionTitle{text-anchor:start;font-size:11px;text-height:14px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-M0BDScfmnD92iPLH .grid .tick{stroke:#d3d3d3;opacity:0.8;shape-rendering:crispEdges}#mermaid-svg-M0BDScfmnD92iPLH .grid .tick text{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-M0BDScfmnD92iPLH .grid path{stroke-width:0}#mermaid-svg-M0BDScfmnD92iPLH .today{fill:none;stroke:red;stroke-width:2px}#mermaid-svg-M0BDScfmnD92iPLH .task{stroke-width:2}#mermaid-svg-M0BDScfmnD92iPLH .taskText{text-anchor:middle;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-M0BDScfmnD92iPLH .taskText:not([font-size]){font-size:11px}#mermaid-svg-M0BDScfmnD92iPLH .taskTextOutsideRight{fill:#000;text-anchor:start;font-size:11px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-M0BDScfmnD92iPLH .taskTextOutsideLeft{fill:#000;text-anchor:end;font-size:11px}#mermaid-svg-M0BDScfmnD92iPLH .task.clickable{cursor:pointer}#mermaid-svg-M0BDScfmnD92iPLH .taskText.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-M0BDScfmnD92iPLH .taskTextOutsideLeft.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-M0BDScfmnD92iPLH .taskTextOutsideRight.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-M0BDScfmnD92iPLH .taskText0,#mermaid-svg-M0BDScfmnD92iPLH .taskText1,#mermaid-svg-M0BDScfmnD92iPLH .taskText2,#mermaid-svg-M0BDScfmnD92iPLH .taskText3{fill:#fff}#mermaid-svg-M0BDScfmnD92iPLH .task0,#mermaid-svg-M0BDScfmnD92iPLH .task1,#mermaid-svg-M0BDScfmnD92iPLH .task2,#mermaid-svg-M0BDScfmnD92iPLH .task3{fill:#8a90dd;stroke:#534fbc}#mermaid-svg-M0BDScfmnD92iPLH .taskTextOutside0,#mermaid-svg-M0BDScfmnD92iPLH .taskTextOutside2{fill:#000}#mermaid-svg-M0BDScfmnD92iPLH .taskTextOutside1,#mermaid-svg-M0BDScfmnD92iPLH .taskTextOutside3{fill:#000}#mermaid-svg-M0BDScfmnD92iPLH .active0,#mermaid-svg-M0BDScfmnD92iPLH .active1,#mermaid-svg-M0BDScfmnD92iPLH .active2,#mermaid-svg-M0BDScfmnD92iPLH .active3{fill:#bfc7ff;stroke:#534fbc}#mermaid-svg-M0BDScfmnD92iPLH .activeText0,#mermaid-svg-M0BDScfmnD92iPLH .activeText1,#mermaid-svg-M0BDScfmnD92iPLH .activeText2,#mermaid-svg-M0BDScfmnD92iPLH .activeText3{fill:#000 !important}#mermaid-svg-M0BDScfmnD92iPLH .done0,#mermaid-svg-M0BDScfmnD92iPLH .done1,#mermaid-svg-M0BDScfmnD92iPLH .done2,#mermaid-svg-M0BDScfmnD92iPLH .done3{stroke:grey;fill:#d3d3d3;stroke-width:2}#mermaid-svg-M0BDScfmnD92iPLH .doneText0,#mermaid-svg-M0BDScfmnD92iPLH .doneText1,#mermaid-svg-M0BDScfmnD92iPLH .doneText2,#mermaid-svg-M0BDScfmnD92iPLH .doneText3{fill:#000 !important}#mermaid-svg-M0BDScfmnD92iPLH .crit0,#mermaid-svg-M0BDScfmnD92iPLH .crit1,#mermaid-svg-M0BDScfmnD92iPLH .crit2,#mermaid-svg-M0BDScfmnD92iPLH .crit3{stroke:#f88;fill:red;stroke-width:2}#mermaid-svg-M0BDScfmnD92iPLH .activeCrit0,#mermaid-svg-M0BDScfmnD92iPLH .activeCrit1,#mermaid-svg-M0BDScfmnD92iPLH .activeCrit2,#mermaid-svg-M0BDScfmnD92iPLH .activeCrit3{stroke:#f88;fill:#bfc7ff;stroke-width:2}#mermaid-svg-M0BDScfmnD92iPLH .doneCrit0,#mermaid-svg-M0BDScfmnD92iPLH .doneCrit1,#mermaid-svg-M0BDScfmnD92iPLH .doneCrit2,#mermaid-svg-M0BDScfmnD92iPLH .doneCrit3{stroke:#f88;fill:#d3d3d3;stroke-width:2;cursor:pointer;shape-rendering:crispEdges}#mermaid-svg-M0BDScfmnD92iPLH .milestone{transform:rotate(45deg) scale(0.8, 0.8)}#mermaid-svg-M0BDScfmnD92iPLH .milestoneText{font-style:italic}#mermaid-svg-M0BDScfmnD92iPLH .doneCritText0,#mermaid-svg-M0BDScfmnD92iPLH .doneCritText1,#mermaid-svg-M0BDScfmnD92iPLH .doneCritText2,#mermaid-svg-M0BDScfmnD92iPLH .doneCritText3{fill:#000 !important}#mermaid-svg-M0BDScfmnD92iPLH .activeCritText0,#mermaid-svg-M0BDScfmnD92iPLH .activeCritText1,#mermaid-svg-M0BDScfmnD92iPLH .activeCritText2,#mermaid-svg-M0BDScfmnD92iPLH .activeCritText3{fill:#000 !important}#mermaid-svg-M0BDScfmnD92iPLH .titleText{text-anchor:middle;font-size:18px;fill:#000;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-M0BDScfmnD92iPLH g.classGroup text{fill:#9370db;stroke:none;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);font-size:10px}#mermaid-svg-M0BDScfmnD92iPLH g.classGroup text .title{font-weight:bolder}#mermaid-svg-M0BDScfmnD92iPLH g.clickable{cursor:pointer}#mermaid-svg-M0BDScfmnD92iPLH g.classGroup rect{fill:#ECECFF;stroke:#9370db}#mermaid-svg-M0BDScfmnD92iPLH g.classGroup line{stroke:#9370db;stroke-width:1}#mermaid-svg-M0BDScfmnD92iPLH .classLabel .box{stroke:none;stroke-width:0;fill:#ECECFF;opacity:0.5}#mermaid-svg-M0BDScfmnD92iPLH .classLabel .label{fill:#9370db;font-size:10px}#mermaid-svg-M0BDScfmnD92iPLH .relation{stroke:#9370db;stroke-width:1;fill:none}#mermaid-svg-M0BDScfmnD92iPLH .dashed-line{stroke-dasharray:3}#mermaid-svg-M0BDScfmnD92iPLH #compositionStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-M0BDScfmnD92iPLH #compositionEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-M0BDScfmnD92iPLH #aggregationStart{fill:#ECECFF;stroke:#9370db;stroke-width:1}#mermaid-svg-M0BDScfmnD92iPLH #aggregationEnd{fill:#ECECFF;stroke:#9370db;stroke-width:1}#mermaid-svg-M0BDScfmnD92iPLH #dependencyStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-M0BDScfmnD92iPLH #dependencyEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-M0BDScfmnD92iPLH #extensionStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-M0BDScfmnD92iPLH #extensionEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-M0BDScfmnD92iPLH .commit-id,#mermaid-svg-M0BDScfmnD92iPLH .commit-msg,#mermaid-svg-M0BDScfmnD92iPLH .branch-label{fill:lightgrey;color:lightgrey;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-M0BDScfmnD92iPLH .pieTitleText{text-anchor:middle;font-size:25px;fill:#000;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-M0BDScfmnD92iPLH .slice{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-M0BDScfmnD92iPLH g.stateGroup text{fill:#9370db;stroke:none;font-size:10px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-M0BDScfmnD92iPLH g.stateGroup text{fill:#9370db;fill:#333;stroke:none;font-size:10px}#mermaid-svg-M0BDScfmnD92iPLH g.statediagram-cluster .cluster-label text{fill:#333}#mermaid-svg-M0BDScfmnD92iPLH g.stateGroup .state-title{font-weight:bolder;fill:#000}#mermaid-svg-M0BDScfmnD92iPLH g.stateGroup rect{fill:#ECECFF;stroke:#9370db}#mermaid-svg-M0BDScfmnD92iPLH g.stateGroup line{stroke:#9370db;stroke-width:1}#mermaid-svg-M0BDScfmnD92iPLH .transition{stroke:#9370db;stroke-width:1;fill:none}#mermaid-svg-M0BDScfmnD92iPLH .stateGroup .composit{fill:white;border-bottom:1px}#mermaid-svg-M0BDScfmnD92iPLH .stateGroup .alt-composit{fill:#e0e0e0;border-bottom:1px}#mermaid-svg-M0BDScfmnD92iPLH .state-note{stroke:#aa3;fill:#fff5ad}#mermaid-svg-M0BDScfmnD92iPLH .state-note text{fill:black;stroke:none;font-size:10px}#mermaid-svg-M0BDScfmnD92iPLH .stateLabel .box{stroke:none;stroke-width:0;fill:#ECECFF;opacity:0.7}#mermaid-svg-M0BDScfmnD92iPLH .edgeLabel text{fill:#333}#mermaid-svg-M0BDScfmnD92iPLH .stateLabel text{fill:#000;font-size:10px;font-weight:bold;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-M0BDScfmnD92iPLH .node circle.state-start{fill:black;stroke:black}#mermaid-svg-M0BDScfmnD92iPLH .node circle.state-end{fill:black;stroke:white;stroke-width:1.5}#mermaid-svg-M0BDScfmnD92iPLH #statediagram-barbEnd{fill:#9370db}#mermaid-svg-M0BDScfmnD92iPLH .statediagram-cluster rect{fill:#ECECFF;stroke:#9370db;stroke-width:1px}#mermaid-svg-M0BDScfmnD92iPLH .statediagram-cluster rect.outer{rx:5px;ry:5px}#mermaid-svg-M0BDScfmnD92iPLH .statediagram-state .divider{stroke:#9370db}#mermaid-svg-M0BDScfmnD92iPLH .statediagram-state .title-state{rx:5px;ry:5px}#mermaid-svg-M0BDScfmnD92iPLH .statediagram-cluster.statediagram-cluster .inner{fill:white}#mermaid-svg-M0BDScfmnD92iPLH .statediagram-cluster.statediagram-cluster-alt .inner{fill:#e0e0e0}#mermaid-svg-M0BDScfmnD92iPLH .statediagram-cluster .inner{rx:0;ry:0}#mermaid-svg-M0BDScfmnD92iPLH .statediagram-state rect.basic{rx:5px;ry:5px}#mermaid-svg-M0BDScfmnD92iPLH .statediagram-state rect.divider{stroke-dasharray:10,10;fill:#efefef}#mermaid-svg-M0BDScfmnD92iPLH .note-edge{stroke-dasharray:5}#mermaid-svg-M0BDScfmnD92iPLH .statediagram-note rect{fill:#fff5ad;stroke:#aa3;stroke-width:1px;rx:0;ry:0}:root{--mermaid-font-family: '"trebuchet ms", verdana, arial';--mermaid-font-family: "Comic Sans MS", "Comic Sans", cursive}#mermaid-svg-M0BDScfmnD92iPLH .error-icon{fill:#522}#mermaid-svg-M0BDScfmnD92iPLH .error-text{fill:#522;stroke:#522}#mermaid-svg-M0BDScfmnD92iPLH .edge-thickness-normal{stroke-width:2px}#mermaid-svg-M0BDScfmnD92iPLH .edge-thickness-thick{stroke-width:3.5px}#mermaid-svg-M0BDScfmnD92iPLH .edge-pattern-solid{stroke-dasharray:0}#mermaid-svg-M0BDScfmnD92iPLH .edge-pattern-dashed{stroke-dasharray:3}#mermaid-svg-M0BDScfmnD92iPLH .edge-pattern-dotted{stroke-dasharray:2}#mermaid-svg-M0BDScfmnD92iPLH .marker{fill:#333}#mermaid-svg-M0BDScfmnD92iPLH .marker.cross{stroke:#333}:root { --mermaid-font-family: "trebuchet ms", verdana, arial;}#mermaid-svg-M0BDScfmnD92iPLH {color: rgba(0, 0, 0, 0.75);font: ;}

图像
预测值
学习率
真值
反向梯度
新模型
是
否
取得一批
数据
输入网络
损失函数
学习率
调整策略
优化器
更新权重
迭代完成
结束
保存模型

从流程图上看,训练之前我们需求准备六样东西:

  • 1 数据
  • 2 网络(初始化了的网络)
  • 3 损失函数
  • 4 学习率调整策略
  • 5 优化器
  • 6 保存模型

数据和网络已经准备好了.

4.1 损失函数

pytorch提供了17种损失函数.可先自行查阅.
步骤:在迭代循环外定义损失函数 --> 循环计算损失 -->循环根据损失计算反向梯度

  • 定义损失函数
import torch.nn as nn
# 交叉熵损失函数
celoss = nn.CrossEntropyLoss()
  • 计算损失
# 计算损失值,outputs预测值,labels真值
loss = celoss(outputs, labels)
  • 计算方向梯度
 # loss反向传播 计算反向梯度
loss.backward()

4.2 学习率的调整

合理的学习率可以使优化器快速收敛。一般在训练初期给予较大的学习率,随着训练的进行,学习率逐渐减小。学习率什么时候减小,减小多少,这就涉及到学习率调整方法。
PyTorch 中提供了六种方法供大家使用,.可先自行查阅.

4.3 优化器

PyTorch 提供的十种优化器,有常见的 SGD、ASGD、Rprop、RMSprop、Adam 等等
步骤:在迭代循环外定义优化器 -->循环梯度置零 --> 循环用优化器调整权重

  • 在迭代循环外定义优化器
import torch.optim as optim
# 优化器  lr学习率为0.001 momentum动量为0.9
optimizer = optim.SGD(net.parameters(), lr=0.001, momentum=0.9)
  • 循环梯度置零
# 梯度置零，因为反向传播过程中梯度会累加上一次循环的梯度
optimizer.zero_grad()
  • 循环用优化器调整权重
# 利用反向梯度 参数更新
optimizer.step()

4.4 保存模型

简单的保存与加载方法有两种方式:

  • 保存整个网络
import torch
# 保存
torch.save(net, PATH)
# 加载
model_dict=torch.load(PATH)
  • 保存网络中的参数, 速度快，占空间少
import torch
# 保存
torch.save(net.state_dict(),PATH)
# 加载 model是初始化的网络
model_dict=model.load_state_dict(torch.load(PATH))

4.5 训练过程中的可视化

使用 TensorBoardX可对对神经网络进行统计可视化.

5 测试

测试与训练的流程大体一致，有区别的地方：

  • 训练要向后计算梯度，测试不需要
  • 训练每张多次向前和向后计算，测试每张图片计算一次向前计算；
  • 测试在数据预处理的时候不需要随机剪裁；
  • 测试需要判断对错；

测试流程图：

#mermaid-svg-uUtrpaw0GidK3xT3 .label{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);fill:#333;color:#333}#mermaid-svg-uUtrpaw0GidK3xT3 .label text{fill:#333}#mermaid-svg-uUtrpaw0GidK3xT3 .node rect,#mermaid-svg-uUtrpaw0GidK3xT3 .node circle,#mermaid-svg-uUtrpaw0GidK3xT3 .node ellipse,#mermaid-svg-uUtrpaw0GidK3xT3 .node polygon,#mermaid-svg-uUtrpaw0GidK3xT3 .node path{fill:#ECECFF;stroke:#9370db;stroke-width:1px}#mermaid-svg-uUtrpaw0GidK3xT3 .node .label{text-align:center;fill:#333}#mermaid-svg-uUtrpaw0GidK3xT3 .node.clickable{cursor:pointer}#mermaid-svg-uUtrpaw0GidK3xT3 .arrowheadPath{fill:#333}#mermaid-svg-uUtrpaw0GidK3xT3 .edgePath .path{stroke:#333;stroke-width:1.5px}#mermaid-svg-uUtrpaw0GidK3xT3 .flowchart-link{stroke:#333;fill:none}#mermaid-svg-uUtrpaw0GidK3xT3 .edgeLabel{background-color:#e8e8e8;text-align:center}#mermaid-svg-uUtrpaw0GidK3xT3 .edgeLabel rect{opacity:0.9}#mermaid-svg-uUtrpaw0GidK3xT3 .edgeLabel span{color:#333}#mermaid-svg-uUtrpaw0GidK3xT3 .cluster rect{fill:#ffffde;stroke:#aa3;stroke-width:1px}#mermaid-svg-uUtrpaw0GidK3xT3 .cluster text{fill:#333}#mermaid-svg-uUtrpaw0GidK3xT3 div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);font-size:12px;background:#ffffde;border:1px solid #aa3;border-radius:2px;pointer-events:none;z-index:100}#mermaid-svg-uUtrpaw0GidK3xT3 .actor{stroke:#ccf;fill:#ECECFF}#mermaid-svg-uUtrpaw0GidK3xT3 text.actor>tspan{fill:#000;stroke:none}#mermaid-svg-uUtrpaw0GidK3xT3 .actor-line{stroke:grey}#mermaid-svg-uUtrpaw0GidK3xT3 .messageLine0{stroke-width:1.5;stroke-dasharray:none;stroke:#333}#mermaid-svg-uUtrpaw0GidK3xT3 .messageLine1{stroke-width:1.5;stroke-dasharray:2, 2;stroke:#333}#mermaid-svg-uUtrpaw0GidK3xT3 #arrowhead path{fill:#333;stroke:#333}#mermaid-svg-uUtrpaw0GidK3xT3 .sequenceNumber{fill:#fff}#mermaid-svg-uUtrpaw0GidK3xT3 #sequencenumber{fill:#333}#mermaid-svg-uUtrpaw0GidK3xT3 #crosshead path{fill:#333;stroke:#333}#mermaid-svg-uUtrpaw0GidK3xT3 .messageText{fill:#333;stroke:#333}#mermaid-svg-uUtrpaw0GidK3xT3 .labelBox{stroke:#ccf;fill:#ECECFF}#mermaid-svg-uUtrpaw0GidK3xT3 .labelText,#mermaid-svg-uUtrpaw0GidK3xT3 .labelText>tspan{fill:#000;stroke:none}#mermaid-svg-uUtrpaw0GidK3xT3 .loopText,#mermaid-svg-uUtrpaw0GidK3xT3 .loopText>tspan{fill:#000;stroke:none}#mermaid-svg-uUtrpaw0GidK3xT3 .loopLine{stroke-width:2px;stroke-dasharray:2, 2;stroke:#ccf;fill:#ccf}#mermaid-svg-uUtrpaw0GidK3xT3 .note{stroke:#aa3;fill:#fff5ad}#mermaid-svg-uUtrpaw0GidK3xT3 .noteText,#mermaid-svg-uUtrpaw0GidK3xT3 .noteText>tspan{fill:#000;stroke:none}#mermaid-svg-uUtrpaw0GidK3xT3 .activation0{fill:#f4f4f4;stroke:#666}#mermaid-svg-uUtrpaw0GidK3xT3 .activation1{fill:#f4f4f4;stroke:#666}#mermaid-svg-uUtrpaw0GidK3xT3 .activation2{fill:#f4f4f4;stroke:#666}#mermaid-svg-uUtrpaw0GidK3xT3 .mermaid-main-font{font-family:"trebuchet ms", verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-uUtrpaw0GidK3xT3 .section{stroke:none;opacity:0.2}#mermaid-svg-uUtrpaw0GidK3xT3 .section0{fill:rgba(102,102,255,0.49)}#mermaid-svg-uUtrpaw0GidK3xT3 .section2{fill:#fff400}#mermaid-svg-uUtrpaw0GidK3xT3 .section1,#mermaid-svg-uUtrpaw0GidK3xT3 .section3{fill:#fff;opacity:0.2}#mermaid-svg-uUtrpaw0GidK3xT3 .sectionTitle0{fill:#333}#mermaid-svg-uUtrpaw0GidK3xT3 .sectionTitle1{fill:#333}#mermaid-svg-uUtrpaw0GidK3xT3 .sectionTitle2{fill:#333}#mermaid-svg-uUtrpaw0GidK3xT3 .sectionTitle3{fill:#333}#mermaid-svg-uUtrpaw0GidK3xT3 .sectionTitle{text-anchor:start;font-size:11px;text-height:14px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-uUtrpaw0GidK3xT3 .grid .tick{stroke:#d3d3d3;opacity:0.8;shape-rendering:crispEdges}#mermaid-svg-uUtrpaw0GidK3xT3 .grid .tick text{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-uUtrpaw0GidK3xT3 .grid path{stroke-width:0}#mermaid-svg-uUtrpaw0GidK3xT3 .today{fill:none;stroke:red;stroke-width:2px}#mermaid-svg-uUtrpaw0GidK3xT3 .task{stroke-width:2}#mermaid-svg-uUtrpaw0GidK3xT3 .taskText{text-anchor:middle;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-uUtrpaw0GidK3xT3 .taskText:not([font-size]){font-size:11px}#mermaid-svg-uUtrpaw0GidK3xT3 .taskTextOutsideRight{fill:#000;text-anchor:start;font-size:11px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-uUtrpaw0GidK3xT3 .taskTextOutsideLeft{fill:#000;text-anchor:end;font-size:11px}#mermaid-svg-uUtrpaw0GidK3xT3 .task.clickable{cursor:pointer}#mermaid-svg-uUtrpaw0GidK3xT3 .taskText.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-uUtrpaw0GidK3xT3 .taskTextOutsideLeft.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-uUtrpaw0GidK3xT3 .taskTextOutsideRight.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-uUtrpaw0GidK3xT3 .taskText0,#mermaid-svg-uUtrpaw0GidK3xT3 .taskText1,#mermaid-svg-uUtrpaw0GidK3xT3 .taskText2,#mermaid-svg-uUtrpaw0GidK3xT3 .taskText3{fill:#fff}#mermaid-svg-uUtrpaw0GidK3xT3 .task0,#mermaid-svg-uUtrpaw0GidK3xT3 .task1,#mermaid-svg-uUtrpaw0GidK3xT3 .task2,#mermaid-svg-uUtrpaw0GidK3xT3 .task3{fill:#8a90dd;stroke:#534fbc}#mermaid-svg-uUtrpaw0GidK3xT3 .taskTextOutside0,#mermaid-svg-uUtrpaw0GidK3xT3 .taskTextOutside2{fill:#000}#mermaid-svg-uUtrpaw0GidK3xT3 .taskTextOutside1,#mermaid-svg-uUtrpaw0GidK3xT3 .taskTextOutside3{fill:#000}#mermaid-svg-uUtrpaw0GidK3xT3 .active0,#mermaid-svg-uUtrpaw0GidK3xT3 .active1,#mermaid-svg-uUtrpaw0GidK3xT3 .active2,#mermaid-svg-uUtrpaw0GidK3xT3 .active3{fill:#bfc7ff;stroke:#534fbc}#mermaid-svg-uUtrpaw0GidK3xT3 .activeText0,#mermaid-svg-uUtrpaw0GidK3xT3 .activeText1,#mermaid-svg-uUtrpaw0GidK3xT3 .activeText2,#mermaid-svg-uUtrpaw0GidK3xT3 .activeText3{fill:#000 !important}#mermaid-svg-uUtrpaw0GidK3xT3 .done0,#mermaid-svg-uUtrpaw0GidK3xT3 .done1,#mermaid-svg-uUtrpaw0GidK3xT3 .done2,#mermaid-svg-uUtrpaw0GidK3xT3 .done3{stroke:grey;fill:#d3d3d3;stroke-width:2}#mermaid-svg-uUtrpaw0GidK3xT3 .doneText0,#mermaid-svg-uUtrpaw0GidK3xT3 .doneText1,#mermaid-svg-uUtrpaw0GidK3xT3 .doneText2,#mermaid-svg-uUtrpaw0GidK3xT3 .doneText3{fill:#000 !important}#mermaid-svg-uUtrpaw0GidK3xT3 .crit0,#mermaid-svg-uUtrpaw0GidK3xT3 .crit1,#mermaid-svg-uUtrpaw0GidK3xT3 .crit2,#mermaid-svg-uUtrpaw0GidK3xT3 .crit3{stroke:#f88;fill:red;stroke-width:2}#mermaid-svg-uUtrpaw0GidK3xT3 .activeCrit0,#mermaid-svg-uUtrpaw0GidK3xT3 .activeCrit1,#mermaid-svg-uUtrpaw0GidK3xT3 .activeCrit2,#mermaid-svg-uUtrpaw0GidK3xT3 .activeCrit3{stroke:#f88;fill:#bfc7ff;stroke-width:2}#mermaid-svg-uUtrpaw0GidK3xT3 .doneCrit0,#mermaid-svg-uUtrpaw0GidK3xT3 .doneCrit1,#mermaid-svg-uUtrpaw0GidK3xT3 .doneCrit2,#mermaid-svg-uUtrpaw0GidK3xT3 .doneCrit3{stroke:#f88;fill:#d3d3d3;stroke-width:2;cursor:pointer;shape-rendering:crispEdges}#mermaid-svg-uUtrpaw0GidK3xT3 .milestone{transform:rotate(45deg) scale(0.8, 0.8)}#mermaid-svg-uUtrpaw0GidK3xT3 .milestoneText{font-style:italic}#mermaid-svg-uUtrpaw0GidK3xT3 .doneCritText0,#mermaid-svg-uUtrpaw0GidK3xT3 .doneCritText1,#mermaid-svg-uUtrpaw0GidK3xT3 .doneCritText2,#mermaid-svg-uUtrpaw0GidK3xT3 .doneCritText3{fill:#000 !important}#mermaid-svg-uUtrpaw0GidK3xT3 .activeCritText0,#mermaid-svg-uUtrpaw0GidK3xT3 .activeCritText1,#mermaid-svg-uUtrpaw0GidK3xT3 .activeCritText2,#mermaid-svg-uUtrpaw0GidK3xT3 .activeCritText3{fill:#000 !important}#mermaid-svg-uUtrpaw0GidK3xT3 .titleText{text-anchor:middle;font-size:18px;fill:#000;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-uUtrpaw0GidK3xT3 g.classGroup text{fill:#9370db;stroke:none;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);font-size:10px}#mermaid-svg-uUtrpaw0GidK3xT3 g.classGroup text .title{font-weight:bolder}#mermaid-svg-uUtrpaw0GidK3xT3 g.clickable{cursor:pointer}#mermaid-svg-uUtrpaw0GidK3xT3 g.classGroup rect{fill:#ECECFF;stroke:#9370db}#mermaid-svg-uUtrpaw0GidK3xT3 g.classGroup line{stroke:#9370db;stroke-width:1}#mermaid-svg-uUtrpaw0GidK3xT3 .classLabel .box{stroke:none;stroke-width:0;fill:#ECECFF;opacity:0.5}#mermaid-svg-uUtrpaw0GidK3xT3 .classLabel .label{fill:#9370db;font-size:10px}#mermaid-svg-uUtrpaw0GidK3xT3 .relation{stroke:#9370db;stroke-width:1;fill:none}#mermaid-svg-uUtrpaw0GidK3xT3 .dashed-line{stroke-dasharray:3}#mermaid-svg-uUtrpaw0GidK3xT3 #compositionStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-uUtrpaw0GidK3xT3 #compositionEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-uUtrpaw0GidK3xT3 #aggregationStart{fill:#ECECFF;stroke:#9370db;stroke-width:1}#mermaid-svg-uUtrpaw0GidK3xT3 #aggregationEnd{fill:#ECECFF;stroke:#9370db;stroke-width:1}#mermaid-svg-uUtrpaw0GidK3xT3 #dependencyStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-uUtrpaw0GidK3xT3 #dependencyEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-uUtrpaw0GidK3xT3 #extensionStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-uUtrpaw0GidK3xT3 #extensionEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-uUtrpaw0GidK3xT3 .commit-id,#mermaid-svg-uUtrpaw0GidK3xT3 .commit-msg,#mermaid-svg-uUtrpaw0GidK3xT3 .branch-label{fill:lightgrey;color:lightgrey;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-uUtrpaw0GidK3xT3 .pieTitleText{text-anchor:middle;font-size:25px;fill:#000;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-uUtrpaw0GidK3xT3 .slice{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-uUtrpaw0GidK3xT3 g.stateGroup text{fill:#9370db;stroke:none;font-size:10px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-uUtrpaw0GidK3xT3 g.stateGroup text{fill:#9370db;fill:#333;stroke:none;font-size:10px}#mermaid-svg-uUtrpaw0GidK3xT3 g.statediagram-cluster .cluster-label text{fill:#333}#mermaid-svg-uUtrpaw0GidK3xT3 g.stateGroup .state-title{font-weight:bolder;fill:#000}#mermaid-svg-uUtrpaw0GidK3xT3 g.stateGroup rect{fill:#ECECFF;stroke:#9370db}#mermaid-svg-uUtrpaw0GidK3xT3 g.stateGroup line{stroke:#9370db;stroke-width:1}#mermaid-svg-uUtrpaw0GidK3xT3 .transition{stroke:#9370db;stroke-width:1;fill:none}#mermaid-svg-uUtrpaw0GidK3xT3 .stateGroup .composit{fill:white;border-bottom:1px}#mermaid-svg-uUtrpaw0GidK3xT3 .stateGroup .alt-composit{fill:#e0e0e0;border-bottom:1px}#mermaid-svg-uUtrpaw0GidK3xT3 .state-note{stroke:#aa3;fill:#fff5ad}#mermaid-svg-uUtrpaw0GidK3xT3 .state-note text{fill:black;stroke:none;font-size:10px}#mermaid-svg-uUtrpaw0GidK3xT3 .stateLabel .box{stroke:none;stroke-width:0;fill:#ECECFF;opacity:0.7}#mermaid-svg-uUtrpaw0GidK3xT3 .edgeLabel text{fill:#333}#mermaid-svg-uUtrpaw0GidK3xT3 .stateLabel text{fill:#000;font-size:10px;font-weight:bold;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-uUtrpaw0GidK3xT3 .node circle.state-start{fill:black;stroke:black}#mermaid-svg-uUtrpaw0GidK3xT3 .node circle.state-end{fill:black;stroke:white;stroke-width:1.5}#mermaid-svg-uUtrpaw0GidK3xT3 #statediagram-barbEnd{fill:#9370db}#mermaid-svg-uUtrpaw0GidK3xT3 .statediagram-cluster rect{fill:#ECECFF;stroke:#9370db;stroke-width:1px}#mermaid-svg-uUtrpaw0GidK3xT3 .statediagram-cluster rect.outer{rx:5px;ry:5px}#mermaid-svg-uUtrpaw0GidK3xT3 .statediagram-state .divider{stroke:#9370db}#mermaid-svg-uUtrpaw0GidK3xT3 .statediagram-state .title-state{rx:5px;ry:5px}#mermaid-svg-uUtrpaw0GidK3xT3 .statediagram-cluster.statediagram-cluster .inner{fill:white}#mermaid-svg-uUtrpaw0GidK3xT3 .statediagram-cluster.statediagram-cluster-alt .inner{fill:#e0e0e0}#mermaid-svg-uUtrpaw0GidK3xT3 .statediagram-cluster .inner{rx:0;ry:0}#mermaid-svg-uUtrpaw0GidK3xT3 .statediagram-state rect.basic{rx:5px;ry:5px}#mermaid-svg-uUtrpaw0GidK3xT3 .statediagram-state rect.divider{stroke-dasharray:10,10;fill:#efefef}#mermaid-svg-uUtrpaw0GidK3xT3 .note-edge{stroke-dasharray:5}#mermaid-svg-uUtrpaw0GidK3xT3 .statediagram-note rect{fill:#fff5ad;stroke:#aa3;stroke-width:1px;rx:0;ry:0}:root{--mermaid-font-family: '"trebuchet ms", verdana, arial';--mermaid-font-family: "Comic Sans MS", "Comic Sans", cursive}#mermaid-svg-uUtrpaw0GidK3xT3 .error-icon{fill:#522}#mermaid-svg-uUtrpaw0GidK3xT3 .error-text{fill:#522;stroke:#522}#mermaid-svg-uUtrpaw0GidK3xT3 .edge-thickness-normal{stroke-width:2px}#mermaid-svg-uUtrpaw0GidK3xT3 .edge-thickness-thick{stroke-width:3.5px}#mermaid-svg-uUtrpaw0GidK3xT3 .edge-pattern-solid{stroke-dasharray:0}#mermaid-svg-uUtrpaw0GidK3xT3 .edge-pattern-dashed{stroke-dasharray:3}#mermaid-svg-uUtrpaw0GidK3xT3 .edge-pattern-dotted{stroke-dasharray:2}#mermaid-svg-uUtrpaw0GidK3xT3 .marker{fill:#333}#mermaid-svg-uUtrpaw0GidK3xT3 .marker.cross{stroke:#333}:root { --mermaid-font-family: "trebuchet ms", verdana, arial;}#mermaid-svg-uUtrpaw0GidK3xT3 {color: rgba(0, 0, 0, 0.75);font: ;}

模型
数据
完成
设置计算设备
向前计算预测值
加载模型
加载数据
取一批数据
累计
测对的数量
准确情况

6 预测(应用推理)

预测部分比较简单，也是最终的目的。
预测流程图如下：

#mermaid-svg-jZNqbCsFwX4yLQkx .label{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);fill:#333;color:#333}#mermaid-svg-jZNqbCsFwX4yLQkx .label text{fill:#333}#mermaid-svg-jZNqbCsFwX4yLQkx .node rect,#mermaid-svg-jZNqbCsFwX4yLQkx .node circle,#mermaid-svg-jZNqbCsFwX4yLQkx .node ellipse,#mermaid-svg-jZNqbCsFwX4yLQkx .node polygon,#mermaid-svg-jZNqbCsFwX4yLQkx .node path{fill:#ECECFF;stroke:#9370db;stroke-width:1px}#mermaid-svg-jZNqbCsFwX4yLQkx .node .label{text-align:center;fill:#333}#mermaid-svg-jZNqbCsFwX4yLQkx .node.clickable{cursor:pointer}#mermaid-svg-jZNqbCsFwX4yLQkx .arrowheadPath{fill:#333}#mermaid-svg-jZNqbCsFwX4yLQkx .edgePath .path{stroke:#333;stroke-width:1.5px}#mermaid-svg-jZNqbCsFwX4yLQkx .flowchart-link{stroke:#333;fill:none}#mermaid-svg-jZNqbCsFwX4yLQkx .edgeLabel{background-color:#e8e8e8;text-align:center}#mermaid-svg-jZNqbCsFwX4yLQkx .edgeLabel rect{opacity:0.9}#mermaid-svg-jZNqbCsFwX4yLQkx .edgeLabel span{color:#333}#mermaid-svg-jZNqbCsFwX4yLQkx .cluster rect{fill:#ffffde;stroke:#aa3;stroke-width:1px}#mermaid-svg-jZNqbCsFwX4yLQkx .cluster text{fill:#333}#mermaid-svg-jZNqbCsFwX4yLQkx div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);font-size:12px;background:#ffffde;border:1px solid #aa3;border-radius:2px;pointer-events:none;z-index:100}#mermaid-svg-jZNqbCsFwX4yLQkx .actor{stroke:#ccf;fill:#ECECFF}#mermaid-svg-jZNqbCsFwX4yLQkx text.actor>tspan{fill:#000;stroke:none}#mermaid-svg-jZNqbCsFwX4yLQkx .actor-line{stroke:grey}#mermaid-svg-jZNqbCsFwX4yLQkx .messageLine0{stroke-width:1.5;stroke-dasharray:none;stroke:#333}#mermaid-svg-jZNqbCsFwX4yLQkx .messageLine1{stroke-width:1.5;stroke-dasharray:2, 2;stroke:#333}#mermaid-svg-jZNqbCsFwX4yLQkx #arrowhead path{fill:#333;stroke:#333}#mermaid-svg-jZNqbCsFwX4yLQkx .sequenceNumber{fill:#fff}#mermaid-svg-jZNqbCsFwX4yLQkx #sequencenumber{fill:#333}#mermaid-svg-jZNqbCsFwX4yLQkx #crosshead path{fill:#333;stroke:#333}#mermaid-svg-jZNqbCsFwX4yLQkx .messageText{fill:#333;stroke:#333}#mermaid-svg-jZNqbCsFwX4yLQkx .labelBox{stroke:#ccf;fill:#ECECFF}#mermaid-svg-jZNqbCsFwX4yLQkx .labelText,#mermaid-svg-jZNqbCsFwX4yLQkx .labelText>tspan{fill:#000;stroke:none}#mermaid-svg-jZNqbCsFwX4yLQkx .loopText,#mermaid-svg-jZNqbCsFwX4yLQkx .loopText>tspan{fill:#000;stroke:none}#mermaid-svg-jZNqbCsFwX4yLQkx .loopLine{stroke-width:2px;stroke-dasharray:2, 2;stroke:#ccf;fill:#ccf}#mermaid-svg-jZNqbCsFwX4yLQkx .note{stroke:#aa3;fill:#fff5ad}#mermaid-svg-jZNqbCsFwX4yLQkx .noteText,#mermaid-svg-jZNqbCsFwX4yLQkx .noteText>tspan{fill:#000;stroke:none}#mermaid-svg-jZNqbCsFwX4yLQkx .activation0{fill:#f4f4f4;stroke:#666}#mermaid-svg-jZNqbCsFwX4yLQkx .activation1{fill:#f4f4f4;stroke:#666}#mermaid-svg-jZNqbCsFwX4yLQkx .activation2{fill:#f4f4f4;stroke:#666}#mermaid-svg-jZNqbCsFwX4yLQkx .mermaid-main-font{font-family:"trebuchet ms", verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-jZNqbCsFwX4yLQkx .section{stroke:none;opacity:0.2}#mermaid-svg-jZNqbCsFwX4yLQkx .section0{fill:rgba(102,102,255,0.49)}#mermaid-svg-jZNqbCsFwX4yLQkx .section2{fill:#fff400}#mermaid-svg-jZNqbCsFwX4yLQkx .section1,#mermaid-svg-jZNqbCsFwX4yLQkx .section3{fill:#fff;opacity:0.2}#mermaid-svg-jZNqbCsFwX4yLQkx .sectionTitle0{fill:#333}#mermaid-svg-jZNqbCsFwX4yLQkx .sectionTitle1{fill:#333}#mermaid-svg-jZNqbCsFwX4yLQkx .sectionTitle2{fill:#333}#mermaid-svg-jZNqbCsFwX4yLQkx .sectionTitle3{fill:#333}#mermaid-svg-jZNqbCsFwX4yLQkx .sectionTitle{text-anchor:start;font-size:11px;text-height:14px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-jZNqbCsFwX4yLQkx .grid .tick{stroke:#d3d3d3;opacity:0.8;shape-rendering:crispEdges}#mermaid-svg-jZNqbCsFwX4yLQkx .grid .tick text{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-jZNqbCsFwX4yLQkx .grid path{stroke-width:0}#mermaid-svg-jZNqbCsFwX4yLQkx .today{fill:none;stroke:red;stroke-width:2px}#mermaid-svg-jZNqbCsFwX4yLQkx .task{stroke-width:2}#mermaid-svg-jZNqbCsFwX4yLQkx .taskText{text-anchor:middle;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-jZNqbCsFwX4yLQkx .taskText:not([font-size]){font-size:11px}#mermaid-svg-jZNqbCsFwX4yLQkx .taskTextOutsideRight{fill:#000;text-anchor:start;font-size:11px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-jZNqbCsFwX4yLQkx .taskTextOutsideLeft{fill:#000;text-anchor:end;font-size:11px}#mermaid-svg-jZNqbCsFwX4yLQkx .task.clickable{cursor:pointer}#mermaid-svg-jZNqbCsFwX4yLQkx .taskText.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-jZNqbCsFwX4yLQkx .taskTextOutsideLeft.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-jZNqbCsFwX4yLQkx .taskTextOutsideRight.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-jZNqbCsFwX4yLQkx .taskText0,#mermaid-svg-jZNqbCsFwX4yLQkx .taskText1,#mermaid-svg-jZNqbCsFwX4yLQkx .taskText2,#mermaid-svg-jZNqbCsFwX4yLQkx .taskText3{fill:#fff}#mermaid-svg-jZNqbCsFwX4yLQkx .task0,#mermaid-svg-jZNqbCsFwX4yLQkx .task1,#mermaid-svg-jZNqbCsFwX4yLQkx .task2,#mermaid-svg-jZNqbCsFwX4yLQkx .task3{fill:#8a90dd;stroke:#534fbc}#mermaid-svg-jZNqbCsFwX4yLQkx .taskTextOutside0,#mermaid-svg-jZNqbCsFwX4yLQkx .taskTextOutside2{fill:#000}#mermaid-svg-jZNqbCsFwX4yLQkx .taskTextOutside1,#mermaid-svg-jZNqbCsFwX4yLQkx .taskTextOutside3{fill:#000}#mermaid-svg-jZNqbCsFwX4yLQkx .active0,#mermaid-svg-jZNqbCsFwX4yLQkx .active1,#mermaid-svg-jZNqbCsFwX4yLQkx .active2,#mermaid-svg-jZNqbCsFwX4yLQkx .active3{fill:#bfc7ff;stroke:#534fbc}#mermaid-svg-jZNqbCsFwX4yLQkx .activeText0,#mermaid-svg-jZNqbCsFwX4yLQkx .activeText1,#mermaid-svg-jZNqbCsFwX4yLQkx .activeText2,#mermaid-svg-jZNqbCsFwX4yLQkx .activeText3{fill:#000 !important}#mermaid-svg-jZNqbCsFwX4yLQkx .done0,#mermaid-svg-jZNqbCsFwX4yLQkx .done1,#mermaid-svg-jZNqbCsFwX4yLQkx .done2,#mermaid-svg-jZNqbCsFwX4yLQkx .done3{stroke:grey;fill:#d3d3d3;stroke-width:2}#mermaid-svg-jZNqbCsFwX4yLQkx .doneText0,#mermaid-svg-jZNqbCsFwX4yLQkx .doneText1,#mermaid-svg-jZNqbCsFwX4yLQkx .doneText2,#mermaid-svg-jZNqbCsFwX4yLQkx .doneText3{fill:#000 !important}#mermaid-svg-jZNqbCsFwX4yLQkx .crit0,#mermaid-svg-jZNqbCsFwX4yLQkx .crit1,#mermaid-svg-jZNqbCsFwX4yLQkx .crit2,#mermaid-svg-jZNqbCsFwX4yLQkx .crit3{stroke:#f88;fill:red;stroke-width:2}#mermaid-svg-jZNqbCsFwX4yLQkx .activeCrit0,#mermaid-svg-jZNqbCsFwX4yLQkx .activeCrit1,#mermaid-svg-jZNqbCsFwX4yLQkx .activeCrit2,#mermaid-svg-jZNqbCsFwX4yLQkx .activeCrit3{stroke:#f88;fill:#bfc7ff;stroke-width:2}#mermaid-svg-jZNqbCsFwX4yLQkx .doneCrit0,#mermaid-svg-jZNqbCsFwX4yLQkx .doneCrit1,#mermaid-svg-jZNqbCsFwX4yLQkx .doneCrit2,#mermaid-svg-jZNqbCsFwX4yLQkx .doneCrit3{stroke:#f88;fill:#d3d3d3;stroke-width:2;cursor:pointer;shape-rendering:crispEdges}#mermaid-svg-jZNqbCsFwX4yLQkx .milestone{transform:rotate(45deg) scale(0.8, 0.8)}#mermaid-svg-jZNqbCsFwX4yLQkx .milestoneText{font-style:italic}#mermaid-svg-jZNqbCsFwX4yLQkx .doneCritText0,#mermaid-svg-jZNqbCsFwX4yLQkx .doneCritText1,#mermaid-svg-jZNqbCsFwX4yLQkx .doneCritText2,#mermaid-svg-jZNqbCsFwX4yLQkx .doneCritText3{fill:#000 !important}#mermaid-svg-jZNqbCsFwX4yLQkx .activeCritText0,#mermaid-svg-jZNqbCsFwX4yLQkx .activeCritText1,#mermaid-svg-jZNqbCsFwX4yLQkx .activeCritText2,#mermaid-svg-jZNqbCsFwX4yLQkx .activeCritText3{fill:#000 !important}#mermaid-svg-jZNqbCsFwX4yLQkx .titleText{text-anchor:middle;font-size:18px;fill:#000;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-jZNqbCsFwX4yLQkx g.classGroup text{fill:#9370db;stroke:none;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);font-size:10px}#mermaid-svg-jZNqbCsFwX4yLQkx g.classGroup text .title{font-weight:bolder}#mermaid-svg-jZNqbCsFwX4yLQkx g.clickable{cursor:pointer}#mermaid-svg-jZNqbCsFwX4yLQkx g.classGroup rect{fill:#ECECFF;stroke:#9370db}#mermaid-svg-jZNqbCsFwX4yLQkx g.classGroup line{stroke:#9370db;stroke-width:1}#mermaid-svg-jZNqbCsFwX4yLQkx .classLabel .box{stroke:none;stroke-width:0;fill:#ECECFF;opacity:0.5}#mermaid-svg-jZNqbCsFwX4yLQkx .classLabel .label{fill:#9370db;font-size:10px}#mermaid-svg-jZNqbCsFwX4yLQkx .relation{stroke:#9370db;stroke-width:1;fill:none}#mermaid-svg-jZNqbCsFwX4yLQkx .dashed-line{stroke-dasharray:3}#mermaid-svg-jZNqbCsFwX4yLQkx #compositionStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-jZNqbCsFwX4yLQkx #compositionEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-jZNqbCsFwX4yLQkx #aggregationStart{fill:#ECECFF;stroke:#9370db;stroke-width:1}#mermaid-svg-jZNqbCsFwX4yLQkx #aggregationEnd{fill:#ECECFF;stroke:#9370db;stroke-width:1}#mermaid-svg-jZNqbCsFwX4yLQkx #dependencyStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-jZNqbCsFwX4yLQkx #dependencyEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-jZNqbCsFwX4yLQkx #extensionStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-jZNqbCsFwX4yLQkx #extensionEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-jZNqbCsFwX4yLQkx .commit-id,#mermaid-svg-jZNqbCsFwX4yLQkx .commit-msg,#mermaid-svg-jZNqbCsFwX4yLQkx .branch-label{fill:lightgrey;color:lightgrey;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-jZNqbCsFwX4yLQkx .pieTitleText{text-anchor:middle;font-size:25px;fill:#000;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-jZNqbCsFwX4yLQkx .slice{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-jZNqbCsFwX4yLQkx g.stateGroup text{fill:#9370db;stroke:none;font-size:10px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-jZNqbCsFwX4yLQkx g.stateGroup text{fill:#9370db;fill:#333;stroke:none;font-size:10px}#mermaid-svg-jZNqbCsFwX4yLQkx g.statediagram-cluster .cluster-label text{fill:#333}#mermaid-svg-jZNqbCsFwX4yLQkx g.stateGroup .state-title{font-weight:bolder;fill:#000}#mermaid-svg-jZNqbCsFwX4yLQkx g.stateGroup rect{fill:#ECECFF;stroke:#9370db}#mermaid-svg-jZNqbCsFwX4yLQkx g.stateGroup line{stroke:#9370db;stroke-width:1}#mermaid-svg-jZNqbCsFwX4yLQkx .transition{stroke:#9370db;stroke-width:1;fill:none}#mermaid-svg-jZNqbCsFwX4yLQkx .stateGroup .composit{fill:white;border-bottom:1px}#mermaid-svg-jZNqbCsFwX4yLQkx .stateGroup .alt-composit{fill:#e0e0e0;border-bottom:1px}#mermaid-svg-jZNqbCsFwX4yLQkx .state-note{stroke:#aa3;fill:#fff5ad}#mermaid-svg-jZNqbCsFwX4yLQkx .state-note text{fill:black;stroke:none;font-size:10px}#mermaid-svg-jZNqbCsFwX4yLQkx .stateLabel .box{stroke:none;stroke-width:0;fill:#ECECFF;opacity:0.7}#mermaid-svg-jZNqbCsFwX4yLQkx .edgeLabel text{fill:#333}#mermaid-svg-jZNqbCsFwX4yLQkx .stateLabel text{fill:#000;font-size:10px;font-weight:bold;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-jZNqbCsFwX4yLQkx .node circle.state-start{fill:black;stroke:black}#mermaid-svg-jZNqbCsFwX4yLQkx .node circle.state-end{fill:black;stroke:white;stroke-width:1.5}#mermaid-svg-jZNqbCsFwX4yLQkx #statediagram-barbEnd{fill:#9370db}#mermaid-svg-jZNqbCsFwX4yLQkx .statediagram-cluster rect{fill:#ECECFF;stroke:#9370db;stroke-width:1px}#mermaid-svg-jZNqbCsFwX4yLQkx .statediagram-cluster rect.outer{rx:5px;ry:5px}#mermaid-svg-jZNqbCsFwX4yLQkx .statediagram-state .divider{stroke:#9370db}#mermaid-svg-jZNqbCsFwX4yLQkx .statediagram-state .title-state{rx:5px;ry:5px}#mermaid-svg-jZNqbCsFwX4yLQkx .statediagram-cluster.statediagram-cluster .inner{fill:white}#mermaid-svg-jZNqbCsFwX4yLQkx .statediagram-cluster.statediagram-cluster-alt .inner{fill:#e0e0e0}#mermaid-svg-jZNqbCsFwX4yLQkx .statediagram-cluster .inner{rx:0;ry:0}#mermaid-svg-jZNqbCsFwX4yLQkx .statediagram-state rect.basic{rx:5px;ry:5px}#mermaid-svg-jZNqbCsFwX4yLQkx .statediagram-state rect.divider{stroke-dasharray:10,10;fill:#efefef}#mermaid-svg-jZNqbCsFwX4yLQkx .note-edge{stroke-dasharray:5}#mermaid-svg-jZNqbCsFwX4yLQkx .statediagram-note rect{fill:#fff5ad;stroke:#aa3;stroke-width:1px;rx:0;ry:0}:root{--mermaid-font-family: '"trebuchet ms", verdana, arial';--mermaid-font-family: "Comic Sans MS", "Comic Sans", cursive}#mermaid-svg-jZNqbCsFwX4yLQkx .error-icon{fill:#522}#mermaid-svg-jZNqbCsFwX4yLQkx .error-text{fill:#522;stroke:#522}#mermaid-svg-jZNqbCsFwX4yLQkx .edge-thickness-normal{stroke-width:2px}#mermaid-svg-jZNqbCsFwX4yLQkx .edge-thickness-thick{stroke-width:3.5px}#mermaid-svg-jZNqbCsFwX4yLQkx .edge-pattern-solid{stroke-dasharray:0}#mermaid-svg-jZNqbCsFwX4yLQkx .edge-pattern-dashed{stroke-dasharray:3}#mermaid-svg-jZNqbCsFwX4yLQkx .edge-pattern-dotted{stroke-dasharray:2}#mermaid-svg-jZNqbCsFwX4yLQkx .marker{fill:#333}#mermaid-svg-jZNqbCsFwX4yLQkx .marker.cross{stroke:#333}:root { --mermaid-font-family: "trebuchet ms", verdana, arial;}#mermaid-svg-jZNqbCsFwX4yLQkx {color: rgba(0, 0, 0, 0.75);font: ;}

模型
数据
结果
设置计算设备
计算
加载模型
读取图像
图像预处理
结果翻译成
标签名称
打印标签名称

本篇只是大体梳理了一下整个流程。具体细节会慢慢补齐。

pytorch搭建分类网络并进行训练和测试相关推荐

  1. 实战：使用Pytorch搭建分类网络（肺结节假阳性剔除）

    实战:使用Pytorch搭建分类网络(肺结节假阳性剔除) 阅前可看: 实战:使用yolov3完成肺结节检测(Luna16数据集)及肺实质分割 其中的脚本资源getMat.py文件是对肺结节进行切割. ...

  2. 使用Pytorch搭建U-Net网络并基于DRIVE数据集训练(语义分割)学习笔记

    使用Pytorch搭建U-Net网络并基于DRIVE数据集训练(语义分割)学习笔记 https://www.bilibili.com/video/BV1rq4y1w7xM?spm_id_from=33 ...

  3. pytorch建立mobilenetV3-ssd网络并进行训练与预测

    pytorch建立mobilenetV3-ssd网络并进行训练与预测 前言 Step1:搭建mobilenetV3-ssd网络框架 需要提前准备的函数和类. mobilenetV3_large 调用m ...

  4. 使用PyTorch搭建ResNet50网络

    ResNet18的搭建请移步:使用PyTorch搭建ResNet18网络并使用CIFAR10数据集训练测试 ResNet34的搭建请移步:使用PyTorch搭建ResNet34网络 ResNet101 ...

  5. pytorch 搭建 VGG 网络

    目录 1. VGG 网络介绍 2. 搭建VGG 网络 3. code 1. VGG 网络介绍 VGG16 的网络结构如图: VGG 网络是由卷积层和池化层构成基础的CNN 它的CONV卷积层的参数全部 ...

  6. Pytorch搭建LeNet5网络

    本讲目标:   介绍Pytorch搭建LeNet5网络的流程. Pytorch八股法搭建LeNet5网络 1.LeNet5网络介绍 2.Pytorch搭建LeNet5网络 2.1搭建LeNet网络 2 ...

  7. Pytorch搭建FCN网络

    Pytorch搭建FCN网络 前言 原理 代码实现 前言 FCN 全卷积网络,用卷积层替代CNN的全连接层,最后通过转置卷积层得到一个和输入尺寸一致的预测结果: 原理 为了得到更好的分割结果,论文中提 ...

  8. Pytorch搭建GoogLeNet网络（奥特曼分类）

    1 爬取奥特曼 get_data.py import requests import urllib.parse as up import json import time import osmajor ...

  9. pytorch搭建孪生网络比较人脸相似性

    参考文献: 神经网络学习小记录52--Pytorch搭建孪生神经网络(Siamese network)比较图片相似性_Bubbliiiing的博客-CSDN博客_神经网络图片相似性 Python - ...

  10. 关于使用Pytorch搭建FCN网络的笔记

    需要准备的第三方库: numpy.os.torch.cv2 一.Dataload.py的编写 该部分的主要工作是完成数据的预处理.训练集测试集的划分以及数据集的读取,即得到train_dataload ...

最新文章

  1. B 站硬件大佬在 GitHub 上开源了一款神器
  2. AngularJS 无限滚动加载数据控件 ngInfiniteScroll
  3. ob服务器维修视频,教你如何使用OB系统 还在看转播？你OUT了！
  4. 013年十大急需的热门IT技能
  5. 3.linux安装vsftpd服务
  6. linux安装多版本php_linux如何安装多个php版本
  7. 实验二+065+方绎杰
  8. 设计模式 -- 解释器模式（Interpreter Pattern）
  9. 复制文件或文件夹时出错_为什么对于小白来说，复制文件一个都会出错？？？...
  10. amd 服务器cpu型号怎么看,AMD CPU型号识别方法图解
  11. 《创业基础》创新创业章节测试【3-8】
  12. php写phalapi,用PHP搭建你的云平台-PhalApi Pro框架介绍
  13. 错误代码105是什么意思
  14. __stack_chk_fail之栈帧溢出检测技术
  15. 云计算成朝阳产业，未来发展已成趋势
  16. 小鹤双拼 - 微软拼音自动配置双拼方案
  17. 在命令提示符 “CMD” 中打印输出时间
  18. python打印2020某月的日历_教你用Python打印2020年日历
  19. dok_matrix
  20. python adb开发-adb常见用法

热门文章

  1. PHP开发工资条短信通知
  2. 中小企业财务管理的重要性
  3. 【强档推荐】动漫初音未来Ⅱ主题
  4. 可在线OTA升级的嵌入式系统设计方案
  5. 生意参谋指数之指数推理原值
  6. 如何看oracle 删除完全,怎么查看以前Oracle卸载干净没?
  7. python双向链表以及双向循环链表
  8. 乐高机器人巡线C语言程序,乐高机器人巡线原理
  9. 4.郝斌C语言笔记——基本的输入和输出函数的用法
  10. MT7628KN/MT7628AN处理器区别解析,参数对比