1. Fine-tuning 微调 Transfer learning

Fine-tuning 微调是整个深度学习领域是最重要的技能。如果前面的知识只能选择一个,那就是微调了。Transfer learning迁移学习,就是可以用别的成功网络的参数等来训练跟你相似的模型。简单来说是重用。

跟详细知识请参考: Transfer learning 迁移学习指南







2. 代码实现







3. Q&A

    1. fine tuning和transfer training实际上是同一个东西
    1. 源数据集和目标数据集最好相似,fine tuning效果才好。
    1. auto-gluon自动化框架最主要是用了微调。

参考

https://www.bilibili.com/video/BV1Sb4y1d7CR?p=1

fine-tune 微调 Transfer learning 迁移学习 动手学深度学习v2相关推荐

  1. 深度学习经典教程:深度学习+动手学深度学习

    作者:[美] Ian,Goodfellow(伊恩·古德费洛),[加] Yoshua,Bengio(约书亚·本吉奥)等 出版社:人民邮电出版社 品牌:异步图书 出版时间:2019-06-01 深度学习经 ...

  2. [深度学习]动手学深度学习笔记-3

    Task-2 文本预处理:语言模型:循环神经网络基础 3.1 文本预处理 文本是一类序列数据,一篇文章可以看作是字符或单词的序列,本节将介绍文本数据的常见预处理步骤,预处理通常包括四个步骤: 读入文本 ...

  3. 图像风格迁移(动手学深度学习)

    画风迁移 简单来说就是将另一张图像的绘画风格在不改变原图图像内容的情况下加入到原图像中,从而"创造"名家风格的绘画作品. 这其中牵扯到很多难题,但是很多问题已经被一一攻克,一般而言 ...

  4. [深度学习]动手学深度学习笔记-5

    Task2--梯度消失.梯度爆炸 5.1 梯度消失与梯度爆炸的概念 深度神经网络训练的时候,采用的是反向传播方式,该方式使用链式求导,计算每层梯度的时候会涉及一些连乘操作,因此如果网络过深. 那么如果 ...

  5. [深度学习]动手学深度学习笔记-14

    Task9--目标检测基础 14.1 目标检测和边界框 在前面的一些章节中,我们介绍了诸多用于图像分类的模型.在图像分类任务里,我们假设图像里只有一个主体目标,并关注如何识别该目标的类别.然而,很多时 ...

  6. [深度学习]动手学深度学习笔记-15

    Task6--批量归一化和残差网络 15.1 批量归一化 本节我们介绍批量归一化(batch normalization)层,它能让较深的神经网络的训练变得更加容易.在(实战Kaggle比赛:预测房价 ...

  7. [深度学习]动手学深度学习笔记-11

    Task06--梯度下降 11.1 梯度下降法 梯度 导数我们都非常熟悉,既可以表示某点的切线斜率,也可以表示某点变化率,公式如下表示: f′(x)=lim⁡Δx→0ΔyΔx=lim⁡Δx→0f(x+ ...

  8. [深度学习]动手学深度学习笔记-12

    Task10--GAN:DCGAN 12.1 GAN原理 GAN的基本原理其实非常简单,这里以生成图片为例进行说明.假设我们有两个网络,G(Generator)和D(Discriminator).正如 ...

  9. [深度学习]动手学深度学习笔记-6

    Task-3--循环神经网络进阶 6.1 长短期记忆(LSTM) 6.1.1 理论知识理解 理解LSTM网络 6.1.2 LSTM的从零开始实现 以下附上代码: 导入相应的包 import numpy ...

  10. 动手学深度学习之图像风格迁移

    参考伯禹学习平台<动手学深度学习>课程内容内容撰写的学习笔记 原文链接:https://www.boyuai.com/elites/course/cZu18YmweLv10OeV/less ...

最新文章

  1. php扩展的框架,新一代轻量级PHP扩展框架 Asf
  2. eos和以太坊有什么关系_以太坊 2.0是什么?
  3. 你真的明确知道它们的用法吗-从基础学起
  4. C++多继承中重写不同基类中相同原型的虚函数
  5. How to start MySQL on Linux
  6. 如何自行查询SAP Spartacus Organization Unit List的取数逻辑
  7. SPSS输出的结果都要写到文章中吗
  8. 三星有网络显示无网络连接到服务器,三星s5296连接了网络为什么不能用 看完这些原因就知道了...
  9. 一个demo学会c#
  10. python 字节字符串_Python字符串转换为字节,字节转换为字符串
  11. ThinkPHP学生社团管理系统
  12. 谷歌邮箱的注册以及GEE的注册使用教程
  13. 2022华为机试真题 C++ 实现【事件推送】
  14. C++输入一串数值,逗号隔开,回车结束
  15. 【MySQL】查看mysql的warnings
  16. 重庆大学计算机学院张敏,张敏(安徽大学生命科学学院院长)_百度百科
  17. 智链ChainNova携手IBM推出端到端区块链解决方案
  18. 如何让android的service一直在后台运行
  19. 提高写作能力与表达能力
  20. virtualbox安装虚拟机后,虚拟机不显示ip问题

热门文章

  1. python在线diff工具在哪_使用Python创建你自己的diff-tool
  2. 计算机word的常用功能技巧,10个Word操作神技巧,看看你会多少?
  3. 【转载】C#反射 获取程序集信息和通过类名创建类实例(转载)
  4. make[1]: *** [storage/perfschema/unittest/CMakeFiles/pfs_connect_attr-t.dir/all] 错误 2 解决方法...
  5. 《C语言程序设计:问题与求解方法》——2.15节算术表达式
  6. 【读书笔记《Bootstrap 实战》】6.单页营销网站
  7. [c++] polymorphism without virtual function
  8. GEO hash 核心原理
  9. 卓尼斯ZT-180点评
  10. [翻译] MSAlertController