“冻结”一个层指的是该层将不参加网络训练,即该层的权重永不会更新。在进行fine-tune时我们经常会需要这项操作。 在使用固定的embedding层处理文本输入时,也需要这个技术。

可以通过向层的构造函数传递trainable参数来指定一个层是不是可训练的,如:

frozen_layer = Dense(32,trainable=False)

此外,也可以通过将层对象的trainable属性设为True或False来为已经搭建好的模型设置要冻结的层。 在设置完后,需要运行compile来使设置生效,例如:

x = Input(shape=(32,))

layer = Dense(32)

layer.trainable = False

y = layer(x)

frozen_model = Model(x, y)

# in the model below, the weights of `layer` will not be updated during training

frozen_model.compile(optimizer='rmsprop', loss='mse')

layer.trainable = True

trainable_model = Model(x, y)

# with this model the weights of the layer will be updated during training

# (which will also affect the above model since it uses the same layer instance)

trainable_model.compile(optimizer='rmsprop', loss='mse')

frozen_model.fit(data, labels) # this does NOT update the weights of `layer`

trainable_model.fit(data, labels) # this updates the weights of `layer`

只是搬运这些,当做自己的笔记用,具体参考keras文档。

keras冻结_keras ”冻结“ 网络层相关推荐

  1. keras冻结_Keras 实现加载预训练模型并冻结网络的层

    在解决一个任务时,我会选择加载预训练模型并逐步fine-tune.比如,分类任务中,优异的深度学习网络有很多. ResNet, VGG, Xception等等... 并且这些模型参数已经在imagen ...

  2. php模拟表格冻结,PHPExcel冻结(锁定)表头的简单实现方法

    本文实例讲述了PHPExcel冻结(锁定)表头的简单实现方法.分享给大家供大家参考,具体如下: PHPExcel是一款功能比较强大的操作微软excel的PHP插件,在导出数据时为了方便查看,有时需要锁 ...

  3. 王思聪5亿投资神话破灭?旗下普思资本股权遭冻结,冻结期3年

    今日一早,王思聪便因"普思资本股权遭冻结"成功登顶微博热搜榜. 据天眼查数据显示,北京普思投资有限公司(以下简称普思资本)股权遭冻结,具体冻结数额不详,冻结期限自2019年10月1 ...

  4. 怎么装python的keras库_Keras教程:用Python进行深度学习的终极入门指南

    在这个循序渐进的Keras教程中,你将学习如何在Python中构建卷积神经网络! 事实上,我们将训练一个用于手写数字的分类器,它在著名的MNIST数据集上夸大了99%的准确度. 在开始之前,我们应该注 ...

  5. C# GridView 冻结列 冻结表头

    主要是这四个引用 我的是复杂表头 如果不是复杂表头 headerRows: 2 这个属性设置1即可 width: "100%", height: "480px" ...

  6. android 免root冻结,应用冻结器免root下载-应用冻结器 安卓版v0.10-pc6手机下载

    应用冻结器免root是一款能够将手机应用冻结的软件.应用冻结器对于那些删又删不掉又老自动运行的应用来说非常的实用.有了应用冻结器可以将这些应用冻结起来不在运行! 软件介绍 应用冻结器免root是一款安 ...

  7. .NET框架设计(高级框架架构模式)—钝化程序、逻辑冻结、冻结程序的延续、瞬间转移

    1]开篇介绍 这一篇文章我早准备写的,迟迟未写的原因是它过于抽象不太容易表达,也很难掌握:之前对它的理解还处于比较简单的功能性上,但是最近随着对领域驱动设计及架构的研究,设计思想有了一个提升对它的理解 ...

  8. SAP中供应商采购冻结和冻结功能(质量原因)的应用区别?

    在企业的实际应用中,如果说到供应商冻结,从用户或初学者的角度可能会把这个东西看得很简单.一开始我也是这么认为的.但实际情况可能要复杂一些.以致于如果有人问起,我可能还没有那么笃定的给出完美的答案. 首 ...

  9. iPhone屏幕冻结/一直冻结如何解决?

    如果您的iPhone在更新或者重启时屏幕一直处于冻结状态该怎么办?这也是让人非常沮丧的事情.在这里小编就带大家了解一下解决这类问题解决方案. 如何解冻iPhone 13系列 / 12 / 12 Pro ...

最新文章

  1. js基础--javascript基础概念之String 类型
  2. Swift使用iconfont图标
  3. 【大脑】改善记忆力的食物有哪些
  4. 7.7. 其他证书工具
  5. Linux 手动或自动挂载 NTFS 硬盘
  6. python-23 xml.etree.ElementTree模块
  7. Sharepoint学习笔记---SPList--创建一个带有Lookup字段的List
  8. C语言入门之指针用法教程
  9. 【操作系统】实验 模拟操作系统的存储系统
  10. jQuery的实现原理和核心
  11. 薄荷Android团队招聘啦
  12. 岂曰无衣 与子同袍——解析月狂病amp;壳之少女的世界
  13. 制作(转换)ico图标
  14. 知识分享 | 什么是CAN线波特率
  15. 如何为BLE 设备添加OTA DFU 空中升级服务(下)?
  16. 黑鲨3能升级鸿蒙5g吗,配上高通骁龙865 5G芯片的黑鲨游戏手机3,到底有多懂手游玩家!...
  17. 要取好名字的来这儿!哈哈
  18. 神经网络的英文缩写是啥,神经网络的英文是什么
  19. USACO 2008 Jan Gold 3.Cell Phone Network 树形dp
  20. MyEclipse如何配置Tomcat

热门文章

  1. matlab从csv文件中读取时间转换异常
  2. 【数据结构与算法基础】AOE网络与关键路径
  3. 【题解】文体(划掉)陌上花开
  4. 不规则三角网(TIN)
  5. 类设计者的核查表(转自C++rumination)
  6. 【RPA之家转载】智能RPA平台Ikigai获1300万美元种子轮融资,初创团队来自麻省理工
  7. 比较时间并计算时间差
  8. JAVA可以赋值分数吗,信息技术支持下的教学反思超星尔雅网课答案
  9. 番茄工作方法以及番茄工作表
  10. FMA20180529