依赖项:

horovod

Horovod是Uber开源的又一个深度学习工具,它的发展吸取了Facebook "Training ImageNet In 1 Hour" 与百度 "Ring Allreduce" 的优点

pip install horovod --no-cache-dir

不依赖的horovod:

https://github.com/bleakie/MaskInsightface

数据文件:train.rec

训练入口:

recognition/partial_fc/mxnet/train_memory.py

配置文件,dataset路径也在这里配置:

recognition/partial_fc/mxnet/default.py

网络,数据参数:

def parse_args():parser = argparse.ArgumentParser(description='Train parall face network')# generalparser.add_argument('--dataset', default='emore', help='dataset config')parser.add_argument('--network', default='r100', help='network config')parser.add_argument('--loss', default='cosface', help='loss config')

获取网络:

embedding = eval(config.net_name).get_symbol()

函数:

def get_symbol_embedding():embedding = eval(config.net_name).get_symbol()all_label = mx.symbol.Variable('softmax_label')all_label = mx.symbol.BlockGrad(all_label)out_list = [embedding, all_label]out = mx.symbol.Group(out_list)return out, embedding

加载预训练:

recognition/partial_fc/mxnet/memory_module.py

sym, arg_params, aux_params =mx.model.load_checkpoint(r"model", 0)

    def fit(self,train_data,optimizer_params,batch_end_callback,initializer,arg_params=None,aux_params=None):# Bind -> Init_params -> Init_optimizersself.bind(train_data.provide_data, train_data.provide_label, True)self.init_params(initializer, arg_params, aux_params, False)self.init_optimizer(optimizer_params=optimizer_params)# Sync init_arg_params, _aux_params = self.backbone_module.get_params()_arg_params_rank_0 = self.broadcast_parameters(_arg_params)_aux_params_rank_0 = self.broadcast_parameters(_aux_params)self.backbone_module.set_params(_arg_params_rank_0, _aux_params_rank_0)

insightface mxnet训练horovod版相关推荐

  1. insightface mxnet训练 旧版

    11年it研发经验,从一个会计转行为算法工程师,学过C#,c++,java,android,php,go,js,python,CNN神经网络,四千多篇博文,三千多篇原创,只为与你分享,共同成长,一起进 ...

  2. insightface mxnet训练 out of Memory

    11年it研发经验,从一个会计转行为算法工程师,学过C#,c++,java,android,php,go,js,python,CNN神经网络,四千多篇博文,三千多篇原创,只为与你分享,共同成长,一起进 ...

  3. mxnet 训练--如何生成rec 数据 +自己在本机测试的结果

    mxnet 训练: http://www.th7.cn/system/lin/201512/145949.shtml 一.MXNet,不是直接处理原生数据比如图片之类的,而是处理的自定义的一种文件格式 ...

  4. Mxnet训练自己的数据集并测试

    使用Mxnet训练图片分类类器 1.准备数据: (1)建立一个根目录然后,再为每一个类别的图片建立一个子文件夹,把每一类图片放入对应的子文件夹即可. --root: ----class1 ----cl ...

  5. Step by Step演示如何训练Pytorch版的EfficientDet

    向AI转型的程序员都关注了这个号???????????? 机器学习AI算法工程   公众号:datayx Paper:https://arxiv.org/abs/1911.09070 Base Git ...

  6. insightface人脸训练数据rec文件制作

    MXNet框架用于做图像相关的项目时,读取图像主要有两种方式:第一种是读.rec格式的文件,优点是.rec文件比较稳定,移植到别的电脑上也能复现,缺点是占空间(.rec文件的大小基本上和图像的存储大小 ...

  7. 字词句段篇章语言训练人教版上册r_字词句段篇章

    自由(freedom liberty)是一个政治哲学(political philosophy)概念,在此条件下人类可以自我支配,凭借自由意志而行动,并为自身的行为负责.小学生作文网www zzxu ...

  8. mxnet训练arcface加速实验

    本地训练服务器:Ubuntu16.04.cuda10.1.cudnn7.6.5.1080Ti x 8 主要是从 https://github.com/deepinsight/insightface/i ...

  9. CIFAR-10模型训练python版cifar10数据集

    在之前的博客中已经对CIFAR-10做了整体的解析,但是目前从tensorflow/models/tree/master/tutorials/image/cifar10中下载下来,运行cifar10_ ...

最新文章

  1. 25个优秀的jQuery滑块教程和插件
  2. java换成中文_如果我们的编程替换成中文会变成怎样?
  3. opencv中匹配点对的坐标提取
  4. MATLAB基础教程(9)——高级积分运算、二重积分
  5. php框架大全图解_PHP框架汇总 - 鱼煎的个人空间 - OSCHINA - 中文开源技术交流社区...
  6. 小米更新显示非官方rom_魔趣ROM 安装刷入教程(小白新手)
  7. nodejs实践录:windows 10系统nodejs环境搭建
  8. 【图文详解】,cisco,***配置
  9. Jsoup进阶之获取指定数据
  10. c语言程序设计与算法,程序设计与算法(一)C语言程序设计
  11. 计算机单片机毕设答辩问题,单片机毕业论文答辩常见问题.docx
  12. Codeblocks 17汉化
  13. 基于VRML的虚拟校园漫游系统
  14. 有限元方法入门:有限元方法简单的一维算例
  15. 开发转测试,需要哪些必备测试技能?
  16. 计算机二级ppt没弄内容,计算机二级office考试中PPT母版知识考察点有哪些
  17. 工商数据采集的10个经典方法
  18. Hyperopt 参数优化
  19. redis踩坑:redis哨兵开启了保护模式导致主从切换不同步
  20. 如何识别图片中的表格数据

热门文章

  1. VMWare不能安装64位操作系统原因探析
  2. UNIX中的Poll函数
  3. pg多行合并为逗号分隔一行_postgresql 将逗号分隔的字符串转为多行的实例_PostgreSQL_数据库...
  4. Linux内核网络数据发送(五)——排队规则
  5. TSS和内核态堆栈的关系
  6. 里海水位上升的原因_汽轮机真空下降的原因及处理
  7. oracle 12519,TNS-12519 与 processes 参数设置
  8. 3 账套升级u8_用友U8条码管理的应用对仓库有什么好处?
  9. mac软件移植linux,相比软件迁移 Apple Silicon Mac的Linux系统移植工作更困难
  10. mysql插入数据die_吴裕雄 10-MySQL插入数据