【本地Mindspore代码迁移至华为云ModelArts平台训练】
***************************************************
码字不易,收藏之余,别忘了给我点个赞吧!
***************************************************
---------Start
本地Mindspore代码迁移至华为云ModelArts平台训练
前提:本地代码能正常运行
1、上传代码和数据集至华为云OBS
- 注册华为云OBS账号并使用AK登录。
参考这篇文件OBS账号注册和登录 - 修改MindSpore本地训练代码文件,新增以下代码,目的是动态获取在控制台上输入的路径,而不是写在代码里面的静态路径。
# 创建解析parser = argparse.ArgumentParser(description="train flower",formatter_class=argparse.ArgumentDefaultsHelpFormatter)# 添加参数parser.add_argument('--train_url', type=str,help='the path model saved')parser.add_argument('--data_url', type=str, help='the training data')# 解析参数args, unkown = parser.parse_known_args()# 输出位置train_url = args.train_url# 数据集位置data_url = args.data_url
将原来的数据集路径用data_url变量代替,权重保存路径用train_url变量代替。
修改完成后,在Pycharm的Terminal里(或其他可执行python程序的终端)执行以下命令若程序成功运行,表明修改成功(注意命令之间的空格,建议直接复制)。
python pro_2.py --train_url ./output --data_url H:/dataset/flower_data/flower_p
hotos/
- 本地调试完后,将模型训练的相关代码和数据集上传至OBS文件夹下。
华为云运行环境训练
华为云Notebook创建实例
登录华为云ModelArts控制台(华为云官网搜索框输入ModelArts控制台点击即可进入)
选择开发环境-Notebook-点击创建
设置相关参数,第一次部署的同学可以将时间设置成两个小时,模型用GPU或华为芯片训练大约需要1个小时,再加上其他操作,两个小时会比较合适。
第一次部署请选择MindSpore-CPU(价格低),熟悉部署环境且程序能正常训练后,再重新创建MindSpore-GPU实例或者华为计算芯片(价格高)执行训练作业,两者部署过程除了镜像选择不同,其余操作均一模一样。
JupyterLab加载数据和代码
创建成功后,状态为运行中,如下图所示,再点击打开JupterLab。
选择Notebook中的MindSpore进入编辑器。
通过以下指令将OBS中的数据集文件夹和代码文件夹拷贝至左侧文件存放区域。copy_parallel函数的第一个参数为OBS中的文件,第二个参数为拷贝过来的文件。
import moxing as mox
mox.file.copy_parallel('obs://anle-data/flower_photos','./flower_all')
mox.file.copy_parallel('obs://anle-data/py/pro_2.py','./pro_2.py')
- output:模型相关输出存放文件夹(需新建)
开始训练
- 模型输出文件夹需要手动新建,处理好后点击Terminal图标,跳转至控制台,在控制台输入相关指令进入到与训练代码同目录的文件夹后执行以下指令。
- 输入以下指令进入到当前工作区域
cd work
- 输入以下指令执行训练程序
python pro_2.py --data_url ../flower_all/ --train_url ../output/
…/flower_all/:数据集所在文件夹
…/output/:模型相关输出存放文件夹
可以看到模型已经开始运行,并保存权重文件在output文件夹下,亦可下载文件至本地。训练结束后,记得关闭实例,实例打开后会一直计费。
重要一点是代码必须先在本地调试好,再上传华为云平台进行训练,不然中途会出现各种难以解释的问题,祝好运。
【本地Mindspore代码迁移至华为云ModelArts平台训练】相关推荐
- 本地pytorch代码迁移至华为云ModelArts平台训练
本地pytorch代码迁移至华为云ModelArts平台训练 上传代码和数据集至华为云OBS 注册华为云OBS账号并使用AK登录. 参考这篇文件OBS账号注册和登录 修改pytorch本地训练代码文件 ...
- 基于华为云ModelArts平台利用MobileNetV2算法实现5类花卉分类
*************************************************** 码字不易,收藏之余,别忘了给我点个赞吧! *************************** ...
- 跑道防侵入,华为云ModelArts平台助力航空器识别AI模型开发
上海麦图信息科技有限公司,借助华为云ModelArts一站式AI开发与管理平台,开发出跑道防侵入场景中的航空器识别AI模型. 近年来,"AI的应用和落地"逐渐成了具化的关键词,它和 ...
- 华为云modelarts平台使用
系列文章目录 第一章 华为云modelarts平台使用 第二章 华为云modelarts平台SDK的调用 第三章 ros+modelarts实现多车辆协作 文章目录 系列文章目录 前言 一.华为云mo ...
- AI创想秀,体验华为云ModelArts平台声音分类
目录 一.AI Gallery 社区体验 二.通过华为云 ModelArts 平台声音分类 三.华为云 ModelArts 总结 一.AI Gallery 社区体验 AI Gallery 是在 Mod ...
- 【云原生】“0”代码时代——基于华为云ModelArts识别手绘草图
前言:人工智能是当今最火热的话题之一,不管是不是计算机行业的从业者,懂一点人工智能已经成为常识,但是人工智能的高数学门槛.高编程门槛让人望而却步.低代码时代已经悄然而止,部署自己的人工智能模型已经不再 ...
- 位居中国机器学习公有云市场份额第一,华为云 ModelArts 的进阶之路
近日,国际权威研究机构国际数据公司(IDC)发布的<中国AI云服务市场(2020上半年)跟踪>报告显示,华为云 ModelArts 位居机器学习公有云服务中国市场份额第一位. 数据来源:I ...
- ATN开源社区基于华为云ModelArts进行AI开发的实践
ATN 公有链和智能矩阵 Atmatrix,采用区块链智能合约技术建立分布式账本,构建去中心化的 AI 交易市场,可以交易 AIaaS 的 AI API. AI 数据.AI 算力.AI 训练模型等.在 ...
- 二、华为云ModelArts零代码实现美食分类识别
@Author:Runsen @Date:2020/5/21 上次搭建了华为云ModelArts,今天就零代码实现美食分类识别 文章目录 下载数据集 上传数据 创建项目 标注图片 模型训练 部署 下载 ...
最新文章
- html每个段落空前空两格,科普:为什么段落开始要空两格(两个汉字)?
- Javascript引擎单线程机制及setTimeout执行原理说明
- android 解析错误 真机,AndroidStudio使用真机调试时出的一些bug
- 2d游戏中关于碰撞以及渲染层级关系
- 基于肌电信号(sEMG) 的深度学习手势分类
- 安卓版 网易云音乐 6.4.3
- Android程序员英文介绍,安卓程序员面试英文自我介绍
- Linux系统管理(一)基础管理
- 表示整数x的绝对值大于5时值为真的c语言表达式是——.,1表示'整数x的绝对值大于5'时值为'真'的C语言表达式是_____...
- vs2010无法打开项目文件,此安装不支持该项目类型解决方法
- Zookeeper分布式锁
- 三氟磺隆(CAS 82097-50-5)的全球与中国市场2022-2028年:技术、参与者、趋势、市场规模及占有率研究报告
- python模块(modules)
- 双向长短期记忆网络(BiLSTM)详解
- 全能成熟稳定开源分布式存储Ceph破冰之旅-上
- 系统集成项目需求调研日志
- 抖音作品和直播间如何获取更多流量
- 先进先出-FCFS-调度算法-C语言实现
- 智能控制器,智能终端的“大脑” 要求升级,挑战即是机遇
- 数据结构之索引表的创建设计