在华为云平台的ModelArts 从0开始部署自己的数据集与模型
开篇废话!
这是我从大学以来,现在都大三了,写的第一篇文章,为什么大三开始写呢,因为自己才开始慢慢的上手,也积累了一点点经验,废话不多说,看硬货。
因为自己参加华为的ICT比赛,然后用的华为的ModelArts云开发平台(类似百度的AI studio)中间遇见了许多的曲折,所以写这篇文章帮大家避坑
在ModelArts 从0开始部署自己的模型(一)—用自己的数据集训练数据
1、上传自己的数据集
1、1 创建华为云的桶
(1)在华为云打开OBS对象存储服务,点击创建桶(类似创建个云储存空间)
(2)选择区域(这个很重要!!!)
因为后续创建数据集,是需要桶和数据集在一个区域中,不然数据传不上去用不了,我人在成都,然后选西南地区,创好之后发现数据集那边没有西南地区的选项,哭了
(3)桶的名称和数据冗余存储策略
这里看下面的提示选择合适自己的就好
1、2上传自己的数据集
打开桶,点对象里的上传对象,就可以上传自己的数据集了(一般最好压缩文件)
在记住旁边这个路径后续有用哦
2、创建Notebook
(1)在ModelArts的开发环境选择创建Notebook
(2)然后选择自己的开发环境
3、在Notebook里面下载自己桶里的数据集
(1)检查桶是否创建成功或数据是否上传成功
import moxing as mox
mox.file.exists('obs://liekai/data_input/data.zip')
‘’‘
这个是查询是否数据集创建成功的,里面参数就是 obs:// 然后就是桶里面的路径地址
成功返回Ture
’‘’
(2)从桶里面下载数据到work目录下
from modelarts.session import Session
session = Session()
session.obs.download_file(src_obs_file="obs://liekai/data_input/data.zip",
dst_local_dir="/home/ma-user/work/")
’‘’
第一个参数就是数据集的具体位置,第二个就是你解压的目录,解压在work才会持久化的保存,不然你下次还得下载解压一遍
‘’‘
(3)解压数据集到当前目录
!unzip data.zip
最后附上官方链接
如何导入大文件到Notebook中
我的AI studio个人链接 https://aistudio.baidu.com/aistudio/usercenter,欢迎大家fork
github我网撇,就不咋用,终极还是太菜了
喜欢的就动一下小手手点个赞
在华为云平台的ModelArts 从0开始部署自己的数据集与模型相关推荐
- 训练、标注成本节省90%!华为云自动化AI开发平台ModelArts 3.0发布,从训练数据到模型落地一站式打通...
鱼羊 发自 凹非寺 量子位 报道 | 公众号 QbitAI 今年的华为,着实遭遇了不小的困难. 尤其是供应链,包括芯片方面的打击,让华为轮值董事长郭平坦承"的确对华为的生产.运营带来了很大困 ...
- 华为云平台使用手册_训练、标注成本节省90%!华为云自动化AI开发平台ModelArts 3.0发布,从训练数据到模型落地一站式打通...
鱼羊 发自 凹非寺 量子位 报道 | 公众号 QbitAI 今年的华为,着实遭遇了不小的困难. 尤其是供应链,包括芯片方面的打击,让华为轮值董事长郭平坦承"的确对华为的生产.运营带来了很大困 ...
- 【愚公系列】华为云系列之ModelArts+AppCube带你识别101种西式美食【我的低代码AI体验】
文章目录 前言 1.ModelArts是什么 2.AppCube是什么 一.华为云系列之ModelArts+AppCube带你识别101种西式美食 1. AI Gallery 订阅模型及部署 2. 获 ...
- 基于鸿蒙Hi3861和华为云平台的烟雾报警器
基于鸿蒙Hi3861的烟雾报警器 项目需求 硬件介绍 Hi3861 MQ-2 软件介绍 功能设计 修改配置文件 编写功能程序 后续 项目需求 随着社会的发展,现如今,人们对自己生活的安全越来越关心.俗 ...
- C#编写上位机连接华为云平台IoTDA
C#连接华为云平台IoTDA 需求 前期准备 具体设计 代码目录简述: 工程配置参数 具体程序 App.config 主程序 连接服务器 接收到消息 消息发布回调 服务器连接成功 断开服务器连接 格式 ...
- 关于华为云平台上服务器虚拟机(银河麒麟服务器操作系统V10SP1)多网卡网络通信问题
文章目录 一.问题背景 二.解决方法 1. 服务器虚拟机的网卡配置 2. 添加路由表和策略路由 3. 测试路由策略生效 4. 添加定时任务 5. 重启crond服务 一.问题背景 在某项目的华为云平台 ...
- 华为云GaussDB(for MySQL)2.0全新升级,三大技术大揭秘
摘要:9月23日,在华为全联接2021主会场,华为高级副总裁.华为云CEO.消费者云服务总裁张平安发表"深耕数字化,一切皆服务"主题演讲,并发布了GaussDB(for MySQL ...
- 华为云平台部署虚拟机-SinoDB
在日常运维中经常需要在华为云平台上部署虚拟机,涉及操作系统类型比较多,为了提高虚拟机部署效率,我们通常会把镜像文件做成虚拟机模版,下面是虚拟机模版创建及部署的过程,希望能给大家带来一些借鉴. 一.注册 ...
- 工业智能网关BL110应用之61:如何实现智能楼宇控制BACnet 接入华为云平台
COM口采集 楼宇控制BACnet的配置 工业智能网关一共有四个COM 接口, 以COM口采集楼宇控制BACnet MS/TP设备为例,COM口 485接口A+.B-分别对应楼宇控制 BACnet M ...
最新文章
- python打印列表元素_python打印列表中指定元素的所有下标
- 快排--java实现
- 网络通信基础:ICMP基础通识
- 美团mysql 闪回_MyFlash——美团点评的开源MySQL闪回工具
- java-HashMap源码学习
- How to change context root of a dynamic web project in Eclipse
- 达观杯文本智能处理(5)
- Spring 框架 基础
- NDK开发基础④增量更新之客户端合并差分包
- 从零开始学习makefile(7) makefile的filter的作用
- LaTex论文编写常用代码
- Python+Selenium爬取新浪微博数据
- php第三方微信app支付接口开发,PHP开发APP微信支付接口
- 解决webView无法播放视频的问题
- Android学习日记(yzy):Fragment与VierPager简单实现
- workman 日志_Workman手册笔记一
- 【ESP32_8266_WiFi (十四)】ESP8266多任务处理 – Ticker库使用说明
- 直流有刷电机编码器测速基于STM32F302R8+X-NUCLEO-IHM07M1
- 【狂神说】Docker 学习笔记【基础篇】
- Python编程:从入门到退学(bushi)第二章
热门文章
鱼羊 发自 凹非寺 量子位 报道 | 公众号 QbitAI 今年的华为,着实遭遇了不小的困难. 尤其是供应链,包括芯片方面的打击,让华为轮值董事长郭平坦承"的确对华为的生产.运营带来了很大困 ...
鱼羊 发自 凹非寺 量子位 报道 | 公众号 QbitAI 今年的华为,着实遭遇了不小的困难. 尤其是供应链,包括芯片方面的打击,让华为轮值董事长郭平坦承"的确对华为的生产.运营带来了很大困 ...
文章目录 前言 1.ModelArts是什么 2.AppCube是什么 一.华为云系列之ModelArts+AppCube带你识别101种西式美食 1. AI Gallery 订阅模型及部署 2. 获 ...
基于鸿蒙Hi3861的烟雾报警器 项目需求 硬件介绍 Hi3861 MQ-2 软件介绍 功能设计 修改配置文件 编写功能程序 后续 项目需求 随着社会的发展,现如今,人们对自己生活的安全越来越关心.俗 ...
C#连接华为云平台IoTDA 需求 前期准备 具体设计 代码目录简述: 工程配置参数 具体程序 App.config 主程序 连接服务器 接收到消息 消息发布回调 服务器连接成功 断开服务器连接 格式 ...
文章目录 一.问题背景 二.解决方法 1. 服务器虚拟机的网卡配置 2. 添加路由表和策略路由 3. 测试路由策略生效 4. 添加定时任务 5. 重启crond服务 一.问题背景 在某项目的华为云平台 ...
摘要:9月23日,在华为全联接2021主会场,华为高级副总裁.华为云CEO.消费者云服务总裁张平安发表"深耕数字化,一切皆服务"主题演讲,并发布了GaussDB(for MySQL ...
在日常运维中经常需要在华为云平台上部署虚拟机,涉及操作系统类型比较多,为了提高虚拟机部署效率,我们通常会把镜像文件做成虚拟机模版,下面是虚拟机模版创建及部署的过程,希望能给大家带来一些借鉴. 一.注册 ...
COM口采集 楼宇控制BACnet的配置 工业智能网关一共有四个COM 接口, 以COM口采集楼宇控制BACnet MS/TP设备为例,COM口 485接口A+.B-分别对应楼宇控制 BACnet M ...