关注微信公众号:paper大讲堂(paperclasssroom)获取更多教程和资源。

概述

本模块将会以经典的例子:MNIST手写数字识别 来带你快速入门DLS服务,并了解DLS的基本功能,包括:

  • 数据的存储与操作
  • 项目的概念与操作
  • 任务的基本操作

本文档中涉及的演示代码和数据集来源于网络,你可以在这里下载到:MNIST.zip(https://s3.meituan.net/v1/mss_0e5a0056f3b64f79aa4749ffa68ce372/cms001/MNIST.zip)

创建项目

在美团云控制台“数据处理与AI”菜单下,找到“深度学习平台”,点开后会进入深度学习平台。点击深度学习平台左侧导航“任务”,会看到项目列表。在创建任务之前需要先创建一个项目。项目是任务的集合,一个项目下可以包含若干个任务。点击项目之后,可以进入任务列表。

代码与数据上传

创建任务前,需要先上传任务涉及到的运行代码和数据集。数据需要上传至DLS的文件服务,文件系统是HDFS。点击DLS左侧导航“文件”,可以进入文件管理页面。您可以创建文件夹,上传代码和数据集。

我在“mnist-files”文件夹下创建了“input”和“output”两个文件夹,其中将代码文件和数据集存放至input中,output存放一些输出文件。当然这里你可以随意命名,只需要在创建任务时,匹配对应的目录即可。

进入“input”文件夹下,点击“上传”,选择对应的代码文件和数据集,我这里预先准备了mnist.py、train.tfrecords和test.tfrecords这三个文件,其中mnist.py是代码主文件,train.tfrecords和test.tfrecords分别是训练集和测试集。如果您的代码文件有多个的话,需要您将多个文件打包上传,建议使用tar.gz。

创建任务并启动

点击“任务”,切换到任务的项目列表,点击“mnist”,进入项目下的任务列表,点击“新建任务”,配置任务的相关内容。

计算资源配置

其中,新建任务需要配置三部分内容:“计算资源”、“输入输出”、“基础信息”。其中,“计算资源”是任务运行的计算资源环境,我们支持CPU和GPU两大类,每个大类都支持“分布式”和“单机”模式。因为我这里是一个简单的业务模型,所以我选择的计算资源为“CPU-单机”。

输入输出配置

接下来需要配置输入输出内容,这里的例子比较简单,代码文件只有一个mnist.py。我们在“代码文件”这一行,点击“文件选择”按钮,在弹出的文件选择框中选中mnist.py文件,点击确认,这样我们就完成了代码文件的配置。 由于我们只有一个代码文件,所以系统会默认将mnist.py同时指定为“启动代码文件(Main)”,“启动代码文件(Main)”这个输入框就不需要填写了。 当您的代码文件是由多个文件组合成的压缩包时,您将此压缩包配置成代码文件的同时,还需要在“启动代码文件(Main)”这一行手动配置启动代码(main)在压缩包中的地址。例如,启动代码在解压后的文件夹的根目录,这里直接输入文件名即可,否则,您需要填写完整的相对目录,如“mnist/mnist.py”。

接下来我们需要配置训练数据和模型保存地址。在这里配置的两个目录您可以在代码中分别以–datadir和–modeldir这两个命令行参数获取对应的值。相应代码示例如下:

parser = argparse.ArgumentParser()#配置训练数据的地址
parser.add_argument('--data_dir', type=str, default='', help='input data path')
#配置模型保存地址
parser.add_argument('--model_dir', type=str, default='', help='output model path')FLAGS, _ = parser.parse_known_args()

如果您还有一些其他的参数,例如训练轮数、batch大小等,您可以在代码中使用,并在“启动参数”输入框进行参数赋值。

基础信息

在基础信息这里,我们需要定义“任务名称”、“任务备注”、“任务完成通知”以及创建后是否立即启动等信息。这些都配置完成之后,点击“确认新建”,则任务创建完成,开始调度运行。

任务启动与运行

回到项目中的任务列表,我们可以看到任务处于“调度中”或“运行中”,这个时候您可以去做别的工作,等待任务的运行完成。如果你配置了“任务完成通知”的联系人,在任务完成时,您将会收到任务完成的通知(短信和邮件)

查看任务详情

点击任务名称可以进入到任务的详情页,您可以在这里查看任务的详细信息,包括计算资源、输入输出和基本信息。

任务日志查看

我们提供了任务的日志查看功能,点击任务列表或任务详情页中的TrackingUI按钮,即可查看任务在各个节点上的运行日志。


如日志所示,我们当前的模型的准确率是79%。

美团云深度学习平台-快速开始相关推荐

  1. 打造企业级云深度学习平台——小米云深度学习平台的架构设计与实现

    作者:陈迪豪,小米深度学习工程师,负责小米云深度学习平台的架构和实现,目前专注于TensorFlow和Kubernetes社区. 责编:何永灿,欢迎人工智能领域技术投稿.约稿.给文章纠错,请发送邮件至 ...

  2. 小米云深度学习平台的架构设计与实现

    深度学习服务介绍 机器学习与人工智能,相信大家已经耳熟能详,随着大规模标记数据的积累.神经网络算法的成熟以及高性能通用GPU的推广,深度学习逐渐成为计算机专家以及大数据科学家的研究重点.近年来,无论是 ...

  3. 从0开始建立谷歌云深度学习平台

    对于研究深度学习的朋友来说,GPU服务器是必不可少的,但是对于很多朋友来说可能没有现成的昂贵GPU服务器供使用,因此利用云服务器来训练模型成为另一个选型.谷歌云较其他云服务器(AWS,阿里云等等)的优 ...

  4. 从头开始搭建谷歌云深度学习平台

    对于研究深度学习的朋友来说,GPU服务器是必不可少的,但是对于很多朋友来说可能没有现成的昂贵GPU服务器供使用,因此利用云服务器来训练模型成为另一个选型.谷歌云较其他云服务器(AWS,阿里云等等)的优 ...

  5. 阿里云深度学习平台试玩

    1,第一个图片分类cifar-10代码中可以看出,(在本地跑)参数是这样传进服务器的: python cifar_pai.py --buckets /Users/kylefan/program/cif ...

  6. 腾讯云机器学习平台技术负责人:揭秘深度学习平台DI-X背后的秘密

    本文转自:https://news.cnblogs.com/n/566061/ 腾讯正式发布了旗下深度学习平台 DI-X(Data Intelligence X),这是继今年 1 月推出 FPGA 云 ...

  7. 云计算深度学习平台架构与实践的必经之路

    定义云深度学习平台什么是云深度学习?随着机器学习的发展,单机运行的机器学习任务存在缺少资源隔离.无法动态伸缩等问题,因此要用到基于云计算的基础架构服务.云机器学习平台并不是一个全新的概念,Google ...

  8. deepfashion 深度学习_基于Alluxio加速混合云下的Intel Analytics Zoo开源深度学习平台...

    本文描述了Alluxio如何在混合云环境中,加速oneAPI支撑的英特尔Analytics Zoo开源平台深度学习模型训练.本文会讨论有关新架构和工作流的细节,以及Alluxio的性能优势和基准测试结 ...

  9. 在谷歌云服务器上搭建深度学习平台

    2018年9月8日笔记 登录谷歌云控制台需要科学上网,连接云主机不需要科学上网. 阅读此文并进行操作的前提是已经成功申请谷歌云的使用资格,并获得300美元使用金额. 如何申请谷歌云的使用,请阅读另外一 ...

最新文章

  1. 第六章练习题和知识面扩充
  2. [LeetCode]题解(python):140-Word Break II
  3. hdu3622 二分+2sat
  4. Windows事件等待学习笔记(一)—— 临界区自旋锁
  5. C语言实现pid算法(附完整源码)
  6. csv 20位数据 如何打开可以预览完整数字_干货Python Pandas 做数据分析之玩转 Excel 报表分析...
  7. C# 发送email邮件!
  8. 腾讯Techo Park开发者大会召开在即,全球200多位专家共话云计算
  9. vue项目中报常见错误
  10. w3cschool数据库mysql教程_SQLite 简介 | w3cschool菜鸟教程
  11. CUID卡写入错误数据被锁死——入坑NFC的一段经历
  12. 软件测试中的测试报告
  13. 郁闷,俺被S3C2416 狠狠的暗算了一把。
  14. 怎样在Git码云上上传项目
  15. 计算机炫酷功能,【实用】上班族必备!10个实用电脑炫酷小技巧~
  16. 组装一台个人深度学习工作站/科学计算主机
  17. classes是什么意思怎么读_class是什么意思_class的翻译_音标_读音_用法_例句_爱词霸在线词典...
  18. JAVA 7z Seven Zip 压缩和解压文件
  19. Oracle 12c 数据库的环境搭建以及安装过程
  20. easyexcel复杂表格---包含单元格合并,表格标题,以及自定义字段写入

热门文章

  1. the spell of the rising moon
  2. Bixby的AI语音,能否推进人机交互进程?
  3. 陈松送:22个免费发布视频的平台
  4. Chrome浏览器截取网页生成图片
  5. 推荐 :数据可视化与信息可视化浅谈
  6. 历年阿里面试题汇总(2017年不断更新中)
  7. 自动回复邮件 html,创意十足的邮件自动回复
  8. 修炼“七字诀”的小米——读《小米创业思考》
  9. Excel数据导出图片
  10. MAC:更新失败无法进系统的解决方案