无论你在创业还是在做学术研究,这些工具都将使你的技能更上一层楼。

学术界在推进技术方面发挥了巨大作用,但学术界和工业界往往存在一种分割状态。我们经常会看到这种现象:无数很棒的辅助工具在学术界被忽视,但在工业界很受欢迎。对于很多研究者来说,学习一种新工具可能存在困难,不愿意花费过多的时间去尝试,在当前自己掌握的工具足以应对各种问题时尤其如此。

其实,有些工具一时未见到效果,在后期可能会有十倍的回报。

来自剑桥大学的计算机科学博士生 Aliaksei Mikhailiuk 为我们整理了机器学习博士在获得学位之前需要掌握的九种工具。他在剑桥大学获得物理学硕士学位,在布里斯托大学获得工程学士学位。他对研究、开发、部署感兴趣,还能熟练掌握计算机视觉算法、聚合和自然语言处理等技术。现任职华为(英国)高级人工智能工程师。

个人主页:https://www.linkedin.com/in/aliakseimikhailiuk/

Mikhailiuk 将这些工具按用途分为四类:可隔离环境、实验跟踪、相互协作以及可视化

可隔离环境工具

机器学习是一个快速发展的领域,常用的包更新非常频繁。尽管开发人员做出了努力,但较新的版本通常与旧版本不兼容,这样给研究者带来很多麻烦。幸运的是,有工具可以解决这个问题!在这一方面,Mikhailiuk 推荐了两个工具:Docker 和 Conda。

Docker

Mikhailiuk 攻读博士学位期间,他有一台由大学管理的机器,学校会定期进行更新。通常情况下是一夜之间更新,没有任何通知。你可以想象,当更新后的第二天早上发现自己大部分工作与最新的驱动程序不兼容,是多么令人崩溃。Mikhailiuk 发现 Docker 可以很好地解决。

Docker 允许将软件包装在称为容器的包中。容器是具有自己的软件、库和配置文件的独立单元。在一个简化的视图中,容器是一个独立的虚拟操作系统,它具有与外部世界通信的手段。Docker 是一个开源的应用容器引擎,让开发者可以打包他们的应用以及依赖包到一个可移植的容器中,然后发布到任何流行的 Linux 或 Windows 操作系统的机器上,也可以实现虚拟化,容器是完全使用沙箱机制,相互之间不会有任何接口。

一个完整的 Docker 由以下几个部分组成:

  • DockerClient 客户端

  • Docker Daemon 守护进程

  • Docker Image 镜像

  • DockerContainer 容器

Docker 教程:https://aws.amazon.com/cn/blogs/opensource/why-use-docker-containers-for-machine-learning-development/

Conda

现在,复用别人的代码成为了一种新的规范。GitHub 作为一个代码托管云服务网站,帮助开发者存储和管理其项目源代码,且能够追踪、记录并控制用户对其代码的修改。研究者可以克隆上面的代码,安装并提出自己的解决方案,而不需要自己写任何东西。

但是 GitHub 也有不方便的情况,当多个项目一起使用时,你会遇到包管理问题,因为不同的项目需要不同版本的包。

Conda 可以解决这个问题 。Conda 是一个开源跨平台语言无关的包管理与环境管理系统,它允许创建多个环境并快速安装、运行和更新包及其依赖项,用户可以在隔离的环境之间快速切换。

Conda 教程:https://conda.io/projects/conda/en/latest/user-guide/getting-started.html#starting-conda

运行、跟踪和记录实验工具

在应用领域想要获得博士学位,严谨性和一致性是两个基本支柱。假如你是研究机器学习模型的,或多或少都能遇到这种情况——你创建了许多不同的模型来试验不同的参数甚至整个架构。你还想尝试优化器的选择、学习率、时期数等。因此,实际上,你将进行许多不同的实验,并且将越来越难以整理结果。在这一方面,Aliaksei Mikhailiuk 向我们展示了如何正确方便地管理和记录自己的 ML 和 DL 实验工具,主要推荐了 Weights & Biases,MLFlow,Screen 工具。

Weights & Biases

wandb panel 一组简单指标 Snapshot——训练损失、学习率和平均验证损失。请注意,你还可以跟踪系统参数。

W&B(Weights & Biases) 是一个平台,可以帮助数据科学家跟踪他们的模型、数据集、系统信息等。只需几行代码,用户就可以开始跟踪有关这些功能的所有内容。它免费供个人使用,团队使用通常需要付费,但用于学术目的的团队是免费的。你可以将 W&B 与自己喜欢的框架一起使用,例如 TensorFlow、Keras、PyTorch、SKlearn、fastai 等。

W&B 提供了以下 4 个有用的工具:

  • Dashboard:实验跟踪;

  • Artifacts:数据集版本控制、模型版本控制;

  • Sweeps:超参数优化;

  • Reports 保存和共享可重现的结果。

W&B 教程:https://docs.wandb.ai/quickstart

MLFlow

MLFlow 是一个能够覆盖机器学习全流程(从数据准备到模型训练到最终部署)的新平台,它是一款管理机器学习工作流程的工具,主要有三个功能模块:Tracking 跟踪和记录、Project 项目管理和 Models 模型管理。MLflow 支持 Java、Python、R 和 REST API 等。

MLFlow 具有以下主要组件:

  • 跟踪:用于跟踪试验,以记录和比较参数与结果;

  • 模型:用于通过各种 ML 库管理模型,并将其部署到各种模型服务和推理平台;

  • 项目:用于将 ML 代码打包成可重用、可再现的格式,以便与其他数据科学家共享或转移到生产环境;

  • 模型注册表:使你可以将模型存储集中化,以便使用版本控制和批注功能来管理模型的完整生命周期阶段转换;

  • 模型服务:可用于将 MLflow 模型以 REST 终结点的形式托管。

MLFlow 教程:https://www.mlflow.org/docs/latest/tutorials-and-examples/tutorial.html

Screen

对于每个研究者来说,让实验通宵运行而且机器不会进入休眠状态再好不过了。当进行远程工作时,很多人都会担心 ssh 会话中断——代码运行几个小时就停止了。

screen 命令允许用户在一个窗口内使用多个终端会话,可以断开连接,也可以重新连接已断开连接的会话。每个会话都可以恢复连接,这样就算会话断开了,用户也不必担心数据丢失。

Screen 教程:https://www.geeksforgeeks.org/screen-command-in-linux-with-examples/

协作工具

学术界缺乏有效的团队管理机制,在某种程度上这是由于学术界会严格划分个人贡献造成的。然而,机器学习的发展速度需要大家共同努力。Mikhailiuk 推荐了两个非常基本的工具:GitHub 以及 Lucidchart,它们对于有效的沟通非常方便,尤其是在远程工作上。

GitHub

GitHub 是通过 Git 进行版本控制的软件源代码托管服务平台,同时提供付费账户和免费账户,这两种账户都可以创建公开或私有的代码仓库,但付费用户支持更多功能。除了允许个人和组织创建和访问保管中的代码以外,它也提供了一些方便社会化共同软件开发的功能,包括允许用户追踪其他用户、组织、软件库的动态,对软件代码的改动和 bug 提出评论等。GitHub 也提供图表功能,用于概观显示开发者们怎样在代码库上工作以及软件的开发活跃程度。

就在近日,GitHub 正式发布了 2021 年度报告。过去一年里,有 1600 万开发者加入了 GitHub,目前平台的开发者数量已经达到了 7300 万;过去一年里,他们在 GitHub 上创建了 6100 万个存储库。世界财富 100 强企业中的 84% 都在使用 GitHub。

GitHub 教程:https://docs.github.com/en/get-started/quickstart/hello-world

Lucidchart

Lucidchart 是一款免费的可以支持离线操作的谷歌浏览器图表插件,可以帮助用户绘制包括流程图、实体模型、UML、思维导图等多种图表的绘制工作。它提供了很多免费绘图模板,大大地加快了用户的绘图速度。该应用的一大优势是,它基于 HTML5,因此用户不需要下载本地应用程序,就可以在电脑、iPad 等设备上使用该应用。它的另一主要优势是共享的协作空间和在图表旁边做笔记的能力。

Lucidchart 教程:https://www.lucidchart.com/pages/tour

可视化工具

提交论文时,研究人员经常会遇到拒稿的情况,这让 Mikhailiuk 意识到可视化功能和结果一样重要。如果审稿人没有太多时间,或者对论文涉及的领域不熟悉,通常来说论文会被拒掉,其中一部分原因可能是论文中的视图给人印象不深刻。因此,Mikhailiuk 推荐了 Inkscape 和 Streamlit 这两个工具。

Inkscape

Inkscape 是一个开源的矢量图编辑工具,使用可伸缩向量图形 (SVG),以及基于 W3C 标准的 open XML 格式作为其默认文件格式。设计过程可能从一张涂鸦、一幅素描或者软件中模型设计开始,这些可能不足以完成一整个项目。Inkscape 可以帮助你将以上不成熟的素材转变为专业的设计,用于广告发布、模型制作等用途。Inkscape 还能提供 TexText 扩展,使用此软件包,你可以将 latex 公式无缝集成到图像中。

Inkscape 推荐教程:https://inkscape.org/learn/tutorials/

Streamlit

Streamlit 和常规 Web 框架不同之处在于,它不需要你去编写任何客户端代码(HTML/CSS/JS),只需要编写普通的 Python 模块,就可以在很短的时间内创建美观并具备高度交互性的界面,从而快速生成数据分析或者机器学习的结果;另一方面,和那些只能通过拖拽生成的工具也不同的是,你仍然具有对代码的完整控制权。

教程地址:https://builtin.com/machine-learning/streamlit-tutorial

以上就是 Mikhailiuk 在获得机器学习博士学位之前需要掌握的九个工具,你不妨也学习一下,相信这些工具在你之后的学习、工作中,会起到事半功倍的效果。

原文链接:https://towardsdatascience.com/nine-tools-i-wish-i-mastered-before-my-phd-in-machine-learning-708c6dcb2fb0

剑桥CS博士推荐,毕业前要掌握的 9 个工具相关推荐

  1. 杜克大学计算机科学博士,杜克大学计算机科学CS博士学位申请介绍

    杜克大学计算机科学CS博士学位 该专业在算法式.建筑学.人工智能和科学计算.系统等方面有一定的研究.该博士项目包括课程学习和课题研究.课程学习也设计了一些相关领域课程的学习,所有的学生都要参加特别的研 ...

  2. 前百度资深NLP算法工程师(剑桥女博士)带来求职八问八答

    前百度高级NLP算法工程师(剑桥女博士)带来求职八问八答 在求职自然语言处理相关岗位的过程中,有很多小伙伴们都希望获得资深导师的面试指导.小编特此提取了小伙伴们在面试过程中遇到的部分问题,总结出了八问 ...

  3. 这个24岁北航博士刚毕业就受聘211大学副教授,他大一就保研,学术能力太牛了.........

    全世界只有3.14 % 的人关注了 爆炸吧知识 本文综合整理自:量子位.微言航语 近日,有一个人的"朋友圈"在朋友圈火了. 别误会,超模君可没在玩套娃游戏.截图给大家搬来了,快看 ...

  4. 你身边的博士刚毕业以及稳定下来后的年薪大约是 多少?

    链接:https://www.zhihu.com/question/263631425 编辑:深度学习与计算机视觉 声明:仅做学术分享,侵删 读博在一定的阶段有时不仅仅是读博,它需要付出的成本也不是简 ...

  5. 电子科技大学计算机博士不好毕业吗,超六成博士生无法正常毕业:教育部数据告诉你哪个专业和学校最难读...

    如果你准备在国内高校攻读博士学位(或者已经开始深造),延期毕业恐怕是一个不怎么令人愉快,却又不能忽视的问题.随着我国研究生招生数量的连年增加,按期拿到博士毕业证和学位证似乎也越来越难. 想知道国内哪些 ...

  6. 剑桥女博士创立情绪识别 AI 公司,帮助自闭症患者理解他人表情

    很多智能设备能预测我们下一步想要做什么,但是它们却无法知道为什么我们要那样做. 作者|DataGirls 本文经授权转载自DataGirls(ID:DataGirls) <她>(Her) ...

  7. 毕业前三年如何拿到好绩效

    毕业前三年战略打法 入职0.5年 入职1.5年 入职2.5年 如何拿到好绩效 制定目标/职业规划 居安思危 日常工作 技术成长 总结 毕业前三年战略打法 入职 0.5 年 作为职场新人,目标只有一个, ...

  8. IT专业大学生毕业前必做的1010件事

    0001搞定Linux操作系统 总的来说,不会Linux根本做不好程序员! 1.安全性高,内核高效稳定,不会中win的病毒,死机或彻底挂掉的情况基本上不会出现.大量的网络管理软件.网络分析软件和网络安 ...

  9. 白左机器人_“学术放养”和“认真负责”并不冲突,芝大CS博士谈从导师身上学到的几件事...

    机器之心转载 来源:知乎 作者:褚则伟 Kevin Gimpel 是 TTIC 和芝加哥大学计算机科学系的一位助理教授.博士生导师.他不会手把手教你做研究,但总会留很长的「comments」.在这种「 ...

最新文章

  1. awk: (FILENAME=- FNR=1) 致命错误: 试图访问字段 -2
  2. java 嵌套对象序列化_在javascript中将复杂的,嵌套的,用户定义的对象序列化为字符串...
  3. Linux mount/unmount命令
  4. java小程序:求完全数
  5. 系统在此应用程序堆栈溢出_从部署我的第一个完整堆栈Web应用程序中学到的经验教训...
  6. php框架 wc if_PHP if else语句
  7. Java GridBagLayout 简单使用
  8. OpenCV辅助对象(help objects)(1)_TermCriteria
  9. Ubuntu18.04安装ROS Melodic(解决网络原因,先将所需压缩包下载到本地,然后rosdep update)
  10. Python第三方库使用——splinter
  11. 归纳下js面向对象的几种常见写法
  12. Asp.Net(C#.VB)Array、ArrayList和List的区别
  13. 十六进制数相加校验和计算程序
  14. Linux日志终极指南
  15. CentOs7下Zabbix安装教程——zabbix agent安装和前端配置
  16. 计算机管理里面和打印机相关的,打印机设备
  17. C51最小系统板红外遥控控制小车
  18. 优秀自我简介200字_优秀学生自我介绍200字范文
  19. 树莓派4B搭建NAS系统(Samba)
  20. 接口测试[PostMan]

热门文章

  1. 2021年安徽省安全员C证考试资料及安徽省安全员C证考试总结
  2. 基于Qt的图像处理技术和算法(灰度、暖色、冷色、模糊、锐化、添加相框纹理)
  3. 时间戳是什么?(免费时间戳)
  4. mysql密码登陆失败
  5. 洛谷P4474 王者之剑(吾王的题目!!!)
  6. Mac下安装Tomcat以及IDEA中的配置
  7. 江西师范大学c语言程序考研,2018年江西师范大学软件院869C语言程序设计与数据结构之C程序设计考研核心题库...
  8. python画两个科赫雪花_【TCE的编程小讲堂】【Python】【第二期】如何画出科赫雪花?(上)...
  9. VirtualBox – CMSTORM键盘上无背光
  10. Python数据类型,if语句