from：docker挂载NVIDIA显卡运行pytorch
写在前面：

请参考之前的文章安装好CentOS、NVIDIA相关驱动及软件、docker及加速镜像。
主机运行环境 
$ uname -a
Linux CentOS 3.10.0-514.26.2.el7.x86_64 #1 SMP Tue Jul 4 15:04:05 UTC 2017 x86_64 x86_64 x86_64 GNU/Linux
$ cat /usr/local/cuda/version.txt
CUDA Version 8.0.61
$ cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2
#define CUDNN_MAJOR      6
#define CUDNN_MINOR      0
#define CUDNN_PATCHLEVEL 21
#define CUDNN_VERSION    (CUDNN_MAJOR * 1000 + CUDNN_MINOR * 100 + CUDNN_PATCHLEVEL)
#include "driver_types.h"
# NVIDIA 1080ti
一、关于GPU的挂载
1. 在docker运行时指定device挂载
先查看一下有哪些相关设备 
$ ls -la /dev | grep nvidia
crw-rw-rw-   1 root root    195,   0 Nov 15 13:41 nvidia0
crw-rw-rw-   1 root root    195,   1 Nov 15 13:41 nvidia1
crw-rw-rw-   1 root root    195, 255 Nov 15 13:41 nvidiactl
crw-rw-rw-   1 root root    242,   0 Nov 15 13:41 nvidia-uvm
crw-rw-rw-   1 root root    242,   1 Nov 15 13:41 nvidia-uvm-tools

　　电脑上装了两个显卡。我需要运行pytorch，dockerhub中pytorch官方镜像没有gpu支持，所以只能先pull一个anaconda镜像试试，后面可以编排成Dockerfile。

$ docker run -it -d --rm --name pytorch -v /home/qiyafei/pytorch:/mnt/home --privileged=true --device /dev/nvidia-uvm:/dev/nvidia-uvm --device /dev/nvidia1:/dev/nvidia1 --device /dev/nvidiactl:/dev/nvidiactl okwrtdsh/anaconda3 bash

okwrtdsh的镜像似乎是针对他们实验室GPU环境的，有点过大了，不过勉强运行一下还是可以的。在容器内部还需要安装pytorch： 
$ conda install pytorch torchvision -c pytorch
这里运行torch成功，但是加载显卡失败了，可能还是因为驱动不匹配的原因吧，需要重新安装驱动，暂时不做此尝试；
二、通过nvidia-docker在docker内使用显卡
详细信息：https://github.com/NVIDIA/nvidia-docker
（1）安装nvidia-docker
nvidia-docker其实是docker引擎的一个应用插件，专门面向NVIDIA GPU，因为docker引擎是不支持NVIDIA驱动的，安装插件后可以在用户层上直接使用cuda。具体看上图。这个图很形象，docker引擎的运行机制也表现出来了，就是在系统内核之上通过cgroup和namespace虚拟出一个容器OS的用户空间，我不清楚这是否运行在ring0上，但是cuda和应用确实可以使用了（虚拟化的问题，如果关心此类问题可以了解一些关于docker、kvm等等虚拟化的实现方式，目前是系统类比较火热的话题）
下载rpm包：https://github.com/NVIDIA/nvidia-docker/releases/download/v1.0.1/nvidia-docker-1.0.1-1.x86_64.rpm
这里也可以通过添加apt或者yum sourcelist的方式进行安装，但是我没有root权限，而且update容易引起docker重启，如果不是实验室的个人环境不推荐这么做，防止破坏别人正在运行的程序（之前公司一个小伙子就是在阿里云上进行了yum update，结果导致公司部分业务停了一个上午）。 
$ sudo rpm -i nvidia-docker-1.0.1-1.x86_64.rpm && rm nvidia-docker-1.0.1-1.x86_64.rpm
$ sudo systemctl start nvidia-docker
（2）容器测试
我们还需要NVIDIA官方提供的docker容器nvidia/cuda，里面已经编译安装了CUDA和CUDNN，或者直接run，缺少image的会自动pull。 
$ docker pull nvidia/cuda
$ nvidia-docker run --rm nvidia/cuda nvidia-smi

　　在容器内测试是可以成功使用nvidia显卡的：

（3）合适的镜像或者自制dockerfile
  • 合适的镜像：这里推荐Floydhub的pytorch，注意对应的cuda和cudnn版本。
docker pull floydhub/pytorch:0.3.0-gpu.cuda8cudnn6-py3.22
nvidia-docker run -ti -d --rm floydhub/pytorch:0.3.0-gpu.cuda8cudnn6-py3.22 bash

  • 自制dockerfile
首先，我们需要把要装的东西想清楚：
1. 基础镜像肯定是NVIDIA官方提供的啦，最省事，不用装cuda和cudnn了；
2. vim、git、lrzsz、ssh这些肯定要啦；
3. anaconda、pytorch肯定要啦；
所以需要准备好国内源source.list，否则安装速度很慢。 
deb-src http://archive.ubuntu.com/ubuntu xenial main restricted #Added by software-properties
deb http://mirrors.aliyun.com/ubuntu/ xenial main restricted
deb-src http://mirrors.aliyun.com/ubuntu/ xenial main restricted multiverse universe #Added by software-properties
deb http://mirrors.aliyun.com/ubuntu/ xenial-updates main restricted
deb-src http://mirrors.aliyun.com/ubuntu/ xenial-updates main restricted multiverse universe #Added by software-properties
deb http://mirrors.aliyun.com/ubuntu/ xenial universe
deb http://mirrors.aliyun.com/ubuntu/ xenial-updates universe
deb http://mirrors.aliyun.com/ubuntu/ xenial multiverse
deb http://mirrors.aliyun.com/ubuntu/ xenial-updates multiverse
deb http://mirrors.aliyun.com/ubuntu/ xenial-backports main restricted universe multiverse
deb-src http://mirrors.aliyun.com/ubuntu/ xenial-backports main restricted universe multiverse #Added by software-properties
deb http://archive.canonical.com/ubuntu xenial partner
deb-src http://archive.canonical.com/ubuntu xenial partner
deb http://mirrors.aliyun.com/ubuntu/ xenial-security main restricted
deb-src http://mirrors.aliyun.com/ubuntu/ xenial-security main restricted multiverse universe #Added by software-properties
deb http://mirrors.aliyun.com/ubuntu/ xenial-security universe
deb http://mirrors.aliyun.com/ubuntu/ xenial-security multiverse
下载anaconda的地址：https://repo.continuum.io/archive/Anaconda3-5.0.1-Linux-x86_64.sh，这里直接在Dockerfile里下了，具体如下： 
$ vim Dockerfile

FROM nvidia/cuda
LABEL author="qyf"
ENV PYTHONIOENCODING=utf-8
RUN mv /etc/apt/sources.list /etc/apt/sources.list.bak
ADD $PWD/sources.list /etc/apt/sources.list
RUN apt-get update --fix-missing && \apt-get install -y vim net-tools curl wget git bzip2 ca-certificates libglib2.0-0 libxext6 libsm6 libxrender1 mercurial subversion apt-transport-https software-properties-common
RUN apt-get install -y openssh-server -y
RUN echo 'root:passwd' | chpasswd
RUN sed -i 's/PermitRootLogin prohibit-password/PermitRootLogin yes/' /etc/ssh/sshd_config
RUN sed -i 's/#PasswordAuthentication yes/PasswordAuthentication yes/' /etc/ssh/sshd_config
RUN echo 'export PATH=/opt/conda/bin:$PATH' > /etc/profile.d/conda.sh && wget --quiet https://repo.continuum.io/archive/Anaconda3-5.0.1-Linux-x86_64.sh -O ~/anaconda.sh && /bin/bash ~/anaconda.sh -b -p /opt/conda && rm ~/anaconda.sh
ENV PATH /opt/conda/bin:$PATH
RUN conda install pytorch torchvision -c pytorch -y
ENTRYPOINT [ "/usr/bin/tini", "--" ]
CMD [ "/bin/bash" ]
通过docker build构造镜像: 
docker build -t pytorch/cuda8 ./
运行成功调用cuda。
三、关于一些bug
这里有部分debian的配置，我照着dockerhub上anaconda镜像抄的，这里就不再配置了，反正跑起来后有镜像也可以用。系统随后可能会出现错误：
kernel:unregister_netdevice: waiting for lo to become free. Usage count = 1
这是一个Ubuntu的内核错误，截止到到目前为止似乎还没完全解决。
这个小哥给出了一个解决方案，至少他给出的错误原因我是相信的：是由内核的TCP套接字错误引发的。这里我给出一些思考，关于上面的结构图，在显卡上，通过nvidia-docker，docker之上的容器可以使用到底层显卡（驱动显然是在docker之下的），而TCP套接字，我猜测也是这种使用方法，而虚拟出来的dockerOS，应该是没有权限来访问宿主机内核的，至少内核限制了部分权限。这位小哥给出了测试内核，如果有兴趣可以去帮他测试一下：https://bugs.launchpad.net/ubuntu/+source/linux/+bug/1711407/comments/46。

docker挂载NVIDIA显卡相关推荐

  1. docker挂载NVIDIA显卡运行pytorch

    本文为作者原创,转载请注明出处(http://www.cnblogs.com/mar-q/)by 负赑屃 写在前面: 请参考之前的文章安装好CentOS.NVIDIA相关驱动及软件.docker及加速 ...

  2. Ubuntu18.04下安装NVIDIA显卡驱动、docker、nvidia-docker；容器中编译安装opencv-4.4.0与darknet-yolov4并完成测试；容器封装镜像转移。2022

    记录一下第一次在CSDN发博客,欢迎大家光临~ 文章目录 前言 一.宿主机配置 1.安装Ubunntu18.04 64位系统 2.为宿主机系统更换国内软件源Ubuntu 官方源服务器在欧洲,国内访问很 ...

  3. 由dgl 升级到0.9.0引起的nvidia显卡驱动升级和docker升级

    背景 由于需要用到dgl库中最新的采样器,必须将dgl升级到0.9.0版本.dgl本身升级很方便,一个pip命令搞定,可惜升级完不能用,报错信息说需要更高的pytorch版本,于是又将pytorch升 ...

  4. linux 查看显卡信号_Ubuntu 16.04安装nvidia显卡驱动以及各种坑(包含解决方案)

    首先,nvidia显卡驱动可有3种安装方法,ppa源命令行安装.安装CUDA时顺便安装驱动(没测试过不多详解)和手动run文件进行安装(本人run文件安装).(以安装nvidia-450版本为例) 0 ...

  5. Jetson Nano开发深度学习实践（六） ：工作站（主机）装机-NVIDIA显卡驱动,Cuda,Cudnn

    最近多了很多点赞和关注,非常感谢支持.本意是将最近开发过程中遇到的问题记录一下,如果你觉得有些启发将荣幸之至.应博客内评论的请求,穿插一张主机工作站的装机操作,毕竟nano进行推理的边缘计算端,大多数 ...

  6. Ubuntu20.04安装nvidia显卡驱动并解决重启后黑屏问题

    几次安装都会出现一些问题,因此记录本次成功安装的过程. 安装前需要做: 打开blacklist.conf sudo gedit /etc/modprobe.d/blacklist.conf 在blac ...

  7. 在ubuntu 18.04下安装Nvidia显卡驱动的黑屏问题

    目录 安装环境 问题 解决办法 更新 安装环境 ubuntu 18.04 ROG 幻16 3060 问题 禁用ubuntu 自带显卡驱动Nouveau,具体流程网上查询 根据系统推荐,安装了nvidi ...

  8. Ubuntu20.04安装NVIDIA显卡驱动、CUDA、CUDNN及突破NVENC并发限制

    1.查看当前系统版本 cat /proc/version 显示为: 2.查看当前显卡型号: sudo lshw -numeric  -C display 显示我的显卡型号为:GM107M[GeForc ...

  9. Ubuntu安装nvidia显卡驱动经验和注意事项（成功率高）

    目录 1 问题:nvidia显卡和nouveau死磕,导致安装后界面卡死和starting Gnone Display Manger,本文要避免这些问题 2 本文采取保守的方法,目的尽量不出现上述问题 ...

最新文章

  1. 邮件协议（SMTP）性能测试总结（Foxmail邮箱）
  2. python递归汉诺塔详解_汉诺塔在python中递归，理解磁盘目的地的变化
  3. 微服务--分布式事务的实现方法及替代方案
  4. 暴雪BN2.0 呼之欲出即将到来
  5. java_security之base64原理解析以及三种代码的实现方式
  6. yum mysql my.ini_Centos7 yum安装mysql
  7. Machine Learning课程中的常见单词的含义
  8. window7 64位下Android studio 安装genymotion模拟器
  9. URAL 1004 Sightseeing Trip
  10. 2014中国高校SAS数据分析大赛拉开帷幕
  11. 批处理命令启动和关闭tomcat
  12. 手机技巧之扩展内存的检测以及修复。
  13. 网络编程之TCP例子一（帅帅老师讲堂）
  14. TCR历史研究夏校申请详解
  15. 学神乔明达和他堪称神迹的学习履历
  16. 信息学奥赛一本通：1132：石头剪子布
  17. python运动学仿真的意义_运动学仿真实验报告
  18. UserAgent 解析, 在线api
  19. freopen函数使用
  20. 给HTML初学者的三十条最佳实践

热门文章

  1. 硬盘录像机和服务器,硬盘录像机和视频监控服务器
  2. MyBatis，动态传入表名，字段名的解决办法
  3. flyway常用配置_Spring Boot 2 实战：使用 Flyway 管理你数据库的版本变更
  4. OVS vswitchd启动（三十五）
  5. 奇奇seo优化软件_seo优化软件如何选择
  6. mysql 单例模式好处_PHP单例模式的优点分析
  7. vue导航栏跳转路由
  8. Spring Boot实践--CommandLineRunner接口
  9. CAP原理和BASE思想
  10. “第三届中国行业互联网大会暨CIO班12周年年会”成功举行