python爬虫步骤-Docker部署Python爬虫项目的方法步骤

1) 首先安装docker：

# 用 yum 安装并启动

yum install docker -y && systemctl start docker

2) 下载自定义镜像需要用到的基础镜像：

# 这里以centos7为例

docker pull centos:centos7

3) 基础镜像已经准备好了，接下来准备好需要部署的环境服务，以及python项目：

### 创建 dockerfile 文件

mkdir dockerfile && cd dockerfile

### 下载 python(这里以3.7为例)

wget https://www.python.org/ftp/python/3.7.3/Python-3.7.3.tgz

### 将 python 项目复制到此目录

cp ~/test.py .

### 以及 python 项目的依赖库

cp ~/requirements.txt .

4) 需要自定义docker镜像的大致内容准备好了，接下来编写dockerfile：

vim Dockerfile

### 以centos:centos7来作为基础镜像

FROM centos:centos7

### 下载编译需要用到的软件

RUN yum install -y gcc gcc-c++ autoconf automake libtool make zlib* libffi-devel

### 将dockerfile目录下的python-3.7.3.tgz复制到docker容器内

COPY Python-3.7.3.tgz /usr/local/src

### 编译安装 python

WORKDIR /usr/local/src

RUN tar -xf Python-3.7.3.tgz

WORKDIR Python-3.7.3

RUN ./configure --prefix=/usr/local/python37 && make && make install

ENV PATH /usr/local/python37/bin:$PATH

### 创建工作目录

RUN mkdir /spider

### 将python项目复制到 /spider工作目录下

ADD test.py /spider

ADD requirements.txt /spider

### 设置 /spider 为工作目录

WORKDIR /spider

### 下载 python 项目的依赖库

RUN pip3 install -i http://mirrors.aliyun.com/pypi/simple/ --trusted-host mirrors.aliyun.com -r requirements.txt

### 在创建个爬取的数据存放的目录，这个需要根据自己代码里面设置的目录来创建，例如：

VOLUME /data

### 最后一步，运行docker镜像时运行自己的python项目

### 可以多个参数： CMD ["python3","a","main.py"]

CMD ["python3","test.py"]

5) 接下来构建镜像：(就在此目录下运行)

### docker build -t 镜像名:版本号镜像名:版本号均为自定义别忘了末尾的点".”

docker build -t pythonspider:v1 .

6) 运行镜像:

### 通过 docker images命令就可以看到刚刚创建的镜像

docker images

### 运行

docker run -d --name spider -v /data:/data pythonspider:v1

### -d为后台运行，--name 后面设置容器名，-v 是目录共享，主机目录和docker容器内目录共享。创建dockerfile的时候，有这一句 VOLUME /data 就是作为共享目录使用的,":”前的目录为主机目录，后面的目录为容器内目录。。。最后一个参数 pythonspider:v1 镜像名

cd /data

### 到此目录下你就会看到产生的数据

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持脚本之家。

python爬虫步骤-Docker部署Python爬虫项目的方法步骤相关推荐

【Python】使用Docker部署Python项目
用Docker部署Python项目 0.源码目录 1.编写Dockerfile文件 2.Docker根据Dockerfile文件生成Docker镜像 3.将镜像运行在Docker容器中众所周知,同一 ...
docker 部署Python项目以及dockerfile文件的编写
Dockerfile文件详解:https://www.cnblogs.com/panwenbin-logs/p/8007348.html Docker的基本使用(部署python项目): https: ...
centos7 docker端口_使用Docker部署Python应用
0 引言在linux系统部署Python应用需要安装较多依赖,在内网环境下十分繁琐,而且有时候还需要在其他服务器运行,则需要重复搭建环境和部署应用,因此本文介绍利用docker容器技术来部署.鉴于本 ...
史上最详细阿里云服务器上Docker部署War包项目实战每一步都带详细图解！！！
史上最详细阿里云服务器上Docker部署War包项目实战每一步都带详细图解!!! 部署jar 包方式: https://blog.csdn.net/weixin_45821811/article/d ...
快速使用 Docker 部署 Spring Boot 项目
如今 Docker 的使用已经非常普遍,特别是在一线互联网公司,使用 Docker 技术可以帮助企业快速水平扩展服务,从而达到弹性部署业务的能力.在云服务概念兴起之后,Docker 的使用场景和范围进 ...
docker部署博客项目
docker 部署博客项目发现很久没有写文章了,等我的博客完成,我应该也会继续写的连接远程服务器 ssh root@xxxxxx yum更新一下 yum update 用来解压zip压缩包 yum ...
浅谈在centos中使用docker部署war包项目（jsp篇）
在centos中使用docker部署war包项目(jsp篇) 一.环境的准备二.Docker优点 1.简化程序 2.避免选择恐惧症 3.节省开支三.Docker结构 1.Client( Doc ...
vue项目打包部署到服务器,Vue项目打包部署到apache服务器的方法步骤
vue项目在开发环境下,让项目运行起来,是通过npm run dev命令,原理是在本地搭建了一个express服务器. 但是在服务器上就不是这样的,必须要通npm run build命令来对整个项目进 ...
svn更新maven项目报错_使用svn管理Maven项目的方法步骤
0. 在svn服务器中新建一个仓库在SVN服务器的安装目录下进入bin文件夹,双击VisualAVN Server.msc即可弹出VisualAVN Server窗口先创建一个新的仓库,右键[Re ...

python爬虫步骤-Docker部署Python爬虫项目的方法步骤

python爬虫步骤-Docker部署Python爬虫项目的方法步骤相关推荐

最新文章

热门文章