一、Scrapy安装

Scrapy有很多依赖包,在windows 下安装很复杂。直接pip安装scrapy会报出很多错误。具体依赖问题使用下面安装的例子

1.1 传统方法

先安装框架需要的依赖包,然后再安装scrapy框架。

1.1.1安装wheel

直接使用pip命令 pip install wheel

1.1.2 安装lxml

http://www.lfd.uci.edu/~gohlke/pythonlibs/ 在这里找对应的版本下载包,然后切入安装目录执行安装语句。

pip install lxml-4.3.3-cp37-cp37m-win_amd64.whl

1.1.3 安装zope.interface

https://pypi.python.org/pypi/zope.interface#downloads在这里找对应的版本下载包,然后切入安装目录执行安装语句。

pip install  zope.interface-4.6.0-cp37-cp37m-win_amd64.whl

1.1.4 安装pyOpenSSL

https://pypi.python.org/pypi/pyOpenSSL#downloads在这里找对应的版本下载包,然后切入安装目录执行安装语句。

pip install pyOpenSSL-19.0.0-py2.py3-none-any.whl

1.1.5 安装Twisted

http://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted在这里找对应的版本下载包,然后切入安装目录执行安装语句。

pip install Twisted-19.2.0-cp37-cp37m-win_amd64.whl

以上lxml、zope.interface、pyOpenSSL、Twisted包安装完毕成功示意如图1:

图1:lxml、zope.interface、pyOpenSSL、Twisted包安装

1.1.6 安装pywin32

直接“下一步”安装就好

https://sourceforge.net/projects/pywin32/files/pywin32/Build%20220/ 下载对应版本的安装包安装

Pywin32安装直接下一步,安装完成的情况如下图2:

图2 Pywin32安装

【只要按要求将上面的依赖包都安装成功,scrapy就能安装成功了】

使用pip install scrapy命令安装scrapy框架。Scrapy安装成功如图3.

图3 scrapy成功安装

命令行中输入scrapy,可以看到scrapy可以使用的命令。

Python scrapy环境搭建相关推荐

  1. 搭建python_Crawlab准备之python+scrapy环境搭建

    阅读文本大概需要3分钟. 上篇<分布式爬虫管理平台Crawlab开发搭建>把爬虫的管理后台搭建起来了:捣鼓一番发现要真正爬取数据还有下不少的功夫.这篇看看怎么搭建python+scrapy ...

  2. python scrapy 环境搭建_Python Scrapy 爬虫(一):环境搭建

    Life is short, I use Python 三年前的一天,我在灵隐寺求佛时,偶遇一高僧,法号智息.大师见我眉头紧皱,心事重重,于是便主动上前来开导我.大师充满智慧地告诉我了一句真理:&qu ...

  3. python scrapy 环境搭建_python+scrapy环境搭建步骤描述

    Python3(3.5.4)搭建爬虫系统步骤描述: 1.下载python安装包,路径:https://www.python.org/downloads/windows/  选择3.5.4版本64位的安 ...

  4. 苹果系统安装python环境_mac下python相关环境搭建(python开发必经之路之mac快速上手)...

    小结 本篇文章是对上一篇文章<MacOS的小结及终端shell的选择和相关配置全过程(zsh+iTerm2+powerline全解)>的一些拓展和总结,对于相关问题的详细解释和拓展点的标注 ...

  5. Python学习--环境搭建

    Python学习入门–环境搭建 Python简介 在进行Python环境搭建之前 ,先简单的介绍一下Python这门语言. Python, 是一种面向对象的解释型计算机程序设计语言,由荷兰人Guido ...

  6. Python selenium环境搭建

    Python selenium环境搭建 一.python下载安装 1.       python获取路径:https://www.python.org/downloads/release/python ...

  7. python opengl_Python环境搭建之OpenGL

    以下内容为我python OpenGl 环境搭建历程: win7 64位操作系统,python3.5.3 ,无其他相关. 直接cmd或PowerShell输入以下命令: pip install PyO ...

  8. python服务器环境搭建(2)——安装相关软件

    在上一篇我们在本地的虚拟服务器上安装好CentOS7后,我们的python web服务.自定义的python service或python脚本需要在服务器上运行,还需要在服务器安装各种相关的软件才行, ...

  9. intelRealsense D435 python开发环境搭建

    首先说一下电脑的配置 系统:win7 语言:python2.7 安装 应该是从D系列开始官方的开发文档都整合在了github,事实上,官方也有python环境安装说明,只是全部是英文,英语好的同学可以 ...

最新文章

  1. oracle分页置顶,[置顶]       ibatis查询oracle分页
  2. 阿宽和阿良 - 死后咋样
  3. mysql-数据库模式定义语言(DDL)
  4. 比赛一买香蕉问题---解题报告
  5. 关闭后天 树莓派_陪你一起玩树莓派-系统安装
  6. 可见性、原子性和有序性问题
  7. O(n* (logn)^2 )的Shell排序——转自Matrix67的博客
  8. sparkstreaming监听hdfs目录如何终止_四十六、Spark Streaming简介及入门
  9. ubuntu-多网卡聚合-bond技术教程
  10. JDK动态代理(通俗白话)
  11. 夜神模拟器安装frida-server图文详解
  12. 运维部门工作总结_IT部门运维年终总结报告
  13. Intriguing properties of neural networks——L-BFGS attack
  14. 计算机、通信方向学习考证经验分享
  15. 上传webshell(入侵目标页面主机靶机演示)
  16. mac电脑修改网卡mac地址
  17. 华为自带邮箱下载_超级好看的微信气泡主题设置方法介绍教程!仅华为用户拥有!...
  18. 2022年长三角地区数学建模B题:齿轮箱故障诊断
  19. [转]java中文乱码解决之道(三)-----编码详情:伟大的创想---Unicode编码
  20. 《操作系统之哲学原理(第2版)》——— 操作系统的发展历史

热门文章

  1. 微信小游戏实战——飞机大战demo笔记完整篇(函数实现)
  2. 骂谷歌,怼百度,批腾讯,吴军为何DISS互联网公司没得怕的?
  3. android高仿微信下拉有页面,Android——(仿微信聊天界面布局实例)
  4. 使用3DLiDAR传感器进行基于同心区域的区域地面分割和地面似然估计
  5. mysql建表时错误1075_navicat出现错误1075怎么办
  6. 关于Ajax请求问题的总结
  7. GitHub官方出手一针见血,Spring Boot趣味实战手册来袭(彩版)
  8. jQurey回车登陆
  9. 修改AD服务器时间,AD中权威时间服务器的配置
  10. 树梅派DNS缓存服务器建设