python windows 安装scrapy_Windows下安装Scrapy
这几天正好有需求实现一个爬虫程序,想到爬虫程序立马就想到了python,python相关的爬虫资料好像也特别多。于是就决定用python来实现爬虫程序了,正好发现了python有一个开源库scrapy,正是用来实现爬虫框架的,于是果断采用这个实现。下面就先安装scrapy,决定在windows下面安装。
Scrapy简介
Scrapy,Python开发的一个快速、高层次的屏幕抓取和web抓取框架,用于抓取web站点并从页面中提取结构化的数据。
Scrapy用途广泛,可以用于数据挖掘、监测和自动化测试。
Scrapy吸引人的地方在于它是一个框架,任何人都可以根据需求方便的修改。它也提供了多种类型爬虫的基类,如BaseSpider、sitemap爬虫等,最新版本又提供了web2.0爬虫的支持。
安装依赖 Scrapy安装依赖于以下几个Python库 lxml, an efficient XML and HTML parser parsel, an HTML/XML data extraction library written on top of lxml, w3lib, a multi-purpose helper for dealing with URLs and web page encodings twisted, an asynchronous networking framework cryptography and pyOpenSSL, to deal with various network-level security needs
我选择手动安装这些依赖 pip install lxml pip install parsel pip install w3lib pip install twisted pip install cryptography pip install pyOpenSSL
其他的安装都很顺利,就是在安装twisted的时候报错了。 Microsoft Visual C++ 14.0 is required. Get it with "Microsoft Visual C++ Build Tools": http://landinghub.visualstudio.com/visual-cpp-build-tools
于是下载离线的安装(下载自己的版本)
https://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted
下载到一个目录,然后用
pip install Twisted-17.9.0-cp36-cp36m-win32.whl
之后再用下面的命令安装就可以了
pip install Scrapy
在命令行中输入scrapy,出现如下界面,则表示安装成功
总结
以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对聚米学院的支持。如果你想了解更多相关内容请查看下面相关链接
python windows 安装scrapy_Windows下安装Scrapy相关推荐
- python怎么安装scrapy_windows下安装python+scrapy
最近忽然有了想要学习python爬虫的想法,但是首先需要安装工具.python安装倒是很轻松,只要傻瓜式一键安装即可,但是在Windows下安装scrapy倒不是件容易的事情.言归正传,说下我从昨天下 ...
- windows下python依赖包_windows下安装python拓展包
安装Python集成开发环境IDE 2.IPython:方便今后编译其他扩展库,占用空间92.8M: sudo apt-get install python-dev IPython 为了安装最新版的I ...
- python seaborn安装_Windows下安装pip、matplotlib以及seaborn
安装Matplotlib 一个有用的python包下载网址 安装python 安装pip(一个python包管理工具) 下载tar.gz包,解压,然后在命令行里进入解压目录,输入 python set ...
- tensor搭建--windows 10 64bit下安装Tensorflow+Keras+VS2015+CUDA8.0 GPU加速
windows 10 64bit下安装Tensorflow+Keras+VS2015+CUDA8.0 GPU加速 原文见于:http://www.jianshu.com/p/c245d46d43f0 ...
- Windows Server 2012下安装Hyper-V虚拟机
Windows Server 2012下安装Hyper-V虚拟机 Win server 2012系统中Hyper-V 性能进一步提高,广大爱好者都尝试体验它,可是有不少朋友无法正确安装虚拟机,尽管在网 ...
- 解决windows 2003 sp1下安装arcsde 9.0 for sql server 2000 sp4概要方案
解决windows 2003 sp1下安装arcsde 9.0 for sql server 2000 sp4概要方案 安装sql server 2k sp4到windows 2003 sp1上: 安 ...
- Windows、Linux下安装Maven图文教程
文章目录 一.前言 二.Maven到底是什么? 三.Windows下安装 1.前提 2.下载 3.配置Maven环境变量 4.检查Maven版本 5.安装好以后的几点注意 6.IDEA中修改Maven ...
- 用友t3 xp系统服务器,用友T3-财务通windows xp系统下安装sql2005
用友T3-财务通windows xp系统下安装sql2005用友T3-财务通windows xp系统下安装sql2005 第一次安装好sql2005.T3普及版后点系统管理,会弹出环境监测,主要内容为 ...
- opencv python安装 centos_centos下安装opencv
根据项目需要,安装opencv并提供给开发使用,并且使用opencv提供python3的API接口.虽然不知道是个啥,还是简单了解下. opencv是什么? OpenCV的全称是Open Source ...
最新文章
- 斯诺登称美向日提供监控系统 日本人或遭大规模监控
- Java经典面试题:一个线程两次调用start()方法会出现什么情况?
- Android系统进程间通信(IPC)机制Binder中的Server启动过程源代码分析
- Win10 应用程序新的图标流出,微软正在为其改头换面
- mysql 重复了更新_MYSql id相同就更新
- SAP License:特殊采购类型-寄售及其结算
- SAP License:如何利用DEBUG强力修改表
- Flutter 即学即用系列博客——09 MethodChannel 实现原生与 Flutter 通信(二)
- python搜索网页特定区域内容_Python爬取练习:指定百度搜索的内容并提取网页的标题内容...
- python生成器_Python生成器
- [2018.10.17 T2] 最优路线
- eoeandroid社区转发
- 微型计算机中的西文字符编码,在微型计算机中,应用最普遍的西文字符编码是什...
- 绘制scara机器人工作空间
- https之证书验证
- 【Git】git pull和git pull --rebase的使用
- Web前端——JSP
- 大尺寸背光检测~Dalsa线阵相机资料
- axios中put的参数怎么传_iOS开发之如何通过PUT请求上传数据
- C语言逻辑推理题谁是凶手
热门文章
- Leet Code OJ 292. Nim Game [Difficulty: Easy]
- 蓝桥杯 ALGO-21 算法训练 装箱问题
- 浙江省第6届程序设计竞赛结题报告汇总 zoj3202-3212
- hdu 1392 Surround the Trees
- 面试官问我圆角边框,我交出了满分的答卷!——Web前端系列学习笔记
- 24行代码AC_蓝桥杯2019省赛 试题 D: 数的分解
- 算法竞赛入门经典(第二版) | 程序3-10 生成元 (UVa1584,Circular Sequence)
- AQS抽象队列同步器详解(待更新)
- 软件驱动安装在docker_别为Docker本地实现不支持GPU发愁,解决方案在此!
- Mysql数据库(三)——mysql数据库高级操作