python3 [爬虫入门实战]爬虫之scrapy安装与配置教程

标签: python爬虫scrapy
2017-07-08 15:38 77人阅读 评论(0) 收藏 举报

分类:
python3爬虫(15)

作者同类文章 X

版权声明:本文为徐代龙(蛇崽)原创文章,未经徐代龙(蛇崽)允许不得转载。

目录(?)[+]

  1. 不得不说自己经历过的才是真的经历过有很多网上的教程并不是很好都是一把辛酸泪啊
  2. 总结一下方法对了安装的方法还是蛮简单的
  3. 正确的姿势应该是这样子的
  4. 右键run就行了

不得不说,自己经历过的,才是真的经历过,有很多网上的教程并不是很好,都是一把辛酸泪啊。

网上很多教程都是python2.7的,少有python3的教程,找起资料来还是挺难的。搞了算是蛮久的,一个上午加上半个晚上, 不过最终还是搞出来了


总结一下:方法对了,安装的方法还是蛮简单的

前人的经验,别一开始就上来

pip install Scrapy

不论如何这个绝对是有问题的

结果就是:

error: Unable to find vcvarsall.bat

然后你就是到处找啊找啊,网上百度下来的教程基本上的解决方法就是下载版本对应的visual studio,但是也太大了。。。。。。而且网速看不下去啊

正确的姿势应该是这样子的:

1 使用wheel安装
准备好这个网站:http://www.lfd.uci.edu/~gohlke/pythonlibs/#lxml

安装步骤姿势:
1 安装wheel

pip install wheel

成功的样子:

然后这个网站:
http://www.lfd.uci.edu/~gohlke/pythonlibs/#lxml
Scrapy

下载, 建议放在python35 bin下带有.exe 路径下,这样子比较好,毕竟文件是比较重要的说

2 在该控制台输入:pip install [whell]
注:[whell]表示你的.whl文件,一定要全名,XXXX.whl

安装过程中可能会出现:

Failed to build XXXX
不过没有关系,但是到最后你还是会出现

twisted –》error: Unable to find vcvarsall.bat

因为scrapy框架是基于twisted 的, 所以又要去上面那个网站:

http://www.lfd.uci.edu/~gohlke/pythonlibs/#lxml

搜Twisted

Twisted, an event-driven networking engine.

Twisted‑17.5.0‑cp27‑cp27m‑win32.whl
Twisted‑17.5.0‑cp27‑cp27m‑win_amd64.whl
Twisted‑17.5.0‑cp34‑cp34m‑win32.whl
Twisted‑17.5.0‑cp34‑cp34m‑win_amd64.whl
Twisted‑17.5.0‑cp35‑cp35m‑win32.whl
Twisted‑17.5.0‑cp35‑cp35m‑win_amd64.whl
Twisted‑17.5.0‑cp36‑cp36m‑win32.whl
Twisted‑17.5.0‑cp36‑cp36m‑win_amd64.whl

选择对于的版本进行下载:cp35代表的是Python版本是多少,这里我的版本是python35,操作系统是win64位的,所以我这里进行Twisted‑17.5.0‑cp35‑cp35m‑win_amd64.whl 文件的下载

输入命令:

pip install [whell]

注意:这里的为whell还是文件的绝对路径,并且带上文件格式.whl

最后:安装成功之后

进行pip install scrapy

试着开始第一个项目:

scrapy startproject firstscrapy

最后进行导入到pycharm IDE中,

在pycharm 中选择

右键run就行了。

python3 [爬虫入门实战]爬虫之scrapy安装与配置教程相关推荐

  1. python3 [爬虫入门实战]爬虫之scrapy爬取织梦者网站并存mongoDB

    主要爬取了编程栏目里的其他编程里的36638条数据 过程是自己一步一步的往下写的,有不懂的也是一边找笔记,一边百度,一边调试. 遗憾:没有进行多栏目数据的爬取,只爬了一个栏目的数据,希望有想法的有钻研 ...

  2. python3 [爬虫入门实战]爬虫之mongoDB数据库的安装配置与可视化

    从安装过程到可视化工具可查看数据信息,历时两天,昨天坐了一天的火车,今天早上才到的青岛–> 来放松心情. 前天说是要学习如何使用mongoDB的链接与安装. 到今天过去了将一天, 不过还是在函兮 ...

  3. python xpath入门_python爬虫入门实战(三)!xpath 和 csv!

    最近有小伙伴说正则表达式学不懂?那有什么替代方案呢?一起往下看吧! 在前两篇文章我们已经学了一些基本技巧.但是之前都是用正则表达式来解析内容的,可能有小伙伴对正则表达式不理解,于是乎,我找到一个相对好 ...

  4. python爬虫动态加载_python爬虫入门实战(四)!爬取动态加载的页面!

    今天的主题是爬取动态网页的经验分享,以cocos论坛为例子进行分享.(官方不会打我吧 ) 配置环境 为什么选择cocos论坛呢?因为自己在浏览论坛时,发现标题内容会随着滚动条的位置而动态添加. 环境: ...

  5. layui 如何动态加载局部页面_python爬虫入门实战(四)!爬取动态加载的页面!

    今天的主题是爬取动态网页的经验分享,以cocos论坛为例子进行分享.(官方不会打我吧 ) 配置环境 为什么选择cocos论坛呢?因为自己在浏览论坛时,发现标题内容会随着滚动条的位置而动态添加. 环境: ...

  6. 怎么加载csv_python爬虫入门实战(四)!爬取动态加载的页面

    今天的主题是爬取动态网页的经验分享,以cocos论坛为例子进行分享.(官方不会打我吧 ) 配置环境 为什么选择cocos论坛呢?因为自己在浏览论坛时,发现标题内容会随着滚动条的位置而动态添加. 环境: ...

  7. python爬虫入门实战---------一周天气预报爬取_Python爬虫入门实战--------一周天气预报爬取【转载】【没有分析...

    Python爬虫入门实战--------一周天气预报爬取[转载][没有分析 Python爬虫入门实战--------一周天气预报爬取[转载][没有分析] 来源:https://blog.csdn.ne ...

  8. 爬虫入门实战第一站——梨视频视频爬取

    爬虫入门实战第一站--梨视频视频爬取 简介 博主最近重新开始了解爬虫,想以文字方式记录自己学习和操作的过程.本篇文章主要是使用爬虫爬取梨视频网站中的视频并下载到本地,同时将视频简介和视频网站保存在ex ...

  9. Python爬虫入门之爬虫解析提取数据的四种方法

    本文主要介绍了Python爬虫入门之爬虫解析提取数据的四种方法,通过具体的内容向大家展现,希望对大家Python爬虫的学习有所帮助. 基础爬虫的固定模式 笔者这里所谈的基础爬虫,指的是不需要处理像异步 ...

最新文章

  1. 2021-02-24 Python等比例压缩与质量处理图片
  2. odoo12 mysql_odoo12从零开始:二、1)个性化定制odoo12之修改数据库创建页面
  3. IOS之通知KVO的常量定义
  4. Windows 2012 - Dynamic Access Control 浅析
  5. odoo10 继承(扩展)、模块数据
  6. Nest入门教程 - 模块
  7. 无孔不入的微软---史前恐龙
  8. 是谁开发出手机曲面屏这种
  9. Security+ 学习笔记46 网络工具
  10. 计算机维修与维护怎么学,做电脑维修需要学习哪些知识呢?
  11. pythonsample_python sample code | 学步园
  12. 计算机组成原理-面试题
  13. Redis开发与运维读书笔记
  14. 抖音api开放平台对接_抖音开放一键发布功能 第三方内容可分享至抖音
  15. 用计算机演奏森林时光,森林时光-xpaper全媒体电子报刊系统
  16. swift获取openuuid_iOS获取当前设备型号等信息(全)包含iPhone7和iPhone7P
  17. 电脑计算机打不开显示远程过程,Win10打不开图片提示“远程过程调用失败”的解决方案...
  18. Android Studio显示“Hardcoded String XXX,should use @string resource”的解决方法2-1
  19. MySQL数据库触发器讲解与案例
  20. 基于工业5G路由器的智慧公厕无线联网解决方案

热门文章

  1. 嵌入式开发培训哪里找?学嵌入式培训课程就业怎么样
  2. 深度解读京东金融App(Android)的秒开优化实践
  3. php camelize,如何使Symfony Project 1.4.20与PHP 5.5或5.6完全兼容(不推荐使用:preg_replace()警告)...
  4. 微型计算机系统课程设计,微机课程设计模板.doc
  5. wmts规范_【总结整理】WMS、WMTS、WFS
  6. docker 部署 mkdocs (mkdocs-material)
  7. 能推荐一些好用的文字转语音软件吗?
  8. 信息黑洞效应:迈向统一云的过程
  9. 认真的雪歌词的c语言编码,薛之谦火锅店墙上的歌名,在C位上的不是《演员》和《认真的雪》,而是这首歌...
  10. 华为海思ubuntu qt