python爬虫动态数据获取_爬虫系列（9）爬虫的多线程理论以及动态数据的获取方法。...

NO·1 爬虫之多线程

1. 引入我们之前写的爬虫都是单个线程的？这怎么够？一旦一个地方卡到不动了，那不就永远等待下去了？为此我们可以使用多线程或者多进程来处理。

不建议你用这个，不过还是介绍下了，如果想看可以看看下面，不想浪费时间直接看

2. 如何使用爬虫使用多线程来处理网络请求，使用线程来处理URL队列中的url，然后将url返回的结果保存在另一个队列中，其它线程在读取这个队列中的数据，然后写到文件中去

3. 主要组成部分

3.1 URL队列和结果队列

将将要爬去的url放在一个队列中，这里使用标准库Queue。访问url后的结果保存在结果队列中

初始化一个URL队列from queue import Queue

urls_queue = Queue()

out_queue = Queue()

3.2 请求线程

使用多个线程，不停的取URL队列中的url，并进行处理：import threading

class ThreadCrawl(threading.Thread):

def __init__(self, queue, out_queue):

threading.Thread.__init__(self)

self.queue = queue

self.out_queue = out_queue

def run(self):

while True:

item = self.queue.get()

如果队列为空，线程就会被阻塞，直到队列不为空。处理队列中的一条数据后，就需要通知队列已经处理完该条数据

3.3 处理线程

处理结果队列中的数据，并保存到文件中。如果使用多个线程的话，必须要给文件加上锁lock = threading.Lock()

f = codecs.open('out.txt', 'w', 'utf8')

当线程需要写入文件的时候，可以这样处理：with lock:

f.write(something)

4. Queue模块中的常用方法:

Python的Queue模块中提供了同步的、线程安全的队列类，包括FIFO（先入先出)队列Queue，LIFO（后入先出）队列LifoQueue，和优先级队列PriorityQueue。这些队列都实现了锁原语，能够在多线程中直接使用。可以使用队列来实现线程间的同步Queue.qsize() 返回队列的大小

Queue.empty() 如果队列为空，返回True,反之False

Queue.full() 如果队列满了，返回True,反之False

Queue.full 与 maxsize 大小对应

Queue.get([block[, timeout]])获取队列，timeout等待时间

Queue.get_nowait() 相当Queue.get(False)

Queue.put(item) 写入队列，timeout等待时间

Queue.put_nowait(item) 相当Queue.put(item, False)

Queue.task_done() 在完成一项工作之后，Queue.task_done()函数向任务已经完成的队列发送一个信号

Queue.join() 实际上意味着等到队列为空，再执行别的操作

NO·2 Selenium与PhantomJS

1. Selenium

Selenium是一个Web的自动化测试工具，最初是为网站自动化测试而开发的，类型像我们玩游戏用的按键精灵，可以按指定的命令自动操作，不同是Selenium 可以直接运行在浏览器上，它支持所有主流的浏览器（包括PhantomJS这些无界面的浏览器）。

Selenium 可以根据我们的指令，让浏览器自动加载页面，获取需要的数据，甚至页面截屏，或者判断网站上某些动作是否发生。

Selenium 自己不带浏览器，不支持浏览器的功能，它需要与第三方浏览器结合在一起才能使用。但是我们有时候需要让它内嵌在代码中运行，所以我们可以用一个叫 PhantomJS 的工具代替真实的浏览器。

PyPI网站下载 Selenium库 https://pypi.python.org/simple/selenium ，也可以用第三方管理器

pip用命令安装：pip install selenium

Selenium 官方参考文档：http://selenium-python.readthedocs.io/index.html

2. PhantomJS

PhantomJS 是一个基于Webkit的“无界面”(headless)浏览器，它会把网站加载到内存并执行页面上的 JavaScript，因为不会展示图形界面，所以运行起来比完整的浏览器要高效

如果我们把 Selenium 和 PhantomJS 结合在一起，就可以运行一个非常强大的网络爬虫了，这个爬虫可以处理 JavaScrip、Cookie、headers，以及任何我们真实用户需要做的事情

2.1注意：PhantomJS（python2）

只能从它的官方网站http://phantomjs.org/download.html) 下载。因为 PhantomJS 是一个功能完善(虽然无界面)的浏览器而非一个 Python 库，所以它不需要像 Python 的其他库一样安装，但我们可以通过Selenium调用PhantomJS来直接使用。

PhantomJS 官方参考文档：http://phantomjs.org/documentation

2.2 python3使用的浏览器

随着Python3的普及，Selenium3也跟上了行程。而Selenium3最大的变化是去掉了Selenium RC，另外就是Webdriver从各自浏览器中脱离，必须单独下载

2.1.1 安装Firefox geckodriver

安装firefox最新版本，添加Firefox可执行程序到系统环境变量。记得关闭firefox的自动更新

firefox下载地下：https://github.com/mozilla/geckodriver/releases

将下载的geckodriver.exe 放到path路径下 D:\Python\Python36\

2.1.2 安装ChromeDriver

http://chromedriver.storage.googleapis.com/index.html注意版本号要对应

下载下来的文件解压到Python36\Scripts

chrome59版本以后可以变成无头的浏览器，加以下参数options = webdriver.ChromeOptions()

options.add_argument('--headless')

chrome = webdriver.Chrome(chrome_options=options)

chrome.get("http://ww.baidu.com")

3. 使用方式

Selenium 库里有个叫 WebDriver 的 API。WebDriver 有点儿像可以加载网站的浏览器，但是它也可以像 BeautifulSoup 或者其他 Selector 对象一样用来查找页面元素，与页面上的元素进行交互 (发送文本、点击等)，以及执行其他动作来运行网络爬虫

3.1 简单例子# 导入 webdriver

from selenium import webdriver

# 要想调用键盘按键操作需要引入keys包

from selenium.webdriver.common.keys import Keys

# 调用环境变量指定的PhantomJS浏览器创建浏览器对象

driver = webdriver.PhantomJS()

# 如果没有在环境变量指定PhantomJS位置

# driver = webdriver.PhantomJS(executable_path="./phantomjs"))

# get方法会一直等到页面被完全加载，然后才会继续程序，通常测试会在这里选择 time.sleep(2)

driver.get("http://www.baidu.com/")

# 获取页面名为 wrapper的id标签的文本内容

data = driver.find_element_by_id("wrapper").text

# 打印数据内容

print(data)

# 打印页面标题 "百度一下，你就知道"

print（driver.title）

# 生成当前页面快照并保存

driver.save_screenshot("baidu.png")

# id="kw"是百度搜索输入框，输入字符串"长城"

driver.find_element_by_id("kw").send_keys("尚学堂")

# id="su"是百度搜索按钮，click() 是模拟点击

driver.find_element_by_id("su").click()

# 获取新的页面快照

driver.save_screenshot("尚学.png")

# 打印网页渲染后的源代码

print(driver.page_source)

# 获取当前页面Cookie

print(driver.get_cookies())

# ctrl+a 全选输入框内容

driver.find_element_by_id("kw").send_keys(Keys.CONTROL,'a')

# ctrl+x 剪切输入框内容

driver.find_element_by_id("kw").send_keys(Keys.CONTROL,'x')

# 输入框重新输入内容

driver.find_element_by_id("kw").send_keys("python爬虫")

# 模拟Enter回车键

driver.find_element_by_id("su").send_keys(Keys.RETURN)

# 清除输入框内容

driver.find_element_by_id("kw").clear()

# 生成新的页面快照

driver.save_screenshot("python爬虫.png")

# 获取当前url

print(driver.current_url)

# 关闭当前页面，如果只有一个页面，会关闭浏览器

# driver.close()

# 关闭浏览器

driver.quit()

4 页面操作

4.1 页面交互仅仅抓取页面没有多大卵用，我们真正要做的是做到和页面交互，比如点击，输入等等。那么前提就是要找到页面中的元素。WebDriver提供了各种方法来寻找元素。例如下面有一个表单输入框

4.1.1 获取element = driver.find_element_by_id("passwd-id")

element = driver.find_element_by_name("passwd")

element = driver.find_elements_by_tag_name("input")

element = driver.find_element_by_xpath("//input[@id='passwd-id']")

注意：文本必须完全匹配才可以，所以这并不是一个很好的匹配方式

在用 xpath 的时候还需要注意的如果有多个元素匹配了 xpath，它只会返回第一个匹配的元素。如果没有找到，那么会抛出 NoSuchElementException 的异常

4.1.2 输入内容element.send_keys("some text")

4.1.3 模拟点击某个按键element.send_keys("and some", Keys.ARROW_DOWN)

4.1.4 清空文本element.clear()

4.1.5 元素拖拽要完成元素的拖拽，首先你需要指定被拖动的元素和拖动目标元素，然后利用 ActionChains 类来实现

以下实现元素从 source 拖动到 target 的操作element = driver.find_element_by_name("source")

target = driver.find_element_by_name("target")

from selenium.webdriver import ActionChains

action_chains = ActionChains(driver)

action_chains.drag_and_drop(element, target).perform()

4.1.6 历史记录操作页面的前进和后退功能driver.forward()

driver.back()

5 API

5.1 元素选取

5.1.1 单个元素选取find_element_by_id

find_element_by_name

find_element_by_xpath

find_element_by_link_text

find_element_by_partial_link_text

find_element_by_tag_name

find_element_by_class_name

find_element_by_css_selector

5.1.2 多个元素选取find_elements_by_name

find_elements_by_xpath

find_elements_by_link_text

find_elements_by_partial_link_text

find_elements_by_tag_name

find_elements_by_class_name

find_elements_by_css_selector

5.1.3 利用 By 类来确定哪种选择方式from selenium.webdriver.common.by import By

driver.find_element(By.XPATH, '//button[text()="Some text"]')

driver.find_elements(By.XPATH, '//button')

By 类的一些属性如下ID = "id"

XPATH = "xpath"

LINK_TEXT = "link text"

PARTIAL_LINK_TEXT = "partial link text"

NAME = "name"

TAG_NAME = "tag name"

CLASS_NAME = "class name"

CSS_SELECTOR = "css selector"

6 等待

6.1 隐式等待到了一定的时间发现元素还没有加载，则继续等待我们指定的时间，如果超过了我们指定的时间还没有加载就会抛出异常，如果没有需要等待的时候就已经加载完毕就会立即执行from selenium import webdriver

url = 'https://www.guazi.com/nj/buy/'

driver = webdriver.Chrome()

driver.get(url)

driver.implicitly_wait(100)

print(driver.find_element_by_class_name('next'))

print(driver.page_source)

6.2 显示等待指定一个等待条件，并且指定一个最长等待时间，会在这个时间内进行判断是否满足等待条件，如果成立就会立即返回，如果不成立，就会一直等待，直到等待你指定的最长等待时间，如果还是不满足，就会抛出异常，如果满足了就会正常返回url = 'https://www.guazi.com/nj/buy/'

driver = webdriver.Chrome()

driver.get(url)

wait = WebDriverWait(driver,10)

wait.until(EC.presence_of_element_located((By.CLASS_NAME, 'next')))

print(driver.page_source)presence_of_element_located 元素加载出，传入定位元组，如(By.ID, 'p')

presence_of_all_elements_located 所有元素加载出

element_to_be_clickable元素可点击

element_located_to_be_selected元素可选择，传入定位元组

6.3 强制等待使用 time.sleep

NO·3 Selenium 处理滚动条

Selenium 处理滚动条selenium并不是万能的，有时候页面上操作无法实现的，这时候就需要借助JS来完成了

当页面上的元素超过一屏后，想操作屏幕下方的元素，是不能直接定位到，会报元素不可见的。这时候需要借助滚动条来拖动屏幕，使被操作的元素显示在当前的屏幕上。滚动条是无法直接用定位工具来定位的。selenium里面也没有直接的方法去控制滚动条，这时候只能借助J了，还好selenium提供了一个操作js的方法:execute_script()，可以直接执行js的脚本

一. 控制滚动条高度1.1滚动条回到顶部：js="var q=document.getElementById('id').scrollTop=0"

driver.execute_script(js)1.2滚动条拉到底部js="var q=document.documentElement.scrollTop=10000"

driver.execute_script(js)

可以修改scrollTop 的值，来定位右侧滚动条的位置，0是最上面，10000是最底部

以上方法在Firefox和IE浏览器上上是可以的，但是用Chrome浏览器，发现不管用。Chrome浏览器解决办法：js = "var q=document.body.scrollTop=0"

driver.execute_script(js)

二.横向滚动条2.1 有时候浏览器页面需要左右滚动（一般屏幕最大化后，左右滚动的情况已经很少见了)2.2 通过左边控制横向和纵向滚动条scrollTo(x, y)js = "window.scrollTo(100,400)"

driver.execute_script(js)

三.元素聚焦

虽然用上面的方法可以解决拖动滚动条的位置问题，但是有时候无法确定我需要操作的元素在什么位置，有可能每次打开的页面不一样，元素所在的位置也不一样，怎么办呢？这个时候我们可以先让页面直接跳到元素出现的位置，然后就可以操作了

同样需要借助JS去实现。具体如下：target = driver.find_element_by_xxxx()

driver.execute_script("arguments[0].scrollIntoView();", target)

四. 参考代码from selenium import webdriver

from lxml import etree

import time

url = "https://search.jd.com/Search?keyword=%E7%AC%94%E8%AE%B0%E6%9C%AC&enc=utf-8&wq=%E7%AC%94%E8%AE%B0%E6%9C%AC&pvid=845d019c94f6476ca5c4ffc24df6865a"

# 加载浏览器

wd = webdriver.Firefox()

# 发送请求

wd.get(url)

# 要执行的js

js = "var q = document.documentElement.scrollTop=10000"

# 执行js

wd.execute_script(js)

time.sleep(3)

# 解析数据

e = etree.HTML(wd.page_source)

# 提取数据的xpath

price_xpath = '//ul[@class="gl-warp clearfix"]//div[@class="p-price"]/strong/i/text()'

# 提取数据的

infos = e.xpath(price_xpath)

print(len(infos))

# 关闭浏览器

wd.quit()

NO·4【补充】 Python下的Tesseract Ocr引擎

1. Tesseract介绍

tesseract 是一个google支持的开源ocr项目其项目地址：https://github.com/tesseract-ocr/tesseract

目前最新的源码可以在这里下载

2. Tesseract安装包下载

Tesseract的release版本下载地址：https://github.com/tesseract-ocr/tesseract/wiki/Downloads，这里需要注意这一段话：Currently, there is no official Windows installer for newer versions

意思就是官方不提供最新版windows平台安装包，只有相对略老的3.02.02版本，其下载地址：https://sourceforge.net/projects/tesseract-ocr-alt/files/

最新版3.03和3.05版本，都是三方维护和管理的安装包，有好几个发行机构，分别是：https://www.dropbox.com/s/8t54mz39i58qslh/tesseract-3.05.00dev-win32-vc19.zip?dl=1

https://github.com/UB-Mannheim/tesseract/wiki

http://domasofan.spdns.eu/tesseract/

3. 小结官方发布的3.02版本下载地址

http://downloads.sourceforge.net/project/tesseract-ocr-alt/tesseract-ocr-setup-3.02.02.exe?r=https%3A%2F%2Fsourceforge.net%2Fprojects%2Ftesseract-ocr-alt%2Ffiles%2F&ts=1464880498&use_mirror=jaist

德国曼海姆大学发行的3.05版本下载地址

http://digi.bib.uni-mannheim.de/tesseract/tesseract-ocr-setup-3.05.00dev.exe

imon Eigeldinger (@DomasoFan) 维护的另一个版本

http://3.onj.me/tesseract/值得称道的是，这个网址里还有一个比较详细的说明

4. Tesseract ocr使用

安装之后，默认目录C:\Program Files (x86)\Tesseract-OCR，你需要把这个路径放到你操作系统的path搜索路径中，否则后面使用起来会不方便。

在安装目录C:\Program Files (x86)\Tesseract-OCR下可以看到 tesseract.exe这个命令行执行程序tesseract 1.png output-l eng -psm 7

-psm 7 表示用单行文本识别pagesegmode值：0 =定向和脚本检测（OSD）。

1 =带OSD的自动页面分割。

2 =自动页面分割，但没有OSD或OCR

3 =全自动页面分割，但没有OSD。（默认）

4 =假设一列可变大小的文本。

5 =假设一个统一的垂直对齐文本块。

6 =假设一个统一的文本块。

7 =将图像作为单个文本行处理。

8 =把图像当作一个单词。

9 =把图像当作一个圆圈中的一个词来对待。

10 =将图像作为单个字符处理

-l eng 代表使用英语识别

python爬虫动态数据获取_爬虫系列（9）爬虫的多线程理论以及动态数据的获取方法。...相关推荐

python ip动态代理_给自己的爬虫做一个简单的动态代理池
使用代理服务器一直是爬虫防BAN最有效的手段,但网上的免费代理往往质量很低,大部分代理完全不能使用,剩下能用的代理很多也只有几分钟的寿命,没法直接用到爬虫项目中. 下面简单记录一下我用scrapy+r ...
python会计实证研究_实证研究者的爬虫工具选择
作为一个实证研究小青年??,有段时间因为研究的需要,要做定向爬虫.这是自己学习Python最初的缘由.那个时候爬虫的材料还不是太多,自己在网上找了一些文章和电子书来学习.边学边试,不久就完工了. 完工 ...
基于python的车辆轨迹研究_highD：德国提出从空中角度测量车辆数据的新方法（文末附多种车辆轨迹数据集）...
由极市.机器之心和中科创达联合举办的"2018计算机视觉最具潜力开发者榜单"评选活动,现已接受报名,杨强教授.俞扬教授等大牛嘉宾亲自评审,高通.中科创达.微众银行等大力支持,丰厚奖 ...
python 大量网络请求_大规模异步新闻爬虫之网络请求函数的优化
前面我们实现了一个简单的再也不能简单的新闻爬虫,这个爬虫有很多槽点,估计大家也会鄙视这个爬虫.上一节最后我们讨论了这些槽点,现在我们就来去除这些槽点来完善我们的新闻爬虫. 问题我们前面已经描述清楚,解 ...
python爬虫xpath教程_使用 Xpath 进行爬虫开发
使用 Xpath 进行爬虫开发 Xpath( XML Path Language, XML路径语言),是一种在 XML 数据中查找信息的语言,现在,我们也可以使用它在 HTML 中查找需要的信息. 既 ...
python爬虫捕鱼网站_一个简易的爬虫工具，使用Python语言编写，用于zhihu全自动捕鱼...
简介这是什么这是一个简易的爬虫工具,使用Python语言编写,用于zhihu全自动捕鱼,理论上,你可以爬取你感兴趣的任何问题,而不仅仅是小姐姐. 如何使用编程使用请确保你的Python版本是3 ...
python爬虫安装软件_为编写网络爬虫程序安装Python3.5
1. 下载Python3.5.1安装包 1.1 进入python官网,点击menu->downloads,网址:Download Python 1.2 根据系统选择32位还是64位,这里下载的可 ...
python爬表情包_【从零开始写爬虫一】批量下载表情包
序打算写个关于node的爬虫菜鸟教程,接下来将带大家一步一步写一个表情包爬虫,从获取页面,解析表情包链接, 清洗脏数据,下载表情包到本地.开始之前你需要有对chrome调试工具和ES6有一定了解,包 ...
零基础学python裴帅帅_人工智能时代，爬虫如此简单。
但我们伟大的苹果之父史蒂夫·乔布斯说,「每个人都应该学习编程,因为它教会你思考的方式」. 同时,英国牛津大学研究称,未来20年英国35%现有工作将自动化. 日本研究人员称,在未来的十到二十年之,日本将 ...

python爬虫动态数据获取_爬虫系列（9）爬虫的多线程理论以及动态数据的获取方法。...

python爬虫动态数据获取_爬虫系列（9）爬虫的多线程理论以及动态数据的获取方法。...相关推荐

最新文章

热门文章