Python3 爬虫实战 — 模拟登陆哔哩哔哩【滑动验证码对抗】

登陆时间：2019-10-21
实现难度：★★★☆☆☆
请求链接：https://passport.bilibili.com/login
实现目标：模拟登陆哔哩哔哩，攻克滑动验证码
涉及知识：滑动验证码的攻克、自动化测试工具 Selenium 的使用
完整代码：https://github.com/TRHX/Python3-Spider-Practice/tree/master/AutomationTool/bilibili-login
其他爬虫实战代码合集（持续更新）：https://github.com/TRHX/Python3-Spider-Practice
爬虫实战专栏（持续更新）：https://itrhx.blog.csdn.net/article/category/9351278

文章目录

【1x00】思维导图
【2x00】登陆模块
- 【2x01】初始化函数
- 【2x02】登陆函数
【3x00】验证码处理模块
- 【3x01】验证码元素查找函数
- 【3x02】元素可见性设置函数
- 【3x03】验证码截图函数
【4x00】验证码滑动模块
- 【4x01】滑动主函数
- 【4x02】缺口位置寻找函数
- 【4x03】计算滑块移动距离函数
- 【4x04】构造移动轨迹函数
- 【4x05】模拟拖动函数
【5x00】完整代码
【6x00】效果实现动图

【1x00】思维导图

利用自动化测试工具 Selenium 直接模拟人的行为方式来完成验证
分析页面，想办法找到滑动验证码的完整图片、带有缺口的图片和需要滑动的图片
对比原始的图片和带缺口的图片的像素，像素不同的地方就是缺口位置
计算出滑块缺口的位置，得到所需要滑动的距离
拖拽时要模仿人的行为，由于有个对准过程，所以要构造先快后慢的运动轨迹
最后利用 Selenium 进行对滑块的拖拽

【2x00】登陆模块

【2x01】初始化函数

def init():global url, browser, username, password, waiturl = 'https://passport.bilibili.com/login'# path是谷歌浏览器驱动的目录，如果已经将目录添加到系统变量，则不用设置此路径path = r'F:\PycharmProjects\Python3爬虫\chromedriver.exe'chrome_options = Options()chrome_options.add_argument('--start-maximized')browser = webdriver.Chrome(executable_path=path, chrome_options=chrome_options)# 你的哔哩哔哩用户名username = '155********'# 你的哔哩哔哩登陆密码password = '***********'wait = WebDriverWait(browser, 20)

global 关键字定义了发起请求的url、用户名、密码等全局变量，随后是登录页面url、谷歌浏览器驱动的目录path、实例化 Chrome 浏览器、设置浏览器分辨率最大化、用户名、密码、WebDriverWait() 方法设置等待超时

【2x02】登陆函数

def login():browser.get(url)# 获取用户名输入框user = wait.until(EC.presence_of_element_located((By.ID, 'login-username')))# 获取密码输入框passwd = wait.until(EC.presence_of_element_located((By.ID, 'login-passwd')))# 输入用户名user.send_keys(username)# 输入密码passwd.send_keys(password)# 获取登录按钮login_btn = wait.until(EC.presence_of_element_located((By.CSS_SELECTOR, 'a.btn.btn-login')))# 随机暂停几秒time.sleep(random.random() * 3)# 点击登陆按钮login_btn.click()

等待用户名输入框和密码输入框对应的 ID 节点加载出来

获取这两个节点，用户名输入框 id="login-username"，密码输入框 id="login-passwd"

调用 send_keys() 方法输入用户名和密码

获取登录按钮 class="btn btn-login"

随机产生一个数并将其扩大三倍作为暂停时间

最后调用 click() 方法实现登录按钮的点击

【3x00】验证码处理模块

【3x01】验证码元素查找函数

def find_element():# 获取带有缺口的图片c_background = wait.until(EC.presence_of_element_located((By.CSS_SELECTOR, 'canvas.geetest_canvas_bg.geetest_absolute')))# 获取需要滑动的图片c_slice = wait.until(EC.presence_of_element_located((By.CSS_SELECTOR, 'canvas.geetest_canvas_slice.geetest_absolute')))# 获取完整的图片c_full_bg = wait.until(EC.presence_of_element_located((By.CSS_SELECTOR, 'canvas.geetest_canvas_fullbg.geetest_fade.geetest_absolute')))# 隐藏需要滑动的图片hide_element(c_slice)# 保存带有缺口的图片save_screenshot(c_background, 'back')# 显示需要滑动的图片show_element(c_slice)# 保存需要滑动的图片save_screenshot(c_slice, 'slice')# 显示完整的图片show_element(c_full_bg)# 保存完整的图片save_screenshot(c_full_bg, 'full')

获取验证码的三张图片，分别是完整的图片、带有缺口的图片和需要滑动的图片

分析页面代码，三张图片是由 3 个 canvas 组成，3 个 canvas 元素包含 CSS display 属性，display:block 为可见，display:none 为不可见，在分别获取三张图片时要将其他两张图片设置为 display:none，这样做才能单独提取到每张图片

定位三张图片的 class 分别为：带有缺口的图片（c_background）：geetest_canvas_bg geetest_absolute、需要滑动的图片（c_slice）：geetest_canvas_slice geetest_absolute、完整图片（c_full_bg）：geetest_canvas_fullbg geetest_fade geetest_absolute

最后传值给 save_screenshot() 函数，进一步对验证码进行处理

【3x02】元素可见性设置函数

# 设置元素不可见
def hide_element(element):browser.execute_script("arguments[0].style=arguments[1]", element, "display: none;")# 设置元素可见
def show_element(element):browser.execute_script("arguments[0].style=arguments[1]", element, "display: block;")

【3x03】验证码截图函数

def save_screenshot(obj, name):try:# 首先对出现验证码后的整个页面进行截图保存pic_url = browser.save_screenshot('.\\bilibili.png')print("%s:截图成功!" % pic_url)# 计算传入的obj，也就是三张图片的位置信息left = obj.location['x']top = obj.location['y']right = left + obj.size['width']bottom = top + obj.size['height']# 打印输出一下每一张图的位置信息print('图：' + name)print('Left %s' % left)print('Top %s' % top)print('Right %s' % right)print('Bottom %s' % bottom)print('')# 在整个页面截图的基础上，根据位置信息，分别剪裁出三张验证码图片并保存im = Image.open('.\\bilibili.png')im = im.crop((left, top, right, bottom))file_name = 'bili_' + name + '.png'im.save(file_name)except BaseException as msg:print("%s:截图失败!" % msg)

location 属性可以返回该图片对象在浏览器中的位置，坐标轴是以屏幕左上角为原点，x轴向右递增，y轴向下递增

size 属性可以返回该图片对象的高度和宽度，由此可以得到验证码的位置信息

首先调用 save_screenshot() 属性对整个页面截图并保存

然后向 crop() 方法传入验证码的位置信息，由位置信息再对验证码进行剪裁并保存

【4x00】验证码滑动模块

【4x01】滑动主函数

def slide():distance = get_distance(Image.open('.\\bili_back.png'), Image.open('.\\bili_full.png'))print('计算偏移量为：%s Px' % distance)trace = get_trace(distance - 5)move_to_gap(trace)time.sleep(3)

向 get_distance() 函数传入完整的图片和缺口图片，计算滑块需要滑动的距离，再把距离信息传入 get_trace() 函数，构造滑块的移动轨迹，最后根据轨迹信息调用 move_to_gap() 函数移动滑块完成验证

【4x02】缺口位置寻找函数

def is_pixel_equal(bg_image, fullbg_image, x, y):# 获取两张图片对应像素点的RGB数据bg_pixel = bg_image.load()[x, y]fullbg_pixel = fullbg_image.load()[x, y]# 设定一个阈值threshold = 60# 比较两张图 RGB 的绝对值是否均小于定义的阈值if (abs(bg_pixel[0] - fullbg_pixel[0] < threshold) and abs(bg_pixel[1] - fullbg_pixel[1] < threshold) and abs(bg_pixel[2] - fullbg_pixel[2] < threshold)):return Trueelse:return False

将完整图片和缺口图片两个对象分别赋值给变量 bg_image 和 fullbg_image，接下来对比图片获取缺口。遍历图片的每个坐标点，获取两张图片对应像素点的 RGB 数据，判断像素的各个颜色之差，abs() 用于取绝对值，比较两张图 RGB 的绝对值是否均小于定义的阈值 threshold，如果绝对值均在阈值之内，则代表像素点相同，继续遍历，否则代表不相同的像素点，即缺口的位置

【4x03】计算滑块移动距离函数

def get_distance(bg_image, fullbg_image):# 滑块的初始位置distance = 60# 遍历两张图片的每个像素for i in range(distance, fullbg_image.size[0]):for j in range(fullbg_image.size[1]):# 调用缺口位置寻找函数if not is_pixel_equal(fullbg_image, bg_image, i, j):return i

get_distance() 方法即获取缺口位置的方法，此方法的参数是两张图片，一张为完整的图片，另一张为带缺口的图片，distance 为滑块的初始位置，遍历两张图片的每个像素，利用 is_pixel_equal() 缺口位置寻找函数判断两张图片同一位置的像素是否相同，若不相同则返回该点的值

【4x04】构造移动轨迹函数

def get_trace(distance):trace = []# 设置加速距离为总距离的4/5faster_distance = distance * (4 / 5)# 设置初始位置、初始速度、时间间隔start, v0, t = 0, 0, 0.1while start < distance:if start < faster_distance:a = 10else:a = -10# 位移move = v0 * t + 1 / 2 * a * t * t# 当前时刻的速度v = v0 + a * tv0 = vstart += movetrace.append(round(move))# trace 记录了每个时间间隔移动了多少位移return trace

get_trace() 方法传入的参数为移动的总距离，返回的是运动轨迹，运动轨迹用 trace 表示，它是一个列表，列表的每个元素代表每次移动多少距离，利用 Selenium 进行对滑块的拖拽时要模仿人的行为，由于有个对准过程，所以是先快后慢，匀速移动、随机速度移动都不会成功，因此要设置一个加速和减速的距离，这里设置加速距离 faster_distance 是总距离 distance 的4/5倍，滑块滑动的加速度用 a 来表示，当前速度用 v 表示，初速度用 v0 表示，位移用 move 表示，所需时间用 t 表示，它们之间满足以下关系：

move = v0 * t + 0.5 * a * t * t
v = v0 + a * t

设置初始位置、初始速度、时间间隔分别为0, 0, 0.1，加速阶段和减速阶段的加速度分别设置为10和-10，直到运动轨迹达到总距离时，循环终止，最后得到的 trace 记录了每个时间间隔移动了多少位移，这样滑块的运动轨迹就得到了

【4x05】模拟拖动函数

def move_to_gap(trace):# 获取滑动按钮slider = wait.until(EC.presence_of_element_located((By.CSS_SELECTOR, 'div.geetest_slider_button')))# 点击并拖动滑块ActionChains(browser).click_and_hold(slider).perform()# 遍历运动轨迹获取每小段位移距离for x in trace:# 移动此位移ActionChains(browser).move_by_offset(xoffset=x, yoffset=0).perform()time.sleep(0.5)# 释放鼠标ActionChains(browser).release().perform()

传入的参数为运动轨迹，首先查找到滑动按钮，然后调用 ActionChains 的 click_and_hold() 方法按住拖动底部滑块，perform() 方法用于执行，遍历运动轨迹获取每小段位移距离，调用 move_by_offset() 方法移动此位移，最后调用 release() 方法松开鼠标即可

【5x00】完整代码

# =============================================
# --*-- coding: utf-8 --*--
# @Time    : 2019-10-21
# @Author  : TRHX
# @Blog    : www.itrhx.com
# @CSDN    : https://blog.csdn.net/qq_36759224
# @FileName: bilibili.py
# @Software: PyCharm
# =============================================from selenium import webdriver
from selenium.webdriver.chrome.options import Options
from selenium.webdriver.support.wait import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
from selenium.webdriver.common.by import By
from selenium.webdriver import ActionChains
import time
import random
from PIL import Image# 初始化函数
def init():global url, browser, username, password, waiturl = 'https://passport.bilibili.com/login'# path是谷歌浏览器驱动的目录，如果已经将目录添加到系统变量，则不用设置此路径path = r'F:\PycharmProjects\Python3爬虫\chromedriver.exe'chrome_options = Options()chrome_options.add_argument('--start-maximized')browser = webdriver.Chrome(executable_path=path, chrome_options=chrome_options)# 你的哔哩哔哩用户名username = '155********'# 你的哔哩哔哩登录密码password = '***********'wait = WebDriverWait(browser, 20)# 登录函数
def login():browser.get(url)# 获取用户名输入框user = wait.until(EC.presence_of_element_located((By.ID, 'login-username')))# 获取密码输入框passwd = wait.until(EC.presence_of_element_located((By.ID, 'login-passwd')))# 输入用户名user.send_keys(username)# 输入密码passwd.send_keys(password)# 获取登录按钮login_btn = wait.until(EC.presence_of_element_located((By.CSS_SELECTOR, 'a.btn.btn-login')))# 随机暂停几秒time.sleep(random.random() * 3)# 点击登陆按钮login_btn.click()# 验证码元素查找函数
def find_element():# 获取带有缺口的图片c_background = wait.until(EC.presence_of_element_located((By.CSS_SELECTOR, 'canvas.geetest_canvas_bg.geetest_absolute')))# 获取需要滑动的图片c_slice = wait.until(EC.presence_of_element_located((By.CSS_SELECTOR, 'canvas.geetest_canvas_slice.geetest_absolute')))# 获取完整的图片c_full_bg = wait.until(EC.presence_of_element_located((By.CSS_SELECTOR, 'canvas.geetest_canvas_fullbg.geetest_fade.geetest_absolute')))# 隐藏需要滑动的图片hide_element(c_slice)# 保存带有缺口的图片save_screenshot(c_background, 'back')# 显示需要滑动的图片show_element(c_slice)# 保存需要滑动的图片save_screenshot(c_slice, 'slice')# 显示完整的图片show_element(c_full_bg)# 保存完整的图片save_screenshot(c_full_bg, 'full')# 设置元素不可见
def hide_element(element):browser.execute_script("arguments[0].style=arguments[1]", element, "display: none;")# 设置元素可见
def show_element(element):browser.execute_script("arguments[0].style=arguments[1]", element, "display: block;")# 验证码截图函数
def save_screenshot(obj, name):try:# 首先对出现验证码后的整个页面进行截图保存pic_url = browser.save_screenshot('.\\bilibili.png')print("%s:截图成功!" % pic_url)# 计算传入的obj，也就是三张图片的位置信息left = obj.location['x']top = obj.location['y']right = left + obj.size['width']bottom = top + obj.size['height']# 打印输出一下每一张图的位置信息print('图：' + name)print('Left %s' % left)print('Top %s' % top)print('Right %s' % right)print('Bottom %s' % bottom)print('')# 在整个页面截图的基础上，根据位置信息，分别剪裁出三张验证码图片并保存im = Image.open('.\\bilibili.png')im = im.crop((left, top, right, bottom))file_name = 'bili_' + name + '.png'im.save(file_name)except BaseException as msg:print("%s:截图失败!" % msg)# 滑动模块的主函数
def slide():distance = get_distance(Image.open('.\\bili_back.png'), Image.open('.\\bili_full.png'))print('计算偏移量为：%s Px' % distance)trace = get_trace(distance - 5)move_to_gap(trace)time.sleep(3)# 计算滑块移动距离函数
def get_distance(bg_image, fullbg_image):# 滑块的初始位置distance = 60# 遍历两张图片的每个像素for i in range(distance, fullbg_image.size[0]):for j in range(fullbg_image.size[1]):# 调用缺口位置寻找函数if not is_pixel_equal(fullbg_image, bg_image, i, j):return i# 缺口位置寻找函数
def is_pixel_equal(bg_image, fullbg_image, x, y):# 获取两张图片对应像素点的RGB数据bg_pixel = bg_image.load()[x, y]fullbg_pixel = fullbg_image.load()[x, y]# 设定一个阈值threshold = 60# 比较两张图 RGB 的绝对值是否均小于定义的阈值if (abs(bg_pixel[0] - fullbg_pixel[0] < threshold) and abs(bg_pixel[1] - fullbg_pixel[1] < threshold) and abs(bg_pixel[2] - fullbg_pixel[2] < threshold)):return Trueelse:return False# 构造移动轨迹函数
def get_trace(distance):trace = []# 设置加速距离为总距离的4/5faster_distance = distance * (4 / 5)# 设置初始位置、初始速度、时间间隔start, v0, t = 0, 0, 0.1while start < distance:if start < faster_distance:a = 10else:a = -10# 位移move = v0 * t + 1 / 2 * a * t * t# 当前时刻的速度v = v0 + a * tv0 = vstart += movetrace.append(round(move))# trace 记录了每个时间间隔移动了多少位移return trace# 模拟拖动函数
def move_to_gap(trace):# 获取滑动按钮slider = wait.until(EC.presence_of_element_located((By.CSS_SELECTOR, 'div.geetest_slider_button')))# 点击并拖动滑块ActionChains(browser).click_and_hold(slider).perform()# 遍历运动轨迹获取每小段位移距离for x in trace:# 移动此位移ActionChains(browser).move_by_offset(xoffset=x, yoffset=0).perform()time.sleep(0.5)# 释放鼠标ActionChains(browser).release().perform()if __name__ == '__main__':init()login()find_element()slide()

【6x00】效果实现动图

最终实现效果图：（关键信息已经过打码处理）