Python爬虫一键下载yy全站短视频详细步骤（附源码）

基本开发环境
Python 3.6
Pycharm
相关模块的使用

import os
import requests

安装Python并添加到环境变量，pip安装需要的相关模块即可。

一、确定目标需求

百度搜索YY，点击分类选择小视频，里面的小姐姐自拍的短视频就是我们所需要的数据了。

二、网页数据分析
网站是下滑网页之后加载数据，在上篇关于好看视频的爬取文章中已经有说明，YY视频也是换汤不换药。

如图所示，所框选的url地址，就是短视频的播放地址了。

数据包接口地址：

https://api-tinyvideo-web.yy.com/home/tinyvideosv2?callback=jQuery112409962628943012035_1613628479734&appId=svwebpc&sign=&data=%7B%22uid%22%3A0%2C%22page%22%3A1%2C%22pageSize%22%3A10%7D&_=1613628479736

第二页的数据请求参数：

第三页的数据请求参数：

很明显这是根据data参数中的page改变翻页的。

构建翻页循环，获取视频url地址以及发布人的名字，保存到本地。

三、代码实现
1、请求数据接口

import requests
url = 'https://api-tinyvideo-web.yy.com/home/tinyvideosv2'
params = {'callback': 'jQuery112409962628943012035_1613628479734','appId': 'svwebpc','sign': '','data': '{"uid":0,"page":0,"pageSize":10}','_': '1613628479737',
}
headers = {'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'
}
response = requests.get(url=url, params=params, headers=headers)

问题来了，返回的数据是json数据嘛？

如上图所示，很多人看到这样的数据肯定就觉得这不就是一个json数据嘛？

JSONDecodeError： json解码错误，它并不是有一个json数据，而是字符串。

通过response查看就知道了，返回给我们的数据是多了一段 jQuery112409962628943012035_1613628479734()
其中的json数据是包含在里面的，如果想要提取数据有三种方法。

1、返回response.text，使用正则表达式提取url地址以及发布人的名字

video_url = re.findall(’“resurl”:"(.?)"’, response.text)
user_name = re.findall(’“username”:"(.?)"’, response.text)

2、返回response.text，使用正则表达式提取 jQuery112409962628943012035_1613628479734() 中的数据，然后通过json模块把字符串转成json数c#教程据，然后遍历提取数据。

string = re.findall('jQuery112409962628943012035_1613628479734\((.*?)\)', response.text)[0]
json_data = json.loads(string)
result = json_data['data']['data']
pprint.pprint(result)

3、把请求的url地址中的 callback 删掉，可以直接获取json数据

import pprint
import requestsurl = 'https://api-tinyvideo-web.yy.com/home/tinyvideosv2'
params = {'appId': 'svwebpc','sign': '','data': '{"uid":0,"page":1,"pageSize":10}','_': '1613628479737',
}
headers = {'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'
}
response = requests.get(url=url, params=params, headers=headers)
json_data = response.json()
result = json_data['data']['data']
pprint.pprint(result)

2、保存数据

for index in result:video_url = index['resurl']user_name = index['username']video_content = requests.get(url=video_url, headers=headers).contentwith open('video\\' + user_name + '.mp4', mode='wb') as f:f.write(video_content)

注意点：用户名有特殊字符，保存的时候会报错

所以需要使用正则表达式替换掉特殊字符

def change_title(title):
pattern = re.compile(r"[/\

Python爬虫一键下载yy全站短视频详细步骤（附源码）相关推荐

python爬取短视频,Python爬虫一键下载yy全站短视频详细步骤（附源码）
基本开发环境 Python 3.6 Pycharm 相关模块的使用 importosimport requests 安装Python并添加到环境变量,pip安装需要的相关模块即可. 一.确定目标需求 ...
【爬虫实战项目】Python爬虫批量下载评书音频并保存本地（附源码）
前言今天给大家介绍的是Python爬虫批量下载评书音频并保存本地,在这里给需要的小伙伴们代码,并且给出一点小心得. 首先是爬取之前应该尽可能伪装成浏览器而不被识别出来是爬虫,基本的是加请求头,但是这 ...
python 开发视频播放网站_python开发微电影视频网站教程附源码
做为一个合格的Pythoner,只掌握一个框架是不够,如果你有过其它Python框架(例如django)的使用经验,对比不同框架的特性来学习,你将收获更多当前信息若含有黄赌毒等违法违规不良内容,请点 ...
java毕业设计我爱短视频管理系统（附源码、数据库）
项目运行环境配置: Jdk1.8 + Tomcat8.5 + Mysql + HBuilderX(Webstorm也行)+ Eclispe(IntelliJ IDEA,Eclispe,MyEclis ...
小程序源码：老年祝福短视频微信小程序源码下载支持流量主
这是一款相当于是老年人的一个短视频小程序里面的视频内容基本都是那些老年人喜欢转发的所以说可以用此来打入老年人的圈子让老年人看了基本都会转发所以裂变还是挺不错的! 这一款小程序的视频是自动化的视 ...
老年祝福短视频微信小程序源码下载支持流量主
这是一款相当于是老年人的一个短视频小程序里面的视频内容基本都是那些老年人喜欢转发的所以说可以用此来打入老年人的圈子让老年人看了基本都会转发所以裂变还是挺不错的! 这一款小程序的视频是自动化的视 ...
抖音seo优化，短视频SEO矩阵系统源码搭建。
前言:抖音seo优化,短视频SEO矩阵系统源码搭建.技术团队如何围绕短视频矩阵关键词霸屏来做开发呢?从而抖音seo优化达到账号排名效果,关键词起到至关重要的作用,要依托于各平台的正规权限以及接口,其中 ...
最新版去水印小程序源码/基于WordPress的短视频去水印小程序源码
最新版去水印小程序源码,基于WordPress的短视频去水印小程序源码.本版本全开源,是Wordpress插件上传到Wordpress 安装插件,启动之后绑定自己的小程序id就可以了. wordpr ...
抖音矩阵号，优化排名，抖音短视频SEO矩阵系统源码开发。
前言:抖音矩阵号,优化排名,抖音短视频SEO矩阵系统源码开发. 短视频获客系统支持短视频智能剪辑.短视频定时发布,短视频排名查询及优化,智能客服等,那么短视频seo系统开发时需要开发哪些功能呢?今天我 ...

Python爬虫一键下载yy全站短视频详细步骤（附源码）

Python爬虫一键下载yy全站短视频详细步骤（附源码）相关推荐

最新文章

热门文章