自动爬取bilibi小视频
自动爬取bilibi小视频
- 实验环境
- 实验步骤
- 第一步:查找request URL请求地址
- 第二步:代码实现
- 1、访问目标网址代码
- 2、下载情况展示
- 3、编写主函执行程序
实验环境
- Chrome 浏览器 (能使用开发者模式的浏览器都行)
- 任意可编辑Python代码的编辑器
- Python3 开发环境
实验步骤
第一步:查找request URL请求地址
访问网站“http://vc.bilibili.com/p/eden/rank#/?tab=全部”通过 F12 打开开发者模式,然后在 Networking -> Name 字段下找到这个链接:
http://api.vc.bilibili.com/board/v1/ranking/top?page_size=10&next_offset=&tag=%E4%BB%8A%E6%97%A5%E7%83%AD%E9%97%A8&platform=pc
如下图所示。
我们可以看到Request URL这个属性值,我们向下滑动加载视频的过程中,发现只有这段url是不变的。
http://api.vc.bilibili.com/board/v1/ranking/top?
next_offset 会一直变化,我们可以猜测,这个可能就是获取下一个视频序号,我们只需要把这部分参数取出来,把 next_offset 写成变量值,用 JSON 的格式返回到目标网页即可。
第二步:代码实现
1、访问目标网址代码
我们通过上面的尝试写了段代码,发现 B 站在一定程度上做了反爬虫操作,所以我们需要先获取 headers 信息,否则下载下来的视频是空的,然后定义 params 参数存储 JSON 数据,然后通过 requests.get 去获取其参数值信息,用 JSON 的格式返回到目标网页即可,实现代码如下:
#!/usr/bin/env python
#-*-coding:utf-8-*-
import requests
import random
import time
def get_json(url):
headers = {'User-Agent': 'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36'
}params = {'page_size': 10,'next_offset': str(num),'tag': '今日热门','platform': 'pc'
}try:html = requests.get(url,params=params,headers=headers)return html.json()except BaseException:print('request error')pass
2、下载情况展示
为了能够清楚的看到我们下载的情况,我们折腾了一个下载器上去,实现代码如下:
def downloader(url,path):
start = time.time() # 开始时间
size = 0
headers = {'User-Agent': 'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36'
}response = requests.get(url,headers=headers,stream=True) # stream属性必须带上
chunk_size = 1024 # 每次下载的数据大小
content_size = int(response.headers['content-length']) # 总大小
if response.status_code == 200:print('[文件大小]:%0.2f MB' %(content_size / chunk_size / 1024)) # 换算单位with open(path,'wb') as file:for data in response.iter_content(chunk_size=chunk_size):file.write(data)size += len(data) # 已下载的文件大小
3、编写主函执行程序
通过以下调用上述两个方法,传入目标地址并将调取视频下载方法,代码如下。
if __name__ == '__main__':
for i in range(10):url = 'http://api.vc.bilibili.com/board/v1/ranking/top?'num = i*10 + 1html = get_json(url)infos = html['data']['items']for info in infos:title = info['item']['description'] # 小视频的标题video_url = info['item']['video_playurl'] # 小视频的下载链接print(title)# 为了防止有些视频没有提供下载链接的情况try:downloader(video_url,path='%s.mp4' %title)print('成功下载一个!')except BaseException:print('凉凉,下载失败')passtime.sleep(int(format(random.randint(2,8)))) # 设置随机等待时间
抓取结果如下图所示。
自动爬取bilibi小视频相关推荐
- python爬虫短片_Python爬虫练习:爬取全民小视频(附代码,过程)
前言 本文的文字及图片来源于网络,仅供学习.交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理 本次目标 爬取全民小视频 https://quanmin.baidu.com ...
- 批量爬取app小视频
批量爬取app小视频 全名小视频app视频爬取 fiddler的安装与使用. 抓包分析,请求网址与post请求表单信息,为构建抓取某个up主下的全部视频信息做准备. 分析加密信息. 效果示意图: 将复 ...
- python 爬小视频_Python爬虫练习:爬取全民小视频(附代码,过程)
前言 本文的文字及图片来源于网络,仅供学习.交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理 本次目标 爬取全民小视频 https://quanmin.baidu.com ...
- Python爬取全民小视频网站视频,可爬取全站视频
前言 本文的文字及图片来源于网络,仅供学习.交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理. PS:如有需要Python学习资料的小伙伴可以加点击下方链接自行获取 python免费学习资 ...
- Python爬取全民小视频网站视频,可爬取全网视频!
前言 本文的文字及图片来源于网络,仅供学习.交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理. PS:如有需要Python学习资料的小伙伴可以加点击下方链接自行获取 python免费学习资 ...
- Python 自动爬取B站视频
文件名自定义(文件格式为.py),脚本内容: #!/usr/bin/env python #-*-coding:utf-8-*- import requests import random impor ...
- 如何用python爬视频_科学网—利用python爬取一个小视频 - 李鸿斌的博文
工具 : requests 库 解析: beautifulsoup 任务: 视频抓取 1,分析目标网站 寻找一个虚拟的头文件 User-Agent: Mozilla/5.0 (Windows NT 6 ...
- 爬取Bilbili小视频
首先打开这个小视频地址,别问为什么,问就是我只找到了这个小视频的接口- 然后点击排行榜,先弹出的新页面按下F12 接下来需要找每个视频的链接了 ###这个很明显,一下就找到了,既然找到了第一, 那么打 ...
- python爬虫学习笔记(一)—— 爬取腾讯视频影评
前段时间我忽然想起来,以前本科的时候总有一些公众号,能够为我们提供成绩查询.课表查询等服务.我就一直好奇它是怎么做到的,经过一番学习,原来是运用了爬虫的原理,自动登陆教务系统爬取的成绩等内容.我觉得挺 ...
最新文章
- 电脑能连蓝牙耳机吗_安卓手机延迟最低的蓝牙耳机有吗?超低延迟蓝牙耳机推荐...
- 设计模式学习笔记——访问者模式(VIsitor)
- java 死锁种类_用java写一个死锁
- simulink仿真及代码生成技术入门到精通_Simulink仿真零基础入门到精通实用教学教程 自学全套...
- (40)Gulp中使用BootStrap
- android模拟器模拟nfc功能吗,打开NFC模拟器不适用于Android模拟器
- 小爱音箱mini系统故障怎么办_Win7系统连接小爱音箱mini的方法【图文】
- java出租车计费系统_基于JavaEE的出租车计费系统的设计实验报告
- E-BOM和M-BOM的区别
- 苹果电池显示维修_iPhone电池健康显示“维修”的原因和解决办法
- Windows平台安装SQLite3数据库
- 华为mate40e灭屏显示教程
- iapp退出软件按钮代码_吱呀怎么退出登录-吱呀APP退出登录的方法
- X11 Wayland 及 Mir 比较
- 操作系统中的虚拟内存详解
- 实现微信自定义分享网页(java)
- mysql_java.sql.SQLException: null, message from server: Host 'xxx' is not allowed to connect
- 用故事解析setTimeout和setInterval(内含js单线程和任务队列)
- 关于线性代数:方程组同解
- 诺丁汉大学计算机专业介绍,诺丁汉大学计算机科学本科专业.pdf
热门文章
- 《客户端脚本语言-JavaScript》
- 条码技术(CODE 39编码)
- 基于Java+Vue+uniapp微信小程序实现餐厅校园订餐平台
- 上行NOMA和下行NOMA(解码顺序)
- 【SQL】MySQL的查询语句
- 物理服务器迁移至虚拟机后网卡,关于VMware虚拟网卡net1与net8消失及虚拟机与物理机相互ping不通心得...
- UML学习四:UML在微软的VS与Visio间的应用 VEA
- Windows下的多桌面管理器
- Neo4j / Cypher语言学习
- 浅谈从苏格拉底的“认识你自己”到尼采的“成为你自己”