python爬取音乐源码_手把手教你使用Python抓取QQ音乐数据(第一弹)
【一、项目目标】
获取 QQ 音乐指定歌手单曲排行指定页数的歌曲的歌名、专辑名、播放链接。
由浅入深,层层递进,非常适合刚入门的同学练手。
【二、需要的库】
主要涉及的库有:requests、json、openpyxl
【三、项目实现】
1.了解 QQ 音乐网站的 robots 协议
只禁止播放列表,可以操作。
2.进入 QQ 音乐主页 https://y.qq.com/
3.输入任意歌手,比如邓紫棋
4.打开审查元素(快捷键 Ctrl+Shift+I)
5.分析网页源代码 Elements,发现无歌曲信息,无法使用 BeautifulSoup,如下图所示,结果为空。
6.点击 Network,看数据在不在 XHR(无刷新更新页
面),我的经验是先看 Size 最大的,然后分析 Name,
查看 Preview,果然在里面!
7.点击 Headers,拿到相关参数。如下图,仔细观察
url 与 Query String Parameters 参数的关系,发现
url 中的 w 代表歌手名,p 代表页数。
8.通过 json 代码实现,首先小试牛刀,爬取第一页
的数据,url 直接复制过来。成功!
9.引入 params 参数,实现指定歌手、指定页数的查询。
注意代码url为上一步url中“?”之前的部分, params两边的参数都需要加 ’’,requests.get 添加 params,参数(也可顺便添加 headers 参数)
10. 添加存储功能,保存到本地(Excel)。也可保存为 csv 格式或存入数据库,操作类似。
【四、总结】
1.爬取 QQ 音乐比爬取豆瓣等网站稍难,所需信息不在网页源代码,需查看 XHR;
2.通过 XHR 爬取数据一般要使用 json,格式为:
res = requests.get(url)
json = res.json()
list = json[‘’][‘’]…
3.仅供练手参考,不建议爬取太多数据,给服务器增大负载;
python爬取音乐源码_手把手教你使用Python抓取QQ音乐数据(第一弹)相关推荐
- python爬虫可以爬取个人信息吗_手把手教你利用Python网络爬虫获取旅游景点信息...
爬虫系列: 当我们出去旅游时,会看这个地方有哪些旅游景点,景点价格.开放时间.用户的评论等. 本文基于Python网络爬虫技术,以hao123旅游网为例,获取旅游景点信息. 1.项目目标 获取网站的景 ...
- 1号店案例html源码_手把手教一起写jQuery版mini源码,分析jQuery的优势
适合人群 本文适合0.5~3年的前端开发人员,以及想了解jQuery是什么的小伙伴们. 前言 谈谈个人对jQuery的看法. 如果你是一个五年以上的开发人员,相信你一定认识了解jQuery.这好比你十 ...
- 底量超顶量超级大黑马指标源码_底量超顶量抓取黑马股的实战技法
在股市中有很多关于成交量变化的分析技巧,比如说是后量超前量.底量超顶量这两者之间有什么区别呢,后量就是指后面的成交量,前量指的是前几个交易日的成交量,与底量和顶量是不同的,那么使用底量超顶量怎样抓取黑 ...
- python刷题一亩三分地_手把手教你用python抓网页数据【一亩三分地论坛数据科学版】...
前言:. visit 1point3acres.com for more. 数据科学越来越火了,网页是数据很大的一个来源.最近很多人问怎么抓网页数据,据我所知,常见的编程语言(C++,java,pyt ...
- python量化选股策略 源码_【一点资讯】Python实现行业轮动量化选股【附完整源码】...
1.背景 大量研究表明,A股行业有明显的轮动现象,并且与A股相反,行业指数通常呈现动量特征,即前期涨幅高的行业,会延续上涨的趋势,比前期涨幅低的行业有明显超额收益. 此外,也有大量研究表明,A股市场存 ...
- python网站有中文界面吗_手把手教你用python开发界面程序
在本教程中 我们将通过使用Tkinter包编写一些python GUI示例来学习如何开发图形用户界面. Tkinter包是作为标准包随Python一起提供的 所以我们不需要安装任何东西来使用它. Tk ...
- python抢票用哪个库_手把手教你使用python抢票回家玩
电脑终端查看电脑上已有环境 conda env list 创建一个独立环境 conda create --name textenv 进入这个环境 source activate textenv 安装p ...
- 手把手教你入侵网站修改数据_手把手教你使用Python抓取QQ音乐数据(第四弹)...
[一.项目目标] 通过手把手教你使用Python抓取QQ音乐数据(第一弹)我们实现了获取 QQ 音乐指定歌手单曲排行指定页数的歌曲的歌名.专辑名.播放链接. 通过手把手教你使用Python抓取QQ音乐 ...
- 如何用python抓取qq音乐_手把手教你使用Python抓取QQ音乐数据(第三弹)-阿里云开发者社区...
[一.项目目标] 通过手把手教你使用Python抓取QQ音乐数据(第一弹)我们实现了获取 QQ 音乐指定歌手单曲排行指定页数的歌曲的歌名.专辑名.播放链接. 通过手把手教你使用Python抓取QQ音乐 ...
最新文章
- Ubuntu 12.04中文输入法的安装
- 编译原理学习笔记一(待续)
- 关于我的CSDN博客的一些要说的话
- 记一次糟心的内网靶场实战
- 《Android的设计与实现:卷I》迷你书
- centos用ifconfig不显示ip地址的解决方法
- pytorch: MaxUnpool2d 与 Upsampling
- 三星固态驱动安装失败_三星SSD无法安装Win10无法启动解决方案
- vue中使用video-player和百度地图
- Android必知App 常用图标尺寸规范汇总
- ps 毛发 边缘,抠图技巧,抠图后头发边缘的颜色怎处理
- ps怎么转为html和css,一个登录界面的PS设计和HTML/CSS实现
- 以太坊合并后下跌22%,我们分析链上的数据看看是否能找到答
- 树莓派Web登录校园网WIFI热点DJTU
- .NET 6 Minimal API 的经验分享
- 揭秘!腾讯程序员告诉你当今最热门的5门编程语言
- 英语--日常生活名词收集 Daily Life Nouns Collection
- 日志20130104~0308
- 第二天-01-虚拟机快照和克隆
- java获取GET和POST请求参数