有个段子讲“十年文案老司机,不如网易评论区,网易文豪遍地走,评论全部单身狗”,网易云音乐的评论区也一直都是各类文案大神的聚集地。

那么我们普通用户到底如何成为网易云音乐评论里的热评段子手?

让我来分析一下。

获取数据

其实逻辑并不复杂:

  1. 爬取歌单列表里的所有歌单url。

  2. 进入每篇歌单爬取所有歌曲url,去重。

  3. 进入每首歌曲首页爬取热评,汇总。

歌单列表是这样的:

翻页并观察它的url变化,注意下方动图,每次翻页末尾变化35。

采用requests+pyquery来爬取。


在学习过程中有什么不懂得可以加我的
python学习交流扣扣qun,784758214
群里有不错的学习视频教程、开发工具与电子书籍。
与你分享python企业当下人才需求及怎么从零基础学习好python,和学习什么内容
def get_list():list1 = []for i in range(0,1295,35):url = 'https://music.163.com/discover/playlist/?order=hot&cat=%E5%8D%8E%E8%AF%AD&limit=35&offset='+str(i)print('已成功采集%i页歌单\n' %(i/35+1))data = []html = restaurant(url)doc = pq(html)for i in range(1,36): # 一页35个歌单a = doc('#m-pl-container > li:nth-child(' + str(i) +') > div > a').attr('href')a1 = 'https://music.163.com/api' + a.replace('?','/detail?')data.append(a1)list1.extend(data)time.sleep(5+random.random())return list1

这样我们就可以获得38页每页35篇歌单,共1300+篇歌单。

下面我们需要进入每篇歌单爬取所有歌曲url,并且要注意最后“去重”,不同歌单可能包含同一首歌曲。

点开一篇歌单,注意红色圈出的id。

观察一下,我们要在每篇歌单下方获取的信息也就是红框圈出的这些,利用刚刚爬取到的歌单id和网易云音乐的api(下一篇文章细讲)可以构造出:

不方便看的话我们解析一下json。

def get_playlist(url):data = []doc = get_json(url)obj=json.loads(doc)jobs=obj['result']['tracks']for job in jobs:dic = {}dic['name']=jsonpath.jsonpath(job,'$..name')[0] #歌曲名称dic['id']=jsonpath.jsonpath(job,'$..id')[0] #歌曲IDdata.append(dic)return data

这样我们就获取了所有歌单下的歌曲,记得去重。

#去重
data = data.drop_duplicates(subset=None, keep='first', inplace=True)

剩下就是获取每首歌曲的热评了,与前面获取歌曲类似,也是根据api构造,很容易就找到了。

def get_comments(url,k):data = []doc = get_json(url)obj=json.loads(doc)jobs=obj['hotComments']for job in jobs:dic = {}dic['content']=jsonpath.jsonpath(job,'$..content')[0] dic['time']= stampToTime(jsonpath.jsonpath(job,'$..time')[0])dic['userId']=jsonpath.jsonpath(job['user'],'$..userId')[0]  #用户IDdic['nickname']=jsonpath.jsonpath(job['user'],'$..nickname')[0]#用户名dic['likedCount']=jsonpath.jsonpath(job,'$..likedCount')[0] dic['name']= kdata.append(dic)return data

汇总后就获得了44万条音乐热评数据。

数据分析

清洗填充一下。

def data_cleaning(data):cols = data.columnsfor col in cols:if data[col].dtype ==  'object':data[col].fillna('缺失数据', inplace = True)else:data[col].fillna(0, inplace = True)return(data)

按照点赞数排个序。

#排序
df1['likedCount'] = df1['likedCount'].astype('int')
df_2 = df1.sort_values(by="likedCount",ascending=False)
df_2.head()

再看看哪些热评是被复制粘贴搬来搬去的。

#排序
df_line = df.groupby(['content']).count().reset_index().sort_values(by="name",ascending=False)
df_line.head()

第一个和第三个只是末尾有没有句号的区别,可以归为一类。这样的话,重复次数最多个这句话竟然重复了412次,额~~

看看上热评次数次数最多的是哪位大神?从他的身上我们能学到什么经验?

df_user = df.groupby(['userId']).count().reset_index().sort_values(by="name",ascending=False)
df_user.head()

按照 user_id 汇总一下,排序。

成功“捕获”一枚“段子手”,上热评次数高达347,我们再看看这位大神究竟都评论些什么?

df_user_max = df.loc[(df['userId'] == 101***770)]
df_user_max.head()

这位“失眠的陈先生”看来各种情话娴熟于手啊,下面就以他举例来看看如何成为网易云音乐评论里的热评段子手吧。

数据可视化

先看看这347条评论的赞数分布。

#赞数分布图
import matplotlib.pyplot as plt
data = df_user_max['likedCount']
#data.to_csv("df_user_max.csv", index_label="index_label",encoding='utf-8-sig')
plt.hist(data,100,normed=True,facecolor='g',alpha=0.9)
plt.show()

很明显,赞数并不多,大部分都在500赞之内,几百赞却能跻身热评,这也侧面说明了这些歌曲是比较小众的,看来是经常在新歌区广撒网。

我们使用len() 求出每条评论的字符串长度,再画个分布图

评论的字数集中在18—30字之间,这说明在留言时要注意字数,保险的做法是不要太长让人读不下去,也不要太短以免不够经典。

做个词云。

可以看出他的评论风格是以一首歌使他“想起”“感觉”为开头,宾语通常是“喜欢的女孩子”,也经常用”她”来指代。寄托的情感是“后悔”“悲伤”,感慨的终点是“放下”。

也许我们可以通过分析规律收获点赞,成为热评网红段子手。但最终能打动人心的,依然是基于歌曲本身的真诚分享,和点出歌中蕴含的真正共鸣。

来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/69913713/viewspace-2654787/,如需转载,请注明出处,否则将追究法律责任。

转载于:http://blog.itpub.net/69913713/viewspace-2654787/

用Python分析44万条数据,揭秘如何成为网易云音乐评论区的网红段子手相关推荐

  1. 第六十七期:Python爬虫44万条数据揭秘:如何成为网易音乐评论区的网红段子手

    获取数据,其实逻辑并不复杂:爬取歌单列表里的所有歌单url.进入每篇歌单爬取所有歌曲url,去重.进入每首歌曲首页爬取热评,汇总. 作者:嗨学python来源:今日头条 获取数据 其实逻辑并不复杂: ...

  2. python的歌曲评论数据分析_用Python分析44万条数据,揭秘如何成为网易云音乐评论区的网红段子手...

    有个段子讲"十年文案老司机,不如网易评论区,网易文豪遍地走,评论全部单身狗",网易云音乐的评论区也一直都是各类文案大神的聚集地. 那么我们普通用户到底如何成为网易云音乐评论里的热评 ...

  3. python爬虫网易云音乐评论最多的歌_Python爬虫44万条数据揭秘:如何成为网易云音乐评论区的网红段子手?...

    获取数据 其实逻辑并不复杂: 1.爬取歌单列表里的所有歌单url. 2.进入每篇歌单爬取所有歌曲url,去重. 3.进入每首歌曲首页爬取热评,汇总. 歌单列表是这样的: 翻页并观察它的url变化,注意 ...

  4. 44 万条数据揭秘:如何成为网易云音乐评论区的网红段子手?

    作者 | 朱小五 责编 | 伍杏玲 有个段子讲"十年文案老司机,不如网易评论区,网易文豪遍地走,评论全部单身狗",网易云音乐的评论区也一直都是各类文案大神的聚集地. 那么我们普通用 ...

  5. Python 分析 9 万条数据告诉你复仇者联盟谁才是绝对 C 位!

    <复联 4>国内上映第十天,程序员的江湖里开始流传这样一个故事,即: 漫威宇宙,其实就讲了一件事情.整个宇宙就好比一个项目组.其中有一群叫作美国队长.钢铁侠.惊奇队长.浩克.索尔等人在维护 ...

  6. Python分析9万条数据告诉你复仇者联盟谁才是绝对C位

    作者 | 罗昭成 责编 | 唐小引 转载自CSDN(ID:CSDNnews) <复联 4>国内上映第十天,程序员的江湖里开始流传这样一个故事,即: 漫威宇宙,其实就讲了一件事情.整个宇宙就 ...

  7. 复仇者联盟谁才是绝对 C 位?Python分析9万条数据告诉你答案

    作者 | 罗昭成 责编 | 唐小引 <复联 4>国内上映第十天,程序员的江湖里开始流传这样一个故事,即:漫威宇宙,其实就讲了一件事情.整个宇宙就好比一个项目组.其中有一群叫作美国队长.钢铁 ...

  8. [译] 使用 python 分析 14 亿条数据

    原文地址:Analysing 1.4 billion rows with python 原文作者:Steve Stagg 译文出自:掘金翻译计划 本文永久链接:github.com/xitu/gold ...

  9. python爬取网易云音乐评论并进行可视化分析

    2019独角兽企业重金招聘Python工程师标准>>> 前言 今天为大家一个爬取网易云音乐评论的Python案例,并用Python的第三方库来进行可视化分析,生成图表样式,可以清晰地 ...

  10. python爬取网易云音乐评论分析_python爬取网易云音乐评论

    本文实例为大家分享了python爬取网易云音乐评论的具体代码,供大家参考,具体内容如下 import requests import bs4 import json def get_hot_comme ...

最新文章

  1. Push Notifications
  2. linux系统下redhat7之虚拟机控制
  3. 攀登数据科学家和数据工程师之间的隔墙
  4. php csv,php csv操作类代码
  5. SQL优化避免索引失效
  6. 路径包含空格_5分钟学会:矢量工具与路径-编辑路径
  7. CentOS下firefox安装flash说明
  8. 小程序入门系列之 tabBar
  9. 贷款承诺(Loan Commitment)
  10. 自定义拦截器Interceptor
  11. BERT中进行NER为什么没有使用CRF,我们使用DL进行序列标注问题的时候CRF是必备么?...
  12. 廖雪峰python教程杨辉三角_打印杨辉三角(廖雪峰python教程)
  13. 仿链家地图找房_愉快滴抓取链家地图找房中的商圈
  14. mysql 数据库恢复模式_数据库的恢复模式
  15. 我的团长我的团第三集
  16. cad高程标注插件lisp_【源码】CAD高程转标高,CAD插件大全,小懒人CAD工具箱
  17. 判断一个数是不是2的N次方 自己写的土算法
  18. 读完两个博士是什么体验?Nature专访了3位双料博士
  19. 视频搜索关键技术浅析
  20. 解决git bash中无法粘贴的问题

热门文章

  1. 关于求职及面试的一些小技巧
  2. namecheap 从域名绑定到SSL配置
  3. 渐进式Express源码学习6-独孤求败
  4. DongDong认亲戚(字符串之间的并查集应用)
  5. 练习电脑键盘打字最好的网站
  6. 计算机一级打字要注意什么,用键盘打字时要注意什么 怎样用键盘来练习打字...
  7. 顺序结构-计算标准体重
  8. knn.predict()报错 Expected 2D array, got 1D array instead: array=[18 90]. Reshape your data either usi
  9. uinty SkinnedMeshRenderer (二) batches 优化,模型合并网格贴图
  10. 中台服务架构的一点思考