小三:怎么了小二?一副愁眉苦脸的样子。

小二:唉!这不是快过年了吗,家里又催相亲了 ...

小三:现在不是流行网恋吗,你可以试试相亲软件呀。

小二:这玩意靠谱吗?

小三:我也没用过,你自己看看软件评论区吧。

小二:这 ... 不过也只能先到评论区看看了。

本文以 360 手机助手为例,地址为:http://zhushou.360.cn/,相亲软件选择 3 个比较流行的,分别为:世纪佳缘、百合婚恋、有缘网,我们使用 Python 爬取软件评论区,看看用户评价情况。

先来看一下这三款软件的下载量和好中差评占比情况(下图单位为万次)。

下面开始爬取评论区,以世纪佳缘为例,首先,在搜索框输入世纪佳缘进行搜索,如图所示:

接着,点击搜索到的软件进入其详情页,如图所示:

将页面向下拉就可以看到评论区了,如图所示:

此时打开开发者工具并选择Network项,点击查看更多评论,然后可以看到getComments请求,如图所示:

通过这个请求我们就可以动态获取评论区数据了,其中参数star为开始的评论索引,参数count为每次加载的评论个数,可以通过参数callbackbaike指定不同应用,爬取代码实现如下:

headers = {"Accept": "*/*","Accept-Encoding": "gzip, deflate, sdch","Accept-Language": "zh-CN,zh;q=0.8","Connection": "keep-alive","Host": "comment.mobilem.360.cn","User-Agent": "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/57.0.2987.98 Safari/537.36 LBBROWSER"
}
def comment_spider(param, file_name):base_url = "http://comment.mobilem.360.cn/comment/getComments?c=message&a=getmessage&&count=50"start = 0for i in range(1, 50):print("第{}页".format(i))url = base_url + param + "&start=" + str(start)r = requests.get(url, headers=headers)data = re.findall("{\"errno\"(.*)\);}catch\(e\){}", r.text)# 转为 Json 格式jdata = json.loads("{\"errno\"" + data[0])for message in jdata["data"]["messages"]:content = message["content"]print(content)with open(file_name + ".txt", "a", encoding="utf-8") as f:f.write(content)start = start + 50time.sleep(2)

我们将爬取的评论数据存到了 txt 文件中。

接着,我们将评论数据进行词云展示,代码实现如下:

with open("yy.txt", "r", encoding="utf-8") as f:content = f.read()stylecloud.gen_stylecloud(text=content, max_words=600,collocations=False,font_path="SIMLI.TTF",icon_name="fas fa-heart",size=800,output_name="yy.png")Image(filename="yy.png")

最后,通过词云看一下用户对上述软件的评价情况。

世纪佳缘:

百合婚恋:

有缘网:

小二:看了有缘网的评论,我感觉自己和相亲软件无缘 ...

小三:...

用Python爬取了三大相亲软件评论区,结果…相关推荐

  1. python 爬取亚马逊评论_用Python爬取了三大相亲软件评论区,结果...

    小三:怎么了小二?一副愁眉苦脸的样子. 小二:唉!这不是快过年了吗,家里又催相亲了 ... 小三:现在不是流行网恋吗,你可以试试相亲软件呀. 小二:这玩意靠谱吗? 小三:我也没用过,你自己看看软件评论 ...

  2. 用Python爬取了三大相亲软件评论区,结果...

    小黑:怎么了小白?一副愁眉苦脸的样子. 小白:唉!这不是快过年了吗,家里又催相亲了 - 小黑:现在不是流行网恋吗,你可以试试相亲软件呀. 小白:这玩意靠谱吗? 小黑:我也没用过,你自己看看软件评论区吧 ...

  3. python 爬取软件_用Python爬取了三大相亲软件评论区,结果...

    小三:怎么了小二?一副愁眉苦脸的样子. 小二:唉!这不是快过年了吗,家里又催相亲了 ... 小三:现在不是流行网恋吗,你可以试试相亲软件呀. 小二:这玩意靠谱吗? 小三:我也没用过,你自己看看软件评论 ...

  4. 用Python爬取了三大相亲软件评论区!结局居然是这样!

    小三:怎么了小二?一副愁眉苦脸的样子. 小二:唉!这不是快过年了吗,家里又催相亲了 ... 小三:现在不是流行网恋吗,你可以试试相亲软件呀. 小二:这玩意靠谱吗? 小三:我也没用过,你自己看看软件评论 ...

  5. 利用python爬取东方财富网股吧评论并进行情感分析(一)

    利用python爬取东方财富网股吧评论(一) python-东方财富网贴吧文本数据爬取 分享一下写论文时爬数据用到的代码,有什么问题或者改善的建议的话小伙伴们一起评论区讨论.涉及内容在前人的研究基础之 ...

  6. python 爬取携程旅游景点评论

    python爬取携程旅游景点评论 爬取网址:https://you.ctrip.com/ 爬取评论全部代码 import requests import json import re import t ...

  7. python爬取国家男女比例_用python爬取3万多条评论,看韩国人如何评价韩国电影《寄生虫》?...

    用python爬取3万多条评论,看韩国人如何评价韩国电影<寄生虫>? 朱小五 凹凸数据 大家好,我是朱小五 今天给大家带来一个关于电影的数据分析文章. 别走啊,这次不是豆瓣,也不是猫眼 真 ...

  8. python爬取携程景区用户评论

    python爬取携程景区用户评论(爬虫时遇到翻页但url不变问题时的解决办法) python爬取携程景区用户评论 Ajax页面加载的页面和普通页面的不同 解决办法 效果 python爬取携程景区用户评 ...

  9. python爬取网抑云音乐评论

    提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 文章目录 前言 一.python爬取网抑云音乐评论 前言 提示:这里可以添加本文要记录的大概内容: python爬取网抑云音乐评论 提 ...

最新文章

  1. 利用curl命令测试服务端
  2. Masonry自动布局详解一:基本用法
  3. 串口助手驱动_STM32Cube22(补充) | 使用硬件I2C驱动OLED(SSD1306)
  4. 悲痛!高校一研究生在校内被撞身亡,肇事者为该校博导,警方已介入
  5. friendly发音_friendly是什么意思_friendly怎么读_friendly翻译_用法_发音_词组_同反义词_友好的_亲密的-新东方在线英语词典...
  6. Android系统(74)--- 从零实现灵活且可高度定制的Android图片选择架构
  7. Java线程池的实现原理,你清楚么?
  8. tomcat 无法关闭 :8005端口未启动
  9. ZendGuard-5_0_1 使用备忘
  10. 数据库与表的操作之编辑表结构(ALTER TABLE)
  11. 彻底安装oracle数据库,安装 Oracle 数据库软件
  12. mysql 命令之工作小结
  13. DNF单机版搭建(局域网、外网)
  14. 如何用一般方式获取C币可用分
  15. 【obs owt】屏幕采集创建DXGI
  16. 微信公众号通知和服务通知
  17. 从程序员到项目经理(28):该死的结果导向(只看结果,不问过程到底行不行?)【转载】
  18. 现代JS名词概念系列——函数的纯洁性【龟速翻译】
  19. 猎头如何做大单,赚大钱?
  20. 跟着小哈一起读AHT20温湿度传感器驱动源码

热门文章

  1. Matting和Segmentation区别及模型概述
  2. vue element Transfer 穿梭框 自定义数
  3. 接收base64编码解码,并保存图片
  4. C语言课程设计:新冠疫情管理系统
  5. 傅里叶周期分析软件专业版
  6. PHP时间转换--最全UTCnbsp;GMTamp;nb…
  7. 深度学习——深度聚类 小调研
  8. Debian 安装 xfce4 桌面
  9. 赛博格与人类的意识问题
  10. 超分辨结构光技术学习