前阵子,一条微博成功引起了我的注意:

没想到你竟是这样的虎扑!

正好我们也在做网站的数据分析案例,不如就用 Python 来分析下,虎扑你这个“直男论坛”到底是怎样的?

数据来源

这个案例我们几个月前就有计划了,所以数据是之前采集的。

时间:2019.3.16-2019.6.22(虎扑论坛只显示近三个月的帖子)

数据:板块内容:共101.4w个帖子的概要数据帖子内容:回复数大于 200,浏览数大于 5w 的4.4w个帖子用户页面:29.9w(详细帖子数据中发帖回帖用户),其中 10w 有效数据(剩余 17.6w 未填写,1.4w 填地球)

说明一下,我们这里不可能获取到虎扑的全部数据,但作为一个抽样统计已经足够。其中帖子的详细内容由于请求量很大,我们就选取了其中回复和浏览都比较高的那部分帖子作为分析样本。

接下来就让我们来看一看详细的数据情况:

板块

虽然虎扑名义上是个篮球论坛,但步行街(无主题闲聊区)的帖子占据了半壁江山。对比之下很悲凉的是中国足球论坛,基本没啥话题。

尽管主题数不如步行街,但看平均回帖数,篮球论坛还是名副其实。

发帖

看每天日间发帖时间的分布,两个高峰:上午10点(上班摸鱼)和晚上21点(吃过饭躺床上)。上午高峰还有个原因,就是NBA比赛都是这个时间段转播的。

这是3个月来每天发帖总数的变化趋势,看得出在稳步上升。知道曲线上为啥会有定期的波峰吗?通常都是精彩比赛场次的日子。图上3个峰值的日子分别对应:火箭vs勇士、猛龙vs勇士、勇士vs猛龙 三场比赛。

热门帖子的浏览与回帖数分布。可以看出一个现象:浏览量大的贴,回帖数通常也很高;但回帖多的帖就未必都会有高浏览量(高回帖低浏览的基本都是抽奖贴)。

用户

尽管有一半以上的用户没有在资料里选择性别,但从填写的这部分用户来看,“直男论坛”实锤没跑了。

这是一张声望>8000的用户分布散点图(在交互版本上会看得更直观,文末有地址),比较突出的是张佳玮·信陵(声望最高)、视频综合站(发帖最多)

而从这张注册/在线时长的用户分布图上可以看到,“视频综合站”的在线时长却是很少的,可见这应该不是一个真人号。

从用户注册时间上来看,每年的新增用户都在上涨,20142017年是虎扑增长较快的两年。

另外我们统计了用户声望和等级的前50排行,声望最高:张佳玮·信陵,等级最高:登等瞪等凳。图略,可详见动态图表演示页面。

地区

东部和南部沿海省市JRs 的数量比较多,另外就是北京四川

全球范围来看,美国要远高于其他国外地区。(这里为了国外区域显示效果而降低了颜色范围,实际美国的用户和国内差了2个数量级)

各地区用户的平均在线时长,上海JRs 最能肝。不过,平均数是可能被一些个别用户把数据拉高的,所以我们还加了中位数的统计,可以看到湖南的233是最高。

等级中位数,又是湖南第一。

声望中位数,还是湖南

发帖中位数,依然是湖南……

回帖中位数,不用我说,你们猜到是哪里了吧?

词云

最后,我们来看下虎扑 JRs 这三个月的帖子中频率最高的词汇是什么:

项目介绍

回到技术层面,关于这个项目的实现,简单说下思路:

项目思路

  1. 分析虎扑论坛页面,评价可获取数据,确定分析目标;
  2. 使用了 requests 和 scrapy 抓取相应数据, 并使用 pymongo 保存;
  3. 使用可视化工具 pyecharts,对数据进行可视化处理。
  4. 整理分析。

运行环境

  • python 3.7
  • windows 10
  • jupyter notebook

运行依赖包

  • requests
  • pyecharts
  • pymongo
  • scrapy
  • jieba
  • wordcloud

关于项目的详细说明,我们放在了开发文档里,连同交互演示页面一起提交在了 github 上。需要源码的同学可在公众号(Crossin的编程教室)里回复关键字虎扑

原始数据因为较大,没有放在项目中,参与“码上行动”的同学如果想要拿来练习数据分析,可以在群里问助教索要。

查看交互演示页面也可把此地址复制到浏览器里访问,这是github在线渲染HTML页面的功能 (数据量大,在线加载会有点慢,手机流量慎入):

https://htmlpreview.github.io/?https://raw.githubusercontent.com/spiderbeg/hupu_data/master/hupu_html/one_piece_plates.html

对此类分析感兴趣还可看下之前的案例:B站用户行为分析非官方报告

本文代码由实训生 清风小筑 完成

----

更多干货内容,欢迎搜索并关注:Crossin的编程教室

一起学,走得远!

JRs在看啥?- 虎扑社区用户行为分析相关推荐

  1. python虎扑社区论坛数据爬虫分析报告

    以下是摘自虎扑的官方介绍: 虎扑是为年轻男性服务的专业网站,涵盖篮球.足球.F1.NFL等赛事的原创新闻专栏视频报道,拥有大型的生活/影视/电竞/汽车/数码网上交流社区,聊体育谈兴趣尽在虎扑. 二.数 ...

  2. 虎扑论坛用户数据分析报告

    原文:http://tecdat.cn/?p=4115 一.以下是摘自虎扑的官方介绍: 虎扑是为年轻男性服务的专业网站,涵盖篮球.足球.F1.NFL等赛事的原创新闻专栏视频报道,拥有大型的生活/影视/ ...

  3. 爬取虎扑社区-晒晒照片

    爬取虎扑社区-晒晒照片 网上看到这个消息,顺便想试试手就做了这个 环境是MacOS + Anaconda (python 3.7) 就是练练手,网不好的时候会有bug 提示:类型错误Attribute ...

  4. 一个虎扑社区数据分析实战

    前阵子,一条微博成功引起了我的注意: 没想到你竟是这样的虎扑! 正好我们也在做网站的数据分析案例,不如就用 Python 来分析下,虎扑你这个直男论坛到底是怎样的? 数据来源     这个案例我们几个 ...

  5. 12个黑科技网站,每个都是十分良心了 zt – 步行街主干道 – 虎扑社区

    文章目录[隐藏] 12个黑科技网站,每个都是十分良心了 zt 社区 » 步行街 » 步行街主干道 12个黑科技网站,每个都是十分良心了 zt 972回复 /26亮  366618 浏览 1234567 ...

  6. 爬取虎扑社区,存入MongoDB数据库

    直接上源代码,代码中有详细注释,顺便写了个mongodbAPI 更 多 爬 虫 教 程 请 移 步 \color{red}更多爬虫教程请移步 更多爬虫教

  7. 【Python爬虫练习】虎扑社区步行街版块首页信息爬取(BeautifulSoup+MongoDB)

    严正声明:爬虫仅用于学习研究,不做商业或者其它非法用途! 首先我们要爬取的网页地址为:https://bbs.hupu.com/bxj 页面的样子是这样的: 红色圈出来的部分就是我们所要爬取的内容信息 ...

  8. 产品分析报告—年轻人的体育社区—虎扑

    虎扑的前身是hoopCHINA篮球论坛,而hoop的中文意思就是篮圈,蓝框.毫无疑问,虎扑就是围绕"篮球"而慢慢展开各种业务的体育门户网站,其中包括各类体育新闻资讯,各大体育赛事直 ...

  9. (转)虎扑论坛基因探秘:社群用户行为数据洞察

    论坛为有相同爱好的网友提供了广阔的互动交流平台,而由此积累下来的庞大数据和复杂的用户互动场景也蕴含着有价值的信息,本文对虎扑论坛的帖子.个人信息展开分析,探索虎扑论坛用户有哪些特点? ▼ tecdat ...

最新文章

  1. Stream Part.4
  2. JMeter重要知识点汇总
  3. 概率论与数理统计(一)
  4. CNN 与 LSTM 模型复杂度分析
  5. oracle u01清理,Oracleの/u01/11g/diag/rdbms/orcl/orcl/incident 的清理
  6. android 多线程断点续传下载 三
  7. boost学习之boost::lock_guardT与boost::unique_lockT的区别
  8. 想了解 spring-cloud-kubernetes,那就先来实战一把官方demo
  9. sqlite C/C++
  10. python ftplib下载文件封装
  11. 堆结构导致数据文件不能收缩
  12. xtrabackup-增量备份
  13. 51Nod-1134 最长递增子序列【LIS】
  14. vant部署_Vue 3.x配置Vuex使用Vant TabBar及部署
  15. Opencv椭圆拟合
  16. opencv-4.5.5-vc14_vc15配置环境VC++
  17. 为移动硬盘(硬盘盒)安装linux(傻瓜式,简单,高效)
  18. Vitis指南 | Xilinx Vitis 系列(一)
  19. python一种基于电脑mac地址的加密算法
  20. 弹性盒子布局(下面有代码)

热门文章

  1. web前端网页设计期末课程大作业:企业网页主题网站设计——舞蹈培训11页HTML+CSS+JavaScript
  2. 重磅发布!GitHub App 正式上架
  3. 【黑曼巴】菜鸟HTML
  4. 2022-2028全球与中国语音遥控器市场现状及未来发展趋势
  5. 【win10+cuda7.5+cudnn6.0安装caffe⑥】报错及处理方式
  6. c 是高级程序设计语言吗,C语言是一种高级程序设计语言。
  7. JAVA毕设项目林家餐厅自助点餐管理系统(java+VUE+Mybatis+Maven+Mysql)
  8. H5新增input属性值
  9. 【SDOI2010】【BZOJ1924】所驼门王的宝藏
  10. kibana监控logstash