python爬虫beautifulsoup爬当当网_利用python爬虫可视化分析当当网的图书数据!
导语
这周末就分享个小爬虫吧。利用Python爬取并简单地可视化分析当当网的图书数据。
开发工具
Python版本:3.6.4
相关模块:
requests模块;
bs4模块;
wordcloud模块;
jieba模块;
pillow模块;
pyecharts模块;
以及一些Python自带的模块。
环境搭建
安装Python并添加到环境变量,pip安装需要的相关模块即可。
数据爬取
任务:
根据给定的关键字,爬取与该关键字相关的所有图书数据。
实现:
以关键字为python为例,我们要爬取的图书数据的网页页面是这样子的:
其中,网页的链接格式为:
http://search.dangdang.com/?key={keyword}&act=input&page_index={page_index}'
因此请求所有与关键词相关的链接:
然后利用BeautifulSoup分别解析返回的网页数据,提取我们自己需要的数据即可:
运行效果:
在cmd窗口运行"ddSpider.py"文件即可。
效果如下:
数据分析
好的,现在就简单地可视化分析一波我们爬取到的61页python相关的图书数据吧~
让我们先看看图书的价格分布吧:
有没有人想知道最贵的一本python相关的书的单价是多少呀?答案是:28390RMB
书名是:
Python in Computers Programming
QAQ买不起买不起。
再来看看图书的评分分布呗:
看来大多数python相关的图书都没人买过诶~大概是买不起吧T_T。
再来评论数量?
那么评论数量TOP6的图书有哪些呢?
老规矩,画两个词云作结吧,把所有python相关的图书的简介做成词云如何?
番外篇
这篇文章真的结束了吗?
这篇文章真的结束了吗?
这篇文章真的结束了吗?
难道没有人好奇我文章的封面怎么做的吗?
好吧,我写文章的时候没人看到,所以即使真的有人好奇也没法说?
其实很简单,就是下了961张python相关图书的图书封面,然后拼在一起了。
源代码如下:
效果如下:
python爬虫beautifulsoup爬当当网_利用python爬虫可视化分析当当网的图书数据!相关推荐
- python爬取音乐_利用Python对网易云音乐进行爬取!无所不爬的爬虫啊!
今天,我们利用Python 中的selenium爬取网易云音乐中林俊杰<将故事写成我们>的评论,具体界面如下: 私信小编01 获取数十套PDF!爬虫 web都有的呢! 具体代码如下: #此 ...
- python爬虫爬取音乐_利用python爬虫实现爬取网易云音乐热歌榜
利用python爬虫实现爬取网易云音乐热歌榜 发布时间:2020-11-09 16:12:28 来源:亿速云 阅读:102 作者:Leah 本篇文章给大家分享的是有关利用python爬虫实现爬取网易云 ...
- python爬微信群_利用Python爬虫实现30秒爬取500篇微信文章
引言 由于工作需要,给公司前端做了一个小工具,使用python语言,爬取搜狗微信的微信文章,附搜狗微信官方网址 从热门到时尚圈,并且包括每个栏目下面的额加载更多内容选项 一共加起来500+篇文 ...
- python beautifulsoup抓取网页内容_利用Python和Beautiful Soup抓取网页内容
利用Python和Beautiful Soup抓取网页内容 Posted on 2012-08-09 00:08 SamWei 阅读(381) 评论(1) 编辑 收藏 Python 3中提供了url打 ...
- python爬取股票信息_利用Python爬取网易上证所有股票数据(代码
利用Python爬取网易上证所有股票数据(代码 发布时间:2018-04-14 17:30, 浏览次数:1261 , 标签: Python import urllib.request import r ...
- python数据库操作批量sql执行_利用Python如何批量修改数据库执行Sql文件
利用Python如何批量修改数据库执行Sql文件 来源:中文源码网 浏览: 次 日期:2018年9月2日 [下载文档: 利用Python如何批量修改数据库执行Sql文件.txt ] (友 ...
- python 16bit转8bit的工具_利用python读取YUV文件 转RGB 8bit/10bit通用
注:本文所指的YUV均为YUV420中的I420格式(最常见的一种),其他格式不能用以下的代码. 位深为8bit时,每个像素占用1字节,对应文件指针的fp.read(1): 位深为10bit时,每个像 ...
- python把汉字变成拼音英文_利用python将表格中的汉字转化为拼音
GB18030的字符集标准 http://zbgb5.com/2/StandardDetail479488.htm 缺少包时用pip install 进行安装,例如: pip install xlsx ...
- python实现按键精灵的功能_利用Python实现Windows下的鼠标键盘模拟的实例代码
本文介绍了利用Python实现Windows下的鼠标键盘模拟的实例代码,分享给大家 本来用按键精灵是可以实现我的需求,而且更简单,但既然学python ,就看一下呗. 依赖: pip install ...
最新文章
- 海思3531D上编译FFmpeg源码操作步骤
- .NET Core微服务系列基础文章索引(目录导航Final版)
- mitmproxy配置代理后 APP连接不到网络 XPosed安装
- Spring Cloud Alibaba - 11 Ribbon 自定义负载均衡策略(同集群优先权重负载均衡算法)
- Android数据之Json解析
- mybatis整合数据权限
- 对于短信平台呼叫状态机的调查
- hashtable允许null键和值吗_MySQL默认值选型是空,还是 NULL-爱可生
- java linux 服务_java项目部署Linux服务器几种启动方式总结经验
- 怎么用计算机算账单,电脑如何快速调出计算器
- 钉钉终于崩了!小学生欢呼庆祝解放,没想到没高兴多久就...
- UI素材|让设计有愉悦的体验,app交互动效的重要性!
- 罗永浩、戴威的 C 位消亡史
- treeset可以重复吗_java容器(五)HashSet与TreeSet
- hosts文件原理及运用
- QComboBox使用讲解
- 中括号 上面 缺一横 下面缺一横 不大于 不小于 算法知识点
- 在 AIX 上实现 iSCSI
- python networkx 边权重_networkx(Python)中基于边权重排序的相邻边
- 设计模式—— 四:接口隔离原则
热门文章
- 【MySQL】数据库配置
- html手机输入框键盘弹起顶起背景图
- 海量数据处理面试题集锦
- Linux开发工具(3)——gcc/g++
- 【数据结构复习自用】树的性质
- 哨兵二号数据offline_科学网—利用ENVI 5.3读取哨兵2号(Sentinel-2)L1C数据 - 朱永超的博文...
- hmmbuild结果文件解读:hmm文件
- TypeError: xxx() missing 1 required positional argument xxx
- 如何快速在两个服务器之间传送大文件
- 咪唑型离子液体修饰二氧化硅改性PVC薄膜|离子液体修饰碳纳米管(CNTs-ILE)化学试剂