导语

这周末就分享个小爬虫吧。利用Python爬取并简单地可视化分析当当网的图书数据。

开发工具

Python版本:3.6.4

相关模块:

requests模块;

bs4模块;

wordcloud模块;

jieba模块;

pillow模块;

pyecharts模块;

以及一些Python自带的模块。

环境搭建

安装Python并添加到环境变量,pip安装需要的相关模块即可。

数据爬取

任务:

根据给定的关键字,爬取与该关键字相关的所有图书数据。

实现:

以关键字为python为例,我们要爬取的图书数据的网页页面是这样子的:

其中,网页的链接格式为:

http://search.dangdang.com/?key={keyword}&act=input&page_index={page_index}'

因此请求所有与关键词相关的链接:

然后利用BeautifulSoup分别解析返回的网页数据,提取我们自己需要的数据即可:

运行效果:

在cmd窗口运行"ddSpider.py"文件即可。

效果如下:

数据分析

好的,现在就简单地可视化分析一波我们爬取到的61页python相关的图书数据吧~

让我们先看看图书的价格分布吧:

有没有人想知道最贵的一本python相关的书的单价是多少呀?答案是:28390RMB

书名是:

Python in Computers Programming

QAQ买不起买不起。

再来看看图书的评分分布呗:

看来大多数python相关的图书都没人买过诶~大概是买不起吧T_T。

再来评论数量?

那么评论数量TOP6的图书有哪些呢?

老规矩,画两个词云作结吧,把所有python相关的图书的简介做成词云如何?

番外篇

这篇文章真的结束了吗?

这篇文章真的结束了吗?

这篇文章真的结束了吗?

难道没有人好奇我文章的封面怎么做的吗?

好吧,我写文章的时候没人看到,所以即使真的有人好奇也没法说?

其实很简单,就是下了961张python相关图书的图书封面,然后拼在一起了。

源代码如下:

效果如下:

python爬虫beautifulsoup爬当当网_利用python爬虫可视化分析当当网的图书数据!相关推荐

  1. python爬取音乐_利用Python对网易云音乐进行爬取!无所不爬的爬虫啊!

    今天,我们利用Python 中的selenium爬取网易云音乐中林俊杰<将故事写成我们>的评论,具体界面如下: 私信小编01 获取数十套PDF!爬虫 web都有的呢! 具体代码如下: #此 ...

  2. python爬虫爬取音乐_利用python爬虫实现爬取网易云音乐热歌榜

    利用python爬虫实现爬取网易云音乐热歌榜 发布时间:2020-11-09 16:12:28 来源:亿速云 阅读:102 作者:Leah 本篇文章给大家分享的是有关利用python爬虫实现爬取网易云 ...

  3. python爬微信群_利用Python爬虫实现30秒爬取500篇微信文章

    引言 由于工作需要,给公司前端做了一个小工具,使用python语言,爬取搜狗微信的微信文章,附搜狗微信官方网址 ​ 从热门到时尚圈,并且包括每个栏目下面的额加载更多内容选项 ​ 一共加起来500+篇文 ...

  4. python beautifulsoup抓取网页内容_利用Python和Beautiful Soup抓取网页内容

    利用Python和Beautiful Soup抓取网页内容 Posted on 2012-08-09 00:08 SamWei 阅读(381) 评论(1) 编辑 收藏 Python 3中提供了url打 ...

  5. python爬取股票信息_利用Python爬取网易上证所有股票数据(代码

    利用Python爬取网易上证所有股票数据(代码 发布时间:2018-04-14 17:30, 浏览次数:1261 , 标签: Python import urllib.request import r ...

  6. python数据库操作批量sql执行_利用Python如何批量修改数据库执行Sql文件

    利用Python如何批量修改数据库执行Sql文件 来源:中文源码网    浏览: 次    日期:2018年9月2日 [下载文档:  利用Python如何批量修改数据库执行Sql文件.txt ] (友 ...

  7. python 16bit转8bit的工具_利用python读取YUV文件 转RGB 8bit/10bit通用

    注:本文所指的YUV均为YUV420中的I420格式(最常见的一种),其他格式不能用以下的代码. 位深为8bit时,每个像素占用1字节,对应文件指针的fp.read(1): 位深为10bit时,每个像 ...

  8. python把汉字变成拼音英文_利用python将表格中的汉字转化为拼音

    GB18030的字符集标准 http://zbgb5.com/2/StandardDetail479488.htm 缺少包时用pip install 进行安装,例如: pip install xlsx ...

  9. python实现按键精灵的功能_利用Python实现Windows下的鼠标键盘模拟的实例代码

    本文介绍了利用Python实现Windows下的鼠标键盘模拟的实例代码,分享给大家 本来用按键精灵是可以实现我的需求,而且更简单,但既然学python ,就看一下呗. 依赖: pip install ...

最新文章

  1. 海思3531D上编译FFmpeg源码操作步骤
  2. .NET Core微服务系列基础文章索引(目录导航Final版)
  3. mitmproxy配置代理后 APP连接不到网络 XPosed安装
  4. Spring Cloud Alibaba - 11 Ribbon 自定义负载均衡策略(同集群优先权重负载均衡算法)
  5. Android数据之Json解析
  6. mybatis整合数据权限
  7. 对于短信平台呼叫状态机的调查
  8. hashtable允许null键和值吗_MySQL默认值选型是空,还是 NULL-爱可生
  9. java linux 服务_java项目部署Linux服务器几种启动方式总结经验
  10. 怎么用计算机算账单,电脑如何快速调出计算器
  11. 钉钉终于崩了!小学生欢呼庆祝解放,没想到没高兴多久就...
  12. UI素材|让设计有愉悦的体验,app交互动效的重要性!
  13. 罗永浩、戴威的 C 位消亡史
  14. treeset可以重复吗_java容器(五)HashSet与TreeSet
  15. hosts文件原理及运用
  16. QComboBox使用讲解
  17. 中括号 上面 缺一横 下面缺一横 不大于 不小于 算法知识点
  18. 在 AIX 上实现 iSCSI
  19. python networkx 边权重_networkx(Python)中基于边权重排序的相邻边
  20. 设计模式—— 四:接口隔离原则

热门文章

  1. 【MySQL】数据库配置
  2. html手机输入框键盘弹起顶起背景图
  3. 海量数据处理面试题集锦
  4. Linux开发工具(3)——gcc/g++
  5. 【数据结构复习自用】树的性质
  6. 哨兵二号数据offline_科学网—利用ENVI 5.3读取哨兵2号(Sentinel-2)L1C数据 - 朱永超的博文...
  7. hmmbuild结果文件解读:hmm文件
  8. TypeError: xxx() missing 1 required positional argument xxx
  9. 如何快速在两个服务器之间传送大文件
  10. 咪唑型离子液体修饰二氧化硅改性PVC薄膜|离子液体修饰碳纳米管(CNTs-ILE)化学试剂