导语

这周末就分享个小爬虫吧。利用Python爬取并简单地可视化分析当当网的图书数据。

img

开发工具

Python版本:3.6.4

相关模块:

requests模块;

bs4模块;

wordcloud模块;

jieba模块;

pillow模块;

pyecharts模块;

以及一些Python自带的模块。

环境搭建

安装Python并添加到环境变量,pip安装需要的相关模块即可。

数据爬取

任务:

根据给定的关键字,爬取与该关键字相关的所有图书数据。

实现:

以关键字为python为例,我们要爬取的图书数据的网页页面是这样子的:

img

其中,网页的链接格式为:

http://search.dangdang.com/?key={keyword}&act=input&page_index={page_index}'

因此请求所有与关键词相关的链接:

img

然后利用BeautifulSoup分别解析返回的网页数据,提取我们自己需要的数据即可:

img

运行效果:

在cmd窗口运行"ddSpider.py"文件即可。

效果如下:

img

数据分析

好的,现在就简单地可视化分析一波我们爬取到的61页python相关的图书数据吧~

让我们先看看图书的价格分布吧:

img

有没有人想知道最贵的一本python相关的书的单价是多少呀?答案是:28390RMB

书名是:

Python in Computers Programming

QAQ买不起买不起。

再来看看图书的评分分布呗:

img

看来大多数python相关的图书都没人买过诶~大概是买不起吧T_T。

再来评论数量?

img

那么评论数量TOP6的图书有哪些呢?

img

老规矩,画两个词云作结吧,把所有python相关的图书的简介做成词云如何?

img

番外篇

这篇文章真的结束了吗?

这篇文章真的结束了吗?

这篇文章真的结束了吗?

难道没有人好奇我文章的封面怎么做的吗?

好吧,我写文章的时候没人看到,所以即使真的有人好奇也没法说?

其实很简单,就是下了961张python相关图书的图书封面,然后拼在一起了。

源代码如下:

img

效果如下:

img

python爬虫当当网图书信息_利用python爬虫可视化分析当当网的图书数据!相关推荐

  1. 下面哪个python库不能用于提取网页信息_利用python的webscraping库采集抓取爱帮网电话号码...

    利用python的webscraping模块抓取爱帮网电话号码,本文采集该页面的标题和2个电话号码, 具体的python代码: # -*- coding: UTF-8 -*- ''' Created ...

  2. python网页信息_利用python处理网页信息

    在前几周的grep/sed/awk实战中提到,"和CoreSite - Any2 California接入商建立网络BGP邻居关系.从peeringdb上找到了所有接入商的信息,但是转移信息 ...

  3. python批量录入学生信息_利用Python实现学生信息管理系统的完整实例

    项目要求: 读完题目,首先我们要确定程序思路 我们要全部通过类去实现 也就是 我们要实现管理员.学生.讲师.课程.教师五个类 管理员类 class Administration(object): de ...

  4. python数据库操作批量sql执行_利用Python如何批量修改数据库执行Sql文件

    利用Python如何批量修改数据库执行Sql文件 来源:中文源码网    浏览: 次    日期:2018年9月2日 [下载文档:  利用Python如何批量修改数据库执行Sql文件.txt ] (友 ...

  5. python定时开关机的代码_利用Python实现Windows定时关机功能

    是最初的几个爬虫,让我认识了Python这个新朋友,虽然才刚认识了几天,但感觉有种莫名的默契感.每当在别的地方找不到思路,总能在Python找到解决的办法.自动关机,在平时下载大文件,以及跑程序的时候 ...

  6. python爬取外文文献翻译_利用Python爬取翻译网站的翻译功能

    现在我想分享一个利用Python技术,爬取一个翻译网站的翻译功能的小代码. 首先隆重介绍我们今天将要爬取的网站:http://fy.iciba.com/ 咱们用Python中的urllib模块的功能进 ...

  7. python如何爬取sci论文_利用python爬取并翻译GEO数据库

    GEO数据库是NCBI创建并维护的基因表达数据库,始于2000年,收录了世界各国研究机构提交的高通量基因表达数据,现芯片集数据量高达12万以上.想要从这里面挖掘(bai piao)数据,发个sci提前 ...

  8. python 替换array中的值_利用Python提取视频中的字幕(文字识别)

    我的CSDN博客id:qq_39783601,昵称是糖潮丽子~辣丽 从今天开始我会陆续将数据分析师相关的知识点分享在这里,包括Python.机器学习.数据库等等. 今天来分享一个Python小项目! ...

  9. python获取window共享目录列表_利用Python获取DICOM RTstructure勾画列表

    在<利用Python打开DICOM CT文件>一文中,我们利用pydicom.dcmread()读取了CT图像.本文中我们将修改load_scan()函数来读取RTstructure文件并 ...

  10. python 16bit转8bit的工具_利用python读取YUV文件 转RGB 8bit/10bit通用

    注:本文所指的YUV均为YUV420中的I420格式(最常见的一种),其他格式不能用以下的代码. 位深为8bit时,每个像素占用1字节,对应文件指针的fp.read(1): 位深为10bit时,每个像 ...

最新文章

  1. Python面试必知(四)
  2. [转]C++ 11 多线程--线程管理
  3. 《I'm a Mac:雄狮训练手册》——1.12 开机快捷键
  4. Nearest Interesting Number
  5. mac nginx apache mysql php 一键_Mac 下搭建 apache / nginx+php+mysql
  6. Anroid推送服务
  7. GO恶意样本实例分析
  8. [转]自定义序列化对象
  9. C#摄像头实现拍照功能的简单代码示例
  10. Java 基础(条件结构)
  11. SQLite允许向一个integer型字段中插入字符串
  12. 从.NET Core 3.1项目生成本地可执行文件
  13. [转]Java 通过JDBC连接Mysql数据库的方法和实例【图文说明】
  14. 学习Direct3D(五)应用程序入口
  15. 信号与系统(关于流程框图的一个简单问题记录)
  16. 关于网络营销基本理论的概述
  17. 百度AI文字识别需要注意的点
  18. Google Guava 实战之List篇
  19. (8)web安全|渗透测试|网络安全 常见的站点搭建类型分析,子域名爆破,旁注等,WAF防护分析及绕过,wafwoof工具的安装和使用
  20. 取出汉字的拼音首字母

热门文章

  1. 最新PP点点通V2008简体中文版免费下载
  2. 伊顿UPS电源说明书-伊顿UPS电源使用手册
  3. MySQL之可视化软件
  4. cad卸载_CAD卸载不干净,如何清理CAD注册表
  5. 西门子dcs系统组态手册下载_和利时FM148C卡件伊春DCS系统
  6. 有没有大佬无偿提供一下 华为HCNA-Cloud Service-题库H13-811
  7. php导出 excel
  8. Python 自动化教程(3) : 自动生成PPT文件 Part 1 (干货)
  9. Linux下mongodb用户管理和设置远程登陆
  10. idea保存快捷键_idea 快捷键