告诉你那里最受欢迎,python爬取全国13个城市旅游数据
前言
文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理。
PS:如有需要Python学习资料的小伙伴可以加点击下方链接自行获取http://t.cn/A6Zvjdun
抓取数据
通过请求https://piao.qunar.com/ticket/list.htm?keyword=北京,获取北京地区热门景区信息,再通过BeautifulSoup去分析提取出我们需要的信息。
这里爬取了前4页的景点信息,每页有15个景点。因为去哪儿并没有什么反爬措施,所以直接请求就可以了。
这里随机选择了13个热门城市:北京、上海、成都、三亚、广州、重庆、深圳、西安、杭州、厦门、武汉、大连、苏州。
并将爬取的数据存到了MongoDB数据库 。
爬虫部分完整代码如下:
import requests from bs4 import BeautifulSoup from pymongo import MongoClient class QuNaEr():def __init__(self, keyword, page=1):self.keyword = keywordself.page = page def qne_spider(self):url = 'https://piao.qunar.com/ticket/list.htm?keyword=%s®ion=&from=mpl_search_suggest&page=%s' % (self.keyword, self.page)response = requests.get(url)response.encoding = 'utf-8'text = response.textbs_obj = BeautifulSoup(text, 'html.parser') arr = bs_obj.find('div', {'class': 'result_list'}).contentsfor i in arr:info = i.attrs# 景区名称name = info.get('data-sight-name')# 地址address = info.get('data-address')# 近期售票数count = info.get('data-sale-count')# 经纬度point = info.get('data-point') # 起始价格price = i.find('span', {'class': 'sight_item_price'})price = price.find_all('em')price = price[0].text conn = MongoClient('localhost', port=27017)db = conn.QuNaEr # 库table = db.qunaer_51 # 表 table.insert_one({'name' : name,'address' : address,'count' : int(count),'point' : point,'price' : float(price),'city' : self.keyword}) if __name__ == '__main__':citys = ['北京', '上海', '成都', '三亚', '广州', '重庆', '深圳', '西安', '杭州', '厦门', '武汉', '大连', '苏州']for i in citys:for page in range(1, 5):qne = QuNaEr(i, page=page)qne.qne_spider()
效果图如下:
有了数据,我们就可以分析出自己想要的东西了。
分析数据
1、最受欢迎的15个景区
由图可以看出,在选择的13个城市中,最热门的景区为上海的迪士尼乐园。
代码如下:
from pymongo import MongoClient # 设置字体,不然无法显示中文 from pylab import * mpl.rcParams['font.sans-serif'] = ['SimHei'] conn = MongoClient('localhost', port=27017) db = conn.QuNaEr # 库 table = db.qunaer_51 # 表 result = table.find().sort([('count', -1)]).limit(15) # x,y轴数据 x_arr = [] # 景区名称 y_arr = [] # 销量 for i in result:x_arr.append(i['name'])y_arr.append(i['count']) """ 去哪儿月销量排行榜 """ plt.bar(x_arr, y_arr, color='rgb') # 指定color,不然所有的柱体都会是一个颜色 plt.gcf().autofmt_xdate() # 旋转x轴,避免重叠 plt.xlabel(u'景点名称') # x轴描述信息 plt.ylabel(u'月销量') # y轴描述信息 plt.title(u'拉钩景点月销量统计表') # 指定图表描述信息 plt.ylim(0, 4000) # 指定Y轴的高度 plt.savefig('去哪儿月销售量排行榜') # 保存为图片 plt.show()
2、景区热力图
这里为了方便,只展示一下北京地区的景区热力图。用到了百度地图的开放平台。首先需要先注册开发者信息,首页底部有个申请秘钥的按钮,点击进行创建就可以了。我的应用类型选择的是浏览器端,因此只需要组装数据替换掉相应html代码即可。另外还需要将自己访问应用的AK替换掉。效果图如下:
3、景区价格
价格是出游第一个要考虑的,一开始想统计一下各城市的平均价格,但是后来发现效果不是很好,比如北京的刘老根大舞台价格在580元,这样拉高了平均价格。就好比姚明和潘长江的平均身高在190cm,并没有什么说服力。所以索性展示一下景区的价格分布。
根据价格设置了六个区间:
通过上图得知,大部分的景区门票价格都在200元以下。每次旅游花费基本都在交通、住宿、吃吃喝喝上了。门票占比还是比较少的。
实现代码如下:
arr = [[0, 50], [50,100], [100, 200], [200,300], [300,500], [500,1000]] name_arr = [] total_arr = [] for i in arr:result = table.count({'price': {'$gte': i[0], '$lt': i[1]}})name = '%s元 ~ %s元 ' % (i[0], i[1])name_arr.append(name)total_arr.append(result) color = 'red', 'orange', 'green', 'blue', 'gray', 'goldenrod' # 各类别颜色 explode = (0.2, 0, 0, 0, 0, 0) # 各类别的偏移半径 # 绘制饼状图 pie = plt.pie(total_arr, colors=color, explode=explode, labels=name_arr, shadow=True, autopct='%1.1f%%') plt.axis('equal') plt.title(u'热点旅游景区门票价格比例', fontsize=12) plt.legend(loc=0, bbox_to_anchor=(0.82, 1)) # 图例 # 设置legend的字体大小 leg = plt.gca().get_legend() ltext = leg.get_texts() plt.setp(ltext, fontsize=6) # 显示图 plt.show()
你一般旅游都去哪呢?
告诉你那里最受欢迎,python爬取全国13个城市旅游数据相关推荐
- python爬取全国13个城市旅游数据,告诉你那里最受欢迎
抓取数据 通过请求https://piao.qunar.com/ticket/list.htm?keyword=北京,获取北京地区热门景区信息,再通过BeautifulSoup去分析提取出我们需要的信 ...
- python爬取旅游信息_python爬取全国13个城市旅游数据,告诉你那里最受欢迎
抓取数据 通过请求https://piao.qunar.com/ticket/list.htm?keyword=北京,获取北京地区热门景区信息,再通过BeautifulSoup去分析提取出我们需要的信 ...
- 利用Python爬取全国250m精度的人口数据
此次以GeoQ(智图)为基础,利用Python爬取全国250m精度的人口数据(GeoQ)这个网站开放过250m精度的人口分布数据,而且人口分布有年龄分段等属性.先得注册登录到达创建地图的界面. 看人口 ...
- 利用Python爬取全国250m精度的人口数据(GeoQ)、房价数据和公交站(线路)等数据
前言 文的文字及图片来源于网络,仅供学习.交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理. 作者: 中原百科 GIS大师兄 PS:如有需要Python学习资料的小伙伴可 ...
- 用python爬取全国315个城市肯德基老爷爷的店面信息,看看又是什么神奇的发现
我觉得我生活在这世上二十多年里,去过最多的餐厅就是肯德基小时候逢生日必去,现在长大了,肯德基成了我的日常零食下班后从门前路过饿了便会进去点分黄金鸡块或者小吃拼盘早上路过,会买杯咖啡.主要快捷美味且饱腹 ...
- 利用Python爬取全国250m精度的人口数据、房价数据等数据 | CSDN博文精选
作者 | 中原百科来源 | CSDN博客 (一) 我的第一篇博客写的就是爬取人口数据基于腾讯位置大数据平台的全球移动定位数据获取(Python爬取),精度是1000m,后来有朋友和我说有个网站开放过2 ...
- Python爬取马蜂窝-推荐小众城市旅游及爬取某一城市的景点信息和游记信息
目的: 推荐小众城市旅游及爬取某一城市的景点信息和游记信息. 第一部分 首先从目的地页面获得各省专属5位数字编号,之后进入各省城市列表获得热门城市专属5位数字编号. 1.获得直辖市编号和热门省编号,h ...
- python 取json下某一key_利用Python爬取全国250m精度的人口数据、房价数据和公交站(线路)等数据(一)...
我的第一篇博客写的就是爬取人口数据,精度是1000m,后来有朋友和我说有个网站开放过250m精度的人口分布数据,而且人口分布有年龄分段等属性. 所以我决定试一下能不能爬到这个网站的人口信息,首先得注册 ...
- 利用python爬取丁香医生上新型肺炎数据,并下载到本地,附带经纬度信息
新增:国外疫情网站介绍 已更新:爬取国外疫情数据 已更新:新型肺炎历史数据下载 2020年3月27日补充: 制作了一个全球肺炎数据查询下载网站,效果如下: 访问地址:http://119.3.227. ...
最新文章
- Linux qgis 编译,QGIS简介与源代码编译
- java学习面向对象之内部类
- centos 安装配置ftp服务器
- JavaScript实现bellmanFord贝尔曼-福特算法(附完整源码)
- SecureCRT向多个tab窗口发命令
- 为项目选择合适的语言
- pytesseract
- 开发规范 - UML图
- 一键关闭服务器危险端口BAT文件安防篇
- C#使用带参数的存储过程
- 数据库备份的方式有哪些
- kali linux 磁盘,在硬盘上安装Kali Linux
- BSQ,BIL,BIP的区别
- 计算机网络终端接口知识,计算机网络实用技术知识点之ISDN接口及配置
- 搜狗泛站群原理-搜狗泛收录实现
- VBA转换excel文件为txt
- js 回车与空格转义
- 蓝桥杯评分标准_第十一届蓝桥杯软件个人赛校内选拔赛评分标准和选拔标准
- DEFORM 锻压冷镦实例仿真分析视频教程
- 违章查询 json解析
热门文章
- 如何解决mui-scroll-wrapper组件在动态获取数据时滚动或者滑动失效的问题(亲测有效)
- 用表格做出的阴影扇形图
- [转]马化腾:如何从“较好”到“最好”
- 计算机协会见面会游戏,计算机协会新会员见面大会会长演讲稿
- 《单片机原理及应用(魏洪磊)》第六章第12题
- windows 7解决AERO不透明问题
- 凡客登录页面html代码,简洁的凡客购物商城首页模板源码
- 郑州轻工业大学计算机学院书记,郑州轻工业大学计算机与通信工程学院导师教师师资介绍简介-陈浩然...
- python 循环控制语句结束_孤荷凌寒自学python第十五天python循环控制语句
- Loadrunner 9.5 flex性能测试