作者|丁彦军

来源|恋习Python

昨天还幻想海边别墅的年轻人,今天可能开始对房租绝望了。

8月初,有网友在“水木论坛”发帖控诉长租公寓加价抢房引起关注。据说,一名业主打算出租自己位于天通苑的三居室,预期租金7500元/月,结果被二方中介互相抬价,硬生生抬到了10800。

过去一个月,全国热点城市的房租如脱缰野马。一线的房租同比涨了近20%。一夜醒来,无产青年连一块立锥之地都悬了。

从2018下半年开始,租金海啸汹汹来袭,资本狂欢,官方默然,房东纠结,租客尖叫。

这不是一方的过错,而更像是一场全社会的“集体谋杀作品”。最令人不安的是,过去房地产的那套玩法和上涨逻辑,今天正在转移到房租上。


房租暴涨的不只是北京。有数据显示,7月份北京、上海、广州、深圳、天津、武汉、重庆、南京、杭州和成都十大城市租金环比均有所上涨。其中北京、上海、深圳的租金涨幅最猛,北京7月份房租同比上涨3.1%,有小区甚至涨幅超过30%。

图自“21世纪经济报道”《最新房租数据出炉,你一个月要交多少钱?(附房租地图)》一文

接下来,恋习Python通过Python大法通过获取某网数万条北京租房数据,给大家说说真实的房租情况。

还是老规矩,老套路(是不是有股熟悉的味道),恋习Python常用的三部曲:数据获取、数据清洗预览、数据分析可视化,与你一起探究最近房租的状况。

一、数据获取

把目前市场占有率最高的房屋中介公司为目标,来获取北京、上海两大城市的租房信息。(目标链接:https://bj.lianjia.com/zufang/)

整体思路是:

  • 先爬取每个区域的url和名称,跟主url拼接成一个完整的url,循环url列表,依次爬取每个区域的租房信息。

  • 在爬每个区域的租房信息时,找到最大的页码,遍历页码,依次爬取每一页的二手房信息。

post代码之前简单讲一下这里用到的几个爬虫Python包:

  • requests: 就是用来请求对链家网进行访问的包

  • lxml: 解析网页,用xpath表达式与正则表达式一起来获取网页信息,相比bs4速度更快

详细代码如下:

import requests

import time

import re

from lxml import etree

# 获取某市区域的所有链接

def get_areas(url):

print('start grabing areas')

headers = {

'User-Agent': 'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.108 Safari/537.36'}

resposne = requests.get(url, headers=headers)

content = etree.HTML(resposne.text)

areas = content.xpath("//dd[@data-index = '0']//div[@class='option-list']/a/text()")

areas_link = content.xpath("//dd[@data-index = '0']//div[@class='option-list']/a/@href")

for i in range(1,len(areas)):

area = areas[i]

area_link = areas_link[i]

link = 'https://bj.lianjia.com' + area_link

print("开始抓取页面")

get_pages(area, link)

#通过获取某一区域的页数,来拼接某一页的链接

def get_pages(area,area_link):

headers = {

'User-Agent': 'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.108 Safari/537.36'}

resposne = requests.get(area_link, headers=headers)

pages =  int(re.findall("page-data='{"totalPage":(d+),"curPage"", resposne.text)[0])

print("这个区域有" + str(pages) + "页")

for page in range(1,pages+1):

url = 'https://bj.lianjia.com/zufang/dongcheng/pg' + str(page)

print("开始抓取" + str(page) +"的信息")

get_house_info(area,url)

#获取某一区域某一页的详细房租信息

def get_house_info(area, url):

headers = {

'User-Agent': 'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.108 Safari/537.36'}

time.sleep(2)

try:

resposne = requests.get(url, headers=headers)

content = etree.HTML(resposne.text)

info=[]

for i in range(30):

title = content.xpath("//div[@class='where']/a/span/text()")[i]

room_type = content.xpath("//div[@class='where']/span[1]/span/text()")[i]

square = re.findall("(d+)",content.xpath("//div[@class='where']/span[2]/text()")[i])[0]

position = content.xpath("//div[@class='where']/span[3]/text()")[i].replace(" ", "")

try:

detail_place = re.findall("([一-龥]+)租房", content.xpath("//div[@class='other']/div/a/text()")[i])[0]

except Exception as e:

detail_place = ""

floor =re.findall("([一-龥]+)(", content.xpath("//div[@class='other']/div/text()[1]")[i])[0]

total_floor = re.findall("(d+)",content.xpath("//div[@class='other']/div/text()[1]")[i])[0]

try:

house_year = re.findall("(d+)",content.xpath("//div[@class='other']/div/text()[2]")[i])[0]

except Exception as e:

house_year = ""

price = content.xpath("//div[@class='col-3']/div/span/text()")[i]

with open('链家北京租房.txt','a',encoding='utf-8') as f:

f.write(area + ',' + title + ',' + room_type + ',' + square + ',' +position+

','+ detail_place+','+floor+','+total_floor+','+price+','+house_year+' ')

print('writing work has done!continue the next page')

except Exception as e:

print( 'ooops! connecting error, retrying.....')

time.sleep(20)

return get_house_info(area, url)

def main():

print('start!')

url = 'https://bj.lianjia.com/zufang'

get_areas(url)

if __name__ == '__main__':

main()

二、数据清洗预览


数据共14038条,10个维度,由上图可看出北京房源均价为9590元/月,中位数为7000。一半的房源价格在7000以下,所有房源的价格区间为[1000,250000],价格极差过大。

三、数据分析可视化

四维度-北京房租均价


接下来,恋习Python将北京各区域、各路段、各楼盘房屋数量、均价分布放在同一张图上,更直观地来看待房租

从图中可看出,最近,北京市各区域的房租均在6000元/月以上,其中最高区域为东城,均价达12463元/月。不过,由于房源信息过多过杂,房屋位置、面积、楼层、朝向等对价格均有较大影响,因此,价格这个维度需要进一步分析。

由上图可得,各路段的均价基本都在6000以上,其中海淀北部新区的房源数最多,但均价最低,为3308元/月,这或许与海淀北部生态科技新区作为高新技术产业的承载区、原始创新策源地的研发基地,以及科技园集聚区,目前已入驻华为、联想、百度、腾讯、IBM、Oracle等近2000家国内外知名的科技创新型企业有关。另一方面,海淀紫竹桥的房价竟一起冲天,其附近以博物馆、体育场馆为特色,交通便利,配套设施完善,均价较高也是情理之中。

可以看出,不同楼盘的均价浮动很大,但都在6000/月以上。最高的甚至达到17516/月。由于每个楼盘户型差别较大,地理位置也较为分散,因此均价波动很大。每个楼盘具体情况还需具体分析。

附详情代码:

#北京路段_房屋均价分布图

detail_place = df.groupby(['detail_place'])

house_com = detail_place['price'].agg(['mean','count'])

house_com.reset_index(inplace=True)

detail_place_main = house_com.sort_values('count',ascending=False)[0:20]

attr = detail_place_main['detail_place']

v1 = detail_place_main['count']

v2 = detail_place_main['mean']

line = Line("北京主要路段房租均价")

line.add("路段",attr,v2,is_stack=True,xaxis_rotate=30,yaxix_min=4.2,

mark_point=['min','max'],xaxis_interval=0,line_color='lightblue',

line_width=4,mark_point_textcolor='black',mark_point_color='lightblue',

is_splitline_show=False)

bar = Bar("北京主要路段房屋数量")

bar.add("路段",attr,v1,is_stack=True,xaxis_rotate=30,yaxix_min=4.2,

xaxis_interval=0,is_splitline_show=False)

overlap = Overlap()

overlap.add(bar)

overlap.add(line,yaxis_index=1,is_add_yaxis=True)

overlap.render('北京路段_房屋均价分布图.html')


由上图可以看出,均价在8000-10000之间的房屋数量最多,同时1500-2000这个价位之间房屋数少的可怜。

据北京市统计局的数据,2017年全市居民月人均可支配收入为4769元。另据58同城和赶集网发布的报告,2017年北京人均月租金为2795元。

北京租房者的房租收入比,惊人地接近60%。很多人一半的收入,都花在了租房上,人生就这样被锁定在贫困线上。

统计数据也表明,北京租房人群收入整体偏低。47%的租房人,年薪在10万以下。在北京,能够负担得起每月5000元左右房租的群体,就算得上是中高收入人群。就这样,第一批90后扛过了离婚、秃头、出家和生育,终于还是倒在了房租面前。

附详情代码:

#房源价格区间分布图

price_info = df[['area', 'price']]

#对价格分区

bins = [0,1000,1500,2000,2500,3000,4000,5000,6000,8000,10000]

level = ['0-1000','1000-1500', '1500-2000', '2000-3000', '3000-4000', '4000-5000', '5000-6000', '6000-8000', '8000-1000','10000以上']

price_stage = pd.cut(price_info['price'], bins = bins,labels = level).value_counts().sort_index()

attr = price_stage.index

v1 = price_stage.values

bar = Bar("价格区间&房源数量分布")

bar.add("",attr,v1,is_stack=True,xaxis_rotate=30,yaxix_min=4.2,

xaxis_interval=0,is_splitline_show=False)

overlap = Overlap()

overlap.add(bar)

overlap.render('价格区间&房源数量分布.html')

面积&租金分布呈阶梯性

上图可以看出,80%的房源面积集中在0-90平方米之间,也符合租客单租与合租情况,大面积的房屋很少。

面积&租金分布呈阶梯性,比较符合常理。租房主力军就是上班族了,一般对房子面积要求较低,基本集中在30平。

附详情代码:

#房屋面积分布

bins =[0,30,60,90,120,150,200,300,400,700]

level = ['0-30', '30-60', '60-90', '90-120', '120-150', '150-200', '200-300','300-400','400+']

df['square_level'] = pd.cut(df['square'],bins = bins,labels = level)

df_digit= df[['area', 'room_type', 'square', 'position', 'total_floor', 'floor', 'house_year', 'price', 'square_level']]

s = df_digit['square_level'].value_counts()

attr = s.index

v1 = s.values

pie = Pie("房屋面积分布",title_pos='center')

pie.add(

"",

attr,

v1,

radius=[40, 75],

label_text_color=None,

is_label_show=True,

legend_orient="vertical",

legend_pos="left",

)

overlap = Overlap()

overlap.add(pie)

overlap.render('房屋面积分布.html')

#房屋面积&价位分布

bins =[0,30,60,90,120,150,200,300,400,700]

level = ['0-30', '30-60', '60-90', '90-120', '120-150', '150-200', '200-300','300-400','400+']

df['square_level'] = pd.cut(df['square'],bins = bins,labels = level)

df_digit= df[['area', 'room_type', 'square', 'position', 'total_floor', 'floor', 'house_year', 'price', 'square_level']]

square = df_digit[['square_level','price']]

prices = square.groupby('square_level').mean().reset_index()

amount = square.groupby('square_level').count().reset_index()

attr = prices['square_level']

v1 = prices['price']

pie = Bar("房屋面积&价位分布布")

pie.add("", attr, v1, is_label_show=True)

pie.render()

bar = Bar("房屋面积&价位分布")

bar.add("",attr,v1,is_stack=True,xaxis_rotate=30,yaxix_min=4.2,

xaxis_interval=0,is_splitline_show=False)

overlap = Overlap()

overlap.add(bar)

overlap.render('房屋面积&价位分布.html')

大多数房屋年龄在10年以上

由上图看出,房屋年龄大多集中在10-20年、25年以上,而5年以下的不到2%;不过,别看这些都是老房子,最近房租变得这么猖狂?原因其中之一就是资本圈地。

这条网贴立马点燃了大众的情绪:“好啊,原来是这些长租平台烧钱圈地,一心只想要垄断市场房源,哄抬租金,企图赚取暴利差价!”

四、后记


拿自如举例,表面上看跟中介公司没啥两样,收了各种散盘,然后集中装修、出租、管理,因为运营成本和住房质量提高,房租肯定有所上涨。

但更关键的事情在背后。自如把项目打包起来搞起了资产证券化,以租金收益权为基础资产做担保,投放到金融市场上发行国内首单租房市场消费分期类ABS,让各路资金来认购,每年给大家搞点分红。

大量资本都在赌租房这个风口,而前期谁的规模越大、资源越多,以后的定价权就越大,利润空间就越不可想象。

这次恋习Python一共从链家网上爬取14038条数据,而那就是大概一周前,8月17日北京住建委约谈了几家中介公司。最终的结果是自如、相寓和蛋壳承诺将拿出12万间房子投入市场其中,自如将拿出8万间(链家、自如、贝壳找房,他们的实际控制人是同一个人--链家老板左晖。

也就是说,平常的时候,链家网+自如一共在网上待租的也就是1万多套房子,但是一被约谈他们就一口气拿出了8万套房子增援??怎么增?继续收房,让房源更加供不应求?

昨天买不起房,今天租不起房,如果连这样的生活也要因为市场的不规范而被逼迫、被夺走,真的会让人对一个城市失去希望。

1.微信群:

添加小编微信:tangguoyemeng,备注“进群+姓名+公司职位”即可,加入【云计算学习交流群】,和志同道合的朋友们共同打卡学习!

2.征稿:

投稿邮箱:lijy@csdn.net;微信号:tangguoyemeng。请备注投稿+姓名+公司职位。

推荐阅读

  • 面趣 | 据说这道烧脑的微软面试题很奇葩,你来试试?

  • 干货 | 18个Python爬虫实战案例(已开源)

  • 关于这道填空题,你会如何回答?(附带学习链接)

  • 如何打造程序员专属聊天室?

  • 发生了这4件事,我给Python跪了!

  • 《深度学习500问》,川大优秀毕业生的诚意之作

  • 十年币圈尘归土,七神论剑无兴衰

  • 程序员的江湖 务必掌握这些黑话!


扫描以下二维码即可参与“2018 年 CSDN 软件开发者大调查活动”!我们还为你准备了精美的礼品,华为 nova3 智能手机、小爱智能音箱、CSDN 背包、CSDN 定制T恤、数百本技术图书等你来拿!参与即有机会获赠,还等什么,快来试试吧!

↓↓↓  点击【阅读原文】查看「CSDN云计算」往期精彩内容

北京房租大涨?6个维度,数万条数据帮你揭穿(附详情代码)相关推荐

  1. 北京房租大涨?6个维度,数万条数据帮你揭穿

    点击关注 异步图书,置顶公众号 每天与你分享 IT好书 技术干货 职场知识 转载自/恋习Python 参与文末话题,得异步新书 昨天还幻想海边别墅的年轻人,今天可能开始对房租绝望了. 8月初,有网友在 ...

  2. 房租大涨?Python6个维度,数万条数据帮你揭穿

    作者 | 丁彦君 来源 | 恋习Python(ID:sldata2017) 昨天还幻想海边别墅的年轻人,今天可能开始对房租绝望了. 8月初,有网友在"水木论坛"发帖控诉长租公寓加价 ...

  3. 北京房租大涨?Python 6个维度,数万条数据帮你揭秘

    昨天还幻想海边别墅的年轻人,今天可能开始对房租绝望了. 8月初,有网友在"水木论坛"发帖控诉长租公寓加价抢房引起关注.据说,一名业主打算出租自己位于天通苑的三居室,预期租金7500 ...

  4. Python 6个维度,数万条数据帮你揭秘房租大涨!

    最近休息了一段时间,现在开启更新模式! 8月初,有网友在"水木论坛"发帖控诉长租公寓加价抢房引起关注.据说,一名业主打算出租自己位于天通苑的三居室,预期租金7500元/月,结果被二 ...

  5. excel处理几十万行数据_Excel处理数万条数据很慢,怎么办?

    这个问题来自知乎,以下是我的回答. 数据量大,Excel公式处理确实会非常慢,那么Excel是不是不能处理几十万行或者上百万行的数据,当然不是,现在的Excel已经不仅仅是利用Excel公式或者VBA ...

  6. 我们用Python分析了B站4万条数据评论,揭秘本山大叔《念诗之王》大热原因!...

    来源:恋习Python 本文约2000字,建议阅读10分钟. 我们通过Python大法通过获取B站:[春晚鬼畜]赵本山:我就是念诗之王!4万条数据评论,与大家一起看看其背后火起来的原因. 1990年本 ...

  7. 1万条数据大概占多大空间_mysql亿级数据数据库优化方案测试-银行交易流水记录的查询...

    对MySQL的性能和亿级数据的处理方法思考,以及分库分表到底该如何做,在什么场景比较合适? 比如银行交易流水记录的查询 限盐少许,上实际实验过程,以下是在实验的过程中做一些操作,以及踩过的一些坑,我觉 ...

  8. 前端对大数据处理方案,比如列表如何显示几万条数据

    当后端一次性丢给你10万条数据, 作为前端工程师,要怎么处理? 采用懒加载+分页(前端维护懒加载的数据分发和分页) 初级工程师的方案: 直接从后端请求数据, 渲染到页面的硬编码方案,思路如下: 请求后 ...

  9. angularjs获取上一个元素的id_三男子非法获取苹果ID账号买卖,交易数万条,价格从一毛到上百元不等...

    近日,株洲醴陵警方破获一起侵犯公民个人信息案,3人因非法兜售苹果ID信息被警方依法采取刑事强制措施. 2019年底,王某刚(男,28岁,明月镇人)通过互联网接触到买卖苹果ID信息业务,认为有钱可赚,于 ...

最新文章

  1. 随机数范围扩展方法总结
  2. python列表的append/entend/insert
  3. 学习笔记(29):Python网络编程并发编程-信号量
  4. Singularity 介绍
  5. Linux下XPath对xml解析
  6. 美国计算机科学联赛获奖,【竞赛获奖】西安高新一中国际班学子在2018-2019美国计算机科学联赛 (ACSL)积分赛中创造历史!...
  7. Listen第二个参数的意义
  8. php 5.4.5,PHP 5.4.5 公布
  9. 5G到来,App的未来,是JavaScript,Flutter还是Native ?
  10. python encode函数_关于字符串:在python中使用unicode()和encode()函数
  11. PCB设计布局思路分析
  12. Windows网络编程之(二)Socket通信非阻塞模式Select(TCP和UDP)
  13. ADS(Advanced Design system)原理图结合板层结构仿真(MSub)及版图仿真(EM Simulation)
  14. Linux Redh9 下LumaQQ 2005的安装
  15. 汽车使用总结(七)--侧方停车
  16. platform框架--Linux MISC杂项框架--Linux INPUT子系统框架--串行集成电路总线I2C设备驱动框架--串行外设接口SPI 设备驱动框架---通用异步收发器UART驱动框架
  17. ACM基本算法类题目
  18. NOI0107字符串最大跨距
  19. Ubuntu中使用apt-get时无法搜索软件的解决方法
  20. maven依赖中部分依赖出现深灰色可能的解决方案

热门文章

  1. svn无法checkout问题
  2. 普渡大学计算机图形,普渡大学计算机图形学技术研究生语言及申请要求-费用-课程设置...
  3. 曾有一个人,爱我如生命(2)
  4. java Lambda表达式练习
  5. 阿里云服务器相关操作
  6. C语言——用函数方法判断闰年
  7. WPS表格的常用操作技巧大全
  8. Linux各目录的作用
  9. 明厨亮灶监控系统解决方案,看得见的食品安全
  10. LDO稳压器详解(一)-参数概念