我们在使用python爬取数据时有时会碰到这样一种情况,有一些网站一点击并不会弹出一个网页,而是直接下载一个excel或者jpg文件。这种情况当然是好的,不用爬虫,就能直接下载数据了,但是有时候需要批量的下载这种网页数据,用鼠标逐条点击也是很麻烦的事情。

怎么来爬取这种数据呢,和爬取图片一样,使用requests的.content函数命令。

这里以爬取结构简单的统计年鉴为例,打开一个标准的统计年鉴html页面,F12进入开发者模式,左侧是目录,右侧是对应的源代码值。如下:

我们一旦点击左侧的目录内容,就会直接下载一个命名为目录的excel文件,而不会弹出新页面,这样如果要下载一年的统计年鉴的话,得逐一点击左侧目录,200多下,还只是一年的,如果需要下载好几年的统计年鉴的话,显然成了个体力活,效率太低。我们分析一下源码结构,看右侧的源码结构很简单,herf都位于节点中,因此只要能让python能够自己下载保存这样的excel文件,之后通过beautifulsoup对整个网页结构的解析,就可以实现批量下载了。

首先我们看一下网页的Content-Type:import requests

import os

urls_tag='html/02-06.xls'

url='

python怎么批量下载年报_如何使用python批量下载统计年鉴中的excel网页?相关推荐

  1. python怎么批量下载年报_如何用Python写一个抓取新浪财经网指定企业年报的脚本...

    匿名用户 1级 2017-08-02 回答 1.先得到需要的上市公司的股票代码和名字. 2.分析下载链接地址.以康达尔为例,年报地址,下载链接 的页面 ,链接末尾的8个数字前6个是股票代码,后两位01 ...

  2. 巨潮网怎么下载年报_上海注册公司后如何下载电子营业执照

    随着现代科技的不断发展,各个领域都利用高科技来高效办事,注册公司行业也是如此,比如之前注册企业核名.股东及法人身份认证等是需要去企业注册地址隶属的工商局办理的,但是现在可以在一网通办是网上办理企业核名 ...

  3. python怎么批量下载年报_使用Python批量下载Wind数据库中的PDF报告

    原标题:使用Python批量下载Wind数据库中的PDF报告 背景 最近小编出于工作需要,准备在Wind金融数据终端批量下载上市公司2019年第一季度业绩预告.通过相关的条件检索,发现其相关数据有近百 ...

  4. python报告水印怎么弄_超简单Python安全批量打水印教程!

    工作的时候,尤其是自媒体,我们必备水印添加工具以保护我们的知识产权 网上有许多的在线/下载的水印添加工具,但他们或多或少都存在以下问题:在线工具需要上传到对方服务器,信息不安全. 很多工具不具备批量处 ...

  5. python提取pdf文件内容_如何用Python批量提取PDF文本内容?

    本文为你展示,如何用Python把许多PDF文件的文本内容批量提取出来,并且整理存储到数据框中,以便于后续的数据分析. 问题 最近,读者们在后台的留言,愈发五花八门了. 写了几篇关于自然语言处理的文章 ...

  6. python模块下载过程_常用的python模块及安装方法

    bsddb3:BerkeleyDB的连接组件 Cheetah-1.0:我比较喜欢这个版本的cheetah cherrypy:一个WEB framework ctypes:用来调用动态链接库 DBUti ...

  7. python电脑下载教程_苹果电脑python下载安装教程

    这个问题我遇到过的,你把现在装的python卸了,装个32位的python就可以了,32位安装包官网上有. . 工具/原料:python.win7电脑一台方法/步骤:1.打开win7电脑,从百度搜索p ...

  8. python将字符串逆序_为什么说Python是一门伟大的入门语言?(附免费教程)

    Python 是一门伟大的入门语言.作为一门伟大的编程语言,一定要具备一些特征,其中有五项特征是非常重要的: 非常棒的首次体验:就像书的开始,首先一定要能够"沉迷",学习新知识一定 ...

  9. 计算机编程导论python程序设计答案-学堂在线_计算机科学与Python编程导论_作业课后答案...

    学堂在线_计算机科学与Python编程导论_作业课后答案 答案: 更多相关问题 近代中国完全沦为半殖民地半封建社会的标志是:A.<马关条约>B.<辛丑条约>C.<凡尔赛和 ...

最新文章

  1. python使用shell环境变量_linux中添加环境变量(python为例)
  2. python读取数据库中指定内容_python如何用正则表达式读取对应字段写入数据库中?...
  3. 接口,实现类,对象方法的调用关系.(查看程序输出)
  4. java对列_JAVA实现EXCEL行列号解析(一)——单格解析
  5. 用JavaScript编写COM组件的实例
  6. Groovy 设计模式 -- null对象模式
  7. 如何Altium Designer中输出元件清单(BOM表格)
  8. 独家中文汉化AE脚本 Animation Studio v2.3 Win/Mac一键安装版 预设持续更新 支持CC2020
  9. mysql 节假日判断,sql 节假日判断(春节、中秋、国庆、周末等)
  10. Oracle重建控制文件
  11. 自带浏览器打不开网页?
  12. 李开复:李飞飞是人工智能的“良心”
  13. 【Dos】常见的Dos攻击
  14. 关于国密HTTPS的那些事(三)
  15. ZCMU--5238: 向右转(C语言)
  16. 乔治·霍兹(George Hotz):特斯拉、谷歌最可怕的对手!
  17. [AHK]为通达信画线工具中的文字注释功能增加热键
  18. exynos4412驱动程序教程.0
  19. pdf转换器4.1注册码
  20. SecureCRT8.3 软件及注册码

热门文章

  1. Oracle sql执行顺序
  2. 一阶方向导数与梯度和方向向量的关系及其应用
  3. 752_LaTeX基础软件使用测试
  4. jenkins报错hudson.plugins.git.GitException: Could not init /root/.jenkins/workspace/DeployOrder/order
  5. Oracle磁盘恢复,探索Oracle之RMAN_07 磁盘损坏数据丢失恢复
  6. JS中几种绑定事件的方式
  7. js台阶算法问题(上台阶模拟器)
  8. Display Port 1.4 link Training 过程
  9. Python下进程同步之互斥锁、信号量、事件机制
  10. JDBC之程序编写步骤