python网上批量下载表格_python爬虫智能翻页批量下载文件的实例详解
python爬虫遇到爬取文件内容时,需要一页页的翻页爬取,这样很是麻烦,其实可以获取每个列表信息下的文件名和文件链接,让文件名和文件链接处理为列表,保存后下载,实现智能翻页批量下载文件,本文以以京客隆为例,批量下载文件,如财务资料,他的每一份报告都是一份pdf格式的文档。以此页面为目标,下载他每个分类的文件python爬虫实战之智能翻页批量下载文件。
1、引入库
import requests
import pandas as pd
from lxml import etree
import re
import os
2、解析初始页面
baseUrl ='http://www.jkl.com.cn/cn/invest.aspx' # 爬取页面的数据
heade ={
'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko)
Chrome/81.0.4044.92 Safari/537.36'
}
res =requests.get(url=baseUrl,headers=heade).text
# print(res.text)
html = etree.HTML(res)
res =requests.get(url=baseUrl,headers=heade).text # 设置变量接受 基础页的响应数据
# print(res.text)
html = etree.HTML(res)
3、获得投资关系的分类名称和url地址
data_name = html.xpath('//div[@class="infoLis"]//a/text()') # 投资者列表的名字
data_link = html.xpath('//div[@class="infoLis"]//@href') # 全部列表的链接
name = [data_name.strip() for data_name in data_name] # 通过for循环去掉空字符
link = ['http://www.jkl.com.cn/cn/'+ data_link for data_link in data_link] # 拼接字符串
# 合并为字典,方便保存文件
file = dict(zip(name,link))
4、每个列表信息,保存一个文件夹
for name,link in file.items():
name=name.replace('/','.')
name=name.replace('...','报表')
# 上面的把文件名带特许字符的 强制转换为我们想要的文本类型
path = 'E:/'+ name
if not os.path.exists(path):
os.mkdir(path)
#建立储存位置
5、对列表的每个项目链接进行解析,拿到尾页
res_list = requests.get(url = link, headers = heade).text
list_html = etree.HTML(res_list)
# print(html_erJi) 解析每个分类的链接
weiYe = list_html.xpath('//a[text()="尾页"]/@href')
# print(html_weiye)
# 拿到尾页信息
if weiYe !=[]:
# 正则提取尾页信息
get_weiYe =re.search("(\d+)'\)",html_weiye[0])
get_yeMa = get_html_weiYe.group(1)
else:
get_yeMa=1
# print(get_html_yeMa) 看看是不是提取成功
6、获取每个列表信息下的文件名和文件链接
for get_yeMa in range(1,int(get_yeMa)+1): # 翻页
yaMa= {
'__EVENTTARGET': 'AspNetPager1',
'__EVENTARGUMENT': get_yeMa
}
get_lei_html = requests.get(url = link, headers = heade, params = yaMa).text
res3 =etree.HTML(get_lei_html)
# print(res3)
pdf_name = res3.xpath('//div[@class="newsLis"]//li/a/text()')
# print(pdf_name)
pdf_url = res3.xpath('//div[@class="newsLis"]//li//@href')
7、让文件名和文件链接处理为列表,保存后下载
pdf_names = [pdf_name.strip() for pdf_name in pdf_name]
# print(pdf_names)
if all(pdf_url):
pdf_urls = ['http://www.jkl.com.cn'+pdf_url for pdf_url in pdf_url]
# print(pdf_url)
pdf_data=dict(zip(pdf_names,pdf_urls)) # pdf地址和名字整合为字典
for pdfName,pdfUrl in pdf_data.items():
pdfName =pdfName.replace('/','.')
res_pdf= requests.get(url =pdfUrl,headers=heade).content
houZui = pdfUrl.split('.')[-1]
pdf_pash = path + '/' + pdfName + '.'+ houZui #
# print(pdf_pash)
with open(pdf_pash,'wb') as f:
f.write(res_pdf)
print(pdfName,'下载成功')
到此这篇关于python爬虫智能翻页批量下载文件的实例详解的文章就介绍到这了,更多相关python爬虫实战之智能翻页批量下载文件内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!
python网上批量下载表格_python爬虫智能翻页批量下载文件的实例详解相关推荐
- python实战!智能翻页批量下载文件
python爬虫遇到爬取文件内容时,需要一页页的翻页爬取,这样很是麻烦,其实可以获取每个列表信息下的文件名和文件链接,让文件名和文件链接处理为列表,保存后下载,实现智能翻页批量下载文件,本文以以京客隆 ...
- python爬取喜马拉雅_Python爬虫实战案例之爬取喜马拉雅音频数据详解
这篇文章我们来讲一下在网站建设中,Python爬虫实战案例之爬取喜马拉雅音频数据详解.本文对大家进行网站开发设计工作或者学习都有一定帮助,下面让我们进入正文. 前言 喜马拉雅是专业的音频分享平台,汇集 ...
- python调用adb shell命令_Python之使用adb shell命令启动应用的方法详解
Python之使用adb shell命令启动应用的方法详解 一直有一个心愿希望可以用Python做安卓自动化功能测试,在一步步摸索中,之前是用monkeyrunner,但是发现对于控件ID的使用非常具 ...
- python鸭制作类代码_Python实现多态、协议和鸭子类型的代码详解
多态 问起面向对象的三大特性,几乎每个人都能对答如流:封装.继承.多态.今天我们就要来说一说 Python 中的多态. 所谓多态:就是指一个类实例的相同方法在不同情形有不同表现形式.多态机制使具有不同 ...
- python怎样安装词云库_python词云库wordcloud的使用方法与实例详解
wordcloud是优秀的词云展示第三方库 一.基本使用 import jieba import wordcloud txt = open("1.txt", "r&quo ...
- python逢7跳过_python实现逢七拍腿小游戏的思路详解
逢七拍腿游戏 几个小朋友在一起玩逢七拍腿的游戏,从1开始数数,当数到7的倍数或者尾号是7时,拍一下腿.现在从1数到99,假设每个人都没有错,计算一下共要拍腿几次? 第一种实现思路:通过在for循环语句 ...
- python拍七游戏代码_python实现逢七拍腿小游戏的思路详解
逢七拍腿游戏 几个小朋友在一起玩逢七拍腿的游戏,从1开始数数,当数到7的倍数或者尾号是7时,拍一下腿.现在从1数到99,假设每个人都没有错,计算一下共要拍腿几次? 第一种实现思路:通过在for循环语句 ...
- python使用get和post方法_Python爬虫之GET和POST请求然后正确运用详解
爬虫--GET请求和POST请求 urllib.parse.urlencode()和urllib.parse.unquote() 编码工作使用urllib.parse的urlencode()函数,帮我 ...
- left join 一对多只取一条_Python爬虫教程:验证码的爬取和识别详解
目前,很多网站会采取各种各样的措施来反爬虫,验证码就是其中一种,比如当检测到访问频率过高时会弹出验证码让你输入,确认访问网站的不是机器人.但随着爬虫技术的发展,验证码的花样也越来越多,从最开始简单的几 ...
最新文章
- ORACLE 用户权限管理
- 阿里某p9哭穷:300万年薪,依然挣扎在温饱线上!
- 1.cocos2dx 3.2环境搭建
- 图的深度优先搜索(DFS)
- 编码优先级表达的严重性
- ajax获取checkbox循环出来的值_Django:前后端异步加载数据(循环大法)
- 数据挖掘概念与技术(原书第三版)范明 孟小峰译-----第六章课后习题答案
- canvas 小球碰撞
- SkeyeARS 全景AR增强监视系统解决方案
- OA“失身”缘于难挡ERP的色诱?
- 必须要了解的编程基础--哈希与字符串
- 一种基于自动机的快速分词方法
- Windows把桌面改到D盘 Win11怎么把桌面文件路径改到D盘
- 2023,VC投资的分水岭
- 使用正则批量修改文件名
- 高德地图使用-高亮某块区域
- 还在埋头干活?给程序员的几个忠告
- Python+花生壳搭建一个外网访问本地文件的服务器
- 杩滅▼涓绘満寮鸿揩鍏抽棴浜嗕竴涓幇鏈夌殑杩炴帴銆�
- 成都大数据技术学习:饿了么元数据管理实践之路
热门文章
- 锦隆驾校考试场---小路
- Matlab:提取或分配日期时间数组的日期时间分量
- OSChina 元旦乱弹 ——能笑一辈子的笑话
- html中怎么把边框设置成花边,word怎么设置花边有多少种方法
- 富爸爸---财富自由之路
- 华为OD机试真题-查找充电设备组合【2023Q1】【JAVA、Python、C++】
- sum over()用法,以及与group by的区别
- asynchttpclient 超时_喜聚星联合摄制网剧超时空恋人明日爱奇艺开播!超甜剧情即将解锁...
- 华夏文化之“姓氏名字”的渊源
- JavaScript验证码