爬虫-东北林业大学校内-中国[哈尔滨]森林博物馆-爬取所有馆藏蝴蝶图片

  • 馆藏蝴蝶图片爬虫
  • 直接上代码

馆藏蝴蝶图片爬虫

由于本人很喜欢玩LOL大嘴的帝王斑蝶皮肤,导员下午又发了森林博物馆开馆的通知,于是想前往观赏帝王斑蝶,但是登录预约系统发现,下午并没有开馆,周四周五周六才开馆。所以就去官网看看蝴蝶的图片,由于官网并没有检索功能,所以就想把图片爬下来,再检索一下帝王斑蝶。

直接上代码

import requests
from lxml import etree
import urllib3if __name__ == "__main__":# 这里的urllib3.disable_warnings(urllib3.exceptions.InsecureRequestWarning)用来忽略警告urllib3.disable_warnings(urllib3.exceptions.InsecureRequestWarning)url_first = "https://cfm.nefu.edu.cn/zpjc/kczp.htm"url_main = 'https://cfm.nefu.edu.cn'headers = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/91.0.4472.77 Safari/537.36 Edg/91.0.864.37'}pic_url_list = []for i in range(1,31):url = ''if i==30 :url = url_firstelse :url = "https://cfm.nefu.edu.cn/zpjc/kczp"+'/'+str(i)+".htm"page_text = requests.get(url=url,headers=headers,verify=False).texttree = etree.HTML(page_text)li_list = tree.xpath('//div[@class="pic_list"]/ul/li')for li in li_list:pic_src = li.xpath('./a/@href')[0]pic_name = li.xpath('./a/@title')[0]s_pic_name = pic_name.encode('raw_unicode_escape')ss_pic_name = s_pic_name.decode()pic_url_list.append((ss_pic_name,(url_main+pic_src)))for pic in pic_url_list:pic_path = 'museum_pic_data/' + pic[0] + ".jpg"pic_data = requests.get(url=pic[1], headers=headers, verify=False).contentwith open(pic_path, 'wb') as fp:fp.write(pic_data)print(pic[0], '下载完成!')

爬虫-东北林业大学校内-中国[哈尔滨]森林博物馆-爬取所有馆藏蝴蝶图片相关推荐

  1. python爬虫实战三:近十年中国电影票房数据爬取与分析

    近十年中国电影票房数据爬取与分析 前言 爬取 分析 十年top10 年度top5 每年电影数 每年总票房 二八原则 代码与数据 前言 这篇文章主要讲述的是近十年(2010-2019)中国电影票房数据的 ...

  2. 【爬虫实战】Python 自制天气预报程序!爬取全国天气网

    学会了爬虫,让我们自制一个天气预报的爬虫吧! 需求分析 1.用 requests 爬取 全国天气网 的网页源代码: 2.用 pyquery 解析网页源代码,取得天气情况信息的节点: 3.用 xlwt ...

  3. 项目三:近10年来中国电影票房数据爬取分析

    近10年来中国电影票房数据爬取分析 前言 数据采集与存储 数据清洗和简单分析 引入库,导入数据 近10年top 年度top5 每年电影数 每年总票房 结论 二八原则 end 点击跳转到总目录 前言 这 ...

  4. CSDN爬虫(四)——博客专家(所有)爬取+数据分析

    CSDN爬虫(四)--博客专家(所有)爬取+数据分析 说明 开发环境:jdk1.7+myeclipse10.7+win74bit+mysql5.5+webmagic0.5.2+jsoup1.7.2 爬 ...

  5. python爬取京东商品图片_python利用urllib实现爬取京东网站商品图片的爬虫实例

    本例程使用urlib实现的,基于python2.7版本,采用beautifulsoup进行网页分析,没有第三方库的应该安装上之后才能运行,我用的IDE是pycharm,闲话少说,直接上代码! # -* ...

  6. python爬虫知乎图片_python爬虫(爬取知乎答案图片)

    python爬虫(爬取知乎答案图片) 1.⾸先,你要在电脑⾥安装 python 的环境 我会提供2.7和3.6两个版本的代码,但是本⽂只以python3.6版本为例. 安装完成后,打开你电脑的终端(T ...

  7. python 北上资金_python爬虫技术:北向资金数据自动爬取!

    好久不见!今天我们继续python的话题啦.python现在势头凶得很,没事刷抖音.刷朋友圈.看公众号,弹出的广告总少不了python."python带你发家致富,财富自由!"广告 ...

  8. Java爬虫之利用Jsoup+HttpClient爬取类叔叔不约匿名聊天网站的图片,未果——后爬取某网站美女图片案例

    博主最近学了一点爬虫的知识,闲着无聊,秉承学以致用的理念,于是突然想到何不挑战一下,爬取一些叔叔不约网站的图片,来巩固一下所学知识(#滑稽).说干就干,打开eclipse或idea,创建maven工程 ...

  9. Python爬虫新手入门教学(十):爬取彼岸4K超清壁纸

    前言 本文的文字及图片来源于网络,仅供学习.交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理. Python爬虫.数据分析.网站开发等案例教程视频免费在线观看 https://space. ...

最新文章

  1. golang 命名规范和开发规范
  2. 前端模块化开发中webpack、npm、node、nodejs之间的关系[小白总结]
  3. 搞懂深浅拷贝JavaScript内存之栈和堆
  4. python是什么时候发布的_python发布日期
  5. MarkerOpter marker操作类
  6. 有大招儿?请收下这份关于数据与智能的晋级攻略!
  7. 【渝粤教育】电大中专机电设备管理作业 题库
  8. 从零开始搭建“表情包小程序”
  9. zec挖矿(zcash挖矿)鱼池跟蚂蚁矿池的比较到底哪个好?哪个收益高? (二)
  10. 致远项目管理SPM系统之合同基本信息管理
  11. 颜色的RGBnbsp;指数
  12. 已知三角形底和高用c语言,三角形面积公式有哪些 如何求三角形面积
  13. MySQL报错: Incorrect string value: '\xE5\x85\xA8\xE7\x90\x83...' for column 'cname' at row 1
  14. llvm如何使用vc编译器_使用LLVM框架创建可用的编译器,第1部分
  15. postgresql 数据库中 like 、ilike、~~、~~*、~、~*的含义
  16. 无法启动此程序因为计算机丢失msvcr110.dll,Win7运行程序提示计算机中丢失msvcr110.dll如何解决...
  17. 浅谈这半年的实习感想
  18. JSTL【一】C标签的使用
  19. SM2 SM3 SM4加密java实现
  20. 使用hardhat开发以太坊智能合约-测试合约

热门文章

  1. 克里斯坦森的破坏性创新—《可以量…
  2. 深度揭秘:消费者应如何激活iPhone
  3. 如何生成漂亮的点云渲染图?
  4. html5手机页面 点击事件
  5. 电子计算机设置时间,电脑设置年月日_电脑怎么设置年月日
  6. Python 基于Rawpy 索尼A73 RAW文件转为JPG功能实现
  7. 微软project服务器搭建,安装和配置 Project Server 2010
  8. 小程序替换二维码logo并添加文字
  9. 数据库周刊62丨央企2021年数据库成交公告,国产占90%;流数据库HStreamDB开源;MySQL主从双写导致数据丢失;Oracle 19c升级最佳实践;PG日常工作分享;MySQL MGR运维指
  10. Python爬虫开发从入门到实战