为了做一个图像分类的小项目,需要制作自己的数据集。要想制作数据集,就得从网上下载大量的图片,再统一处理。

这时,一张张的保存下载,就显得很繁琐。那么,有没有一种方法可以把搜索到的图片直接下载到本地电脑中呢?

有啊!用python吧!

我以“泰迪”、“柯基”、“拉布拉多”等为关键词,分别下载了500张图片。下一篇,我打算写一个小狗分类器,不知道各位意见如何!

结果演示:

首先,打开百度图片首页,注意下图url中的index

接着,把页面切换成传统翻页版(flip),因为这样有利于我们爬取图片!

对比了几个url发现,pn参数是请求到的数量。通过修改pn参数,观察返回的数据,发现每页最多只能是60个图片。

注:gsm参数是pn参数的16进制表达,去掉无妨

然后,右键检查网页源代码,直接(ctrl+F)搜索 objURL

这样,我们发现了需要图片的url了。

2.把图片链接保存到本地

现在,我们要做的就是将这些信息爬取出来。注:网页中有objURL,hoverURL…但是我们用的是objURL,因为这个是原图那么,如何获取objURL?用正则表达式!那我们该如何用正则表达式实现呢?其实只需要一行代码…

results = re.findall('"objURL":"(.*?)",', html)

核心代码:

1.获取图片url代码:

# 获取图片url连接

def get_parse_page(pn,name):

for i in range(int(pn)):

# 1.获取网页

print('正在获取第{}页'.format(i+1))

# 百度图片首页的url

# name是你要搜索的关键词

# pn是你想下载的页数

url = 'https://image.baidu.com/search/flip?tn=baiduimage&ie=utf-8&word=%s&pn=%d' %(name,i*20)

headers = {

'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/53.0.2785.104 Safari/537.36 Core/1.53.4843.400 QQBrowser/9.7.13021.400'}

# 发送请求,获取相应

response = requests.get(url, headers=headers)

html = response.content.decode()

# print(html)

# 2.正则表达式解析网页

# "objURL":"http://n.sinaimg.cn/sports/transform/20170406/dHEk-fycxmks5842687.jpg"

results = re.findall('"objURL":"(.*?)",', html) # 返回一个列表

# 根据获取到的图片链接,把图片保存到本地

save_to_txt(results, name, i)

2.保存图片到本地代码:

# 保存图片到本地

def save_to_txt(results, name, i):

j = 0

# 在当目录下创建文件夹

if not os.path.exists('./' + name):

os.makedirs('./' + name)

# 下载图片

for result in results:

print('正在保存第{}个'.format(j))

try:

pic = requests.get(result, timeout=10)

time.sleep(1)

except:

print('当前图片无法下载')

j += 1

continue

# 可忽略,这段代码有bug

# file_name = result.split('/')

# file_name = file_name[len(file_name) - 1]

# print(file_name)

#

# end = re.search('(.png|.jpg|.jpeg|.gif)$', file_name)

# if end == None:

# file_name = file_name + '.jpg'

# 把图片保存到文件夹

file_full_name = './' + name + '/' + str(i) + '-' + str(j) + '.jpg'

with open(file_full_name, 'wb') as f:

f.write(pic.content)

j += 1

核心代码:

pic = requests.get(result, timeout=10)

f.write(pic.content)3.主函数代码:

# 主函数

if __name__ == '__main__':

name = input('请输入你要下载的关键词:')

pn = input('你想下载前几页(1页有60张):')

get_parse_page(pn, name)

使用说明:

# 配置以下模块

import requests

import re

import os

import time

# 1.运行 py源文件

# 2.输入你想搜索的关键词,比如“柯基”、“泰迪”等

# 3.输入你想下载的页数,比如5,那就是下载 5 x 60=300 张图片

用python批量下载网络图片大全_实战干货:用 Python 批量下载百度图片!相关推荐

  1. python群发邮件 不进垃圾箱_实战干货:邮箱群发2000封邮件如何做到不进垃圾箱...

    原标题:实战干货:邮箱群发2000封邮件如何做到不进垃圾箱 重点导读 很多人认为邮件营销是非常古老的网络营销手段,已经没有多少人在用了.但是有时候招不用新,管用就好. 我们平时在操作邮件群发的时候,大 ...

  2. python find函数实现原理_非常干货:Python 探针实现原理

    △点击上方"Python猫"关注 ,回复" 1 "领取电子书 剧照 | <棋魂> 原文:https://segmentfault.com/a/119 ...

  3. 怎么用python控制另一个程序_超干货!Python流程控制

    流程控制指的是代码运行逻辑.分支走向.循环控制,是真正体现我们程序执行顺序的操作.流程控制一般分为 顺序执行.条件判断和循环控制. 一.顺序执行 Python代码在执行过程中,遵循下面的基本原则: 普 ...

  4. python和网络运维_网络工程师的Python之路:网络运维自动化实战

    第1章 Python的安装和使用 1 1.1 安装Python 1 1.1.1 在Windows下安装Python 3.8.2 2 1.1.2 在Linux下安装Python 3.8.2 5 1.2 ...

  5. python语法详解大全_笔记:Python 语法要点汇总

    Python 是一门解释型语言,无需编译和链接 Python 解释器 交互模式 脚本模式 源码编码 默认情况下,Python 源文件是 UTF-8 编码 指定源文件的字符编码 # -*- coding ...

  6. ico图标下载 ico大全_我们可以做些什么来向ICO投资者保证我们不会用他们的钱消失...

    ico图标下载 ico大全 by Pablo Ruiz 帕勃罗·鲁伊斯(Pablo Ruiz) 我们可以做些什么来向ICO投资者保证我们不会用他们的钱消失 (What we can do to rea ...

  7. python自动化测试实战下载_Selenium 2自动化测试实战:基于Python语言 (虫师著) 完整pdf扫描版[44MB]...

    Selenium 2自动化测试实战:基于Python语言分为14个章节,第1章是自动化测试相关基础知识的介绍:第2章到第10章是本书的重点,循序渐进地介绍了自动化测试所用到的技术:第11章通过一个具体 ...

  8. python下载无法安装_各种版本的python下载安装教程

    关键时刻,第一时间送达! 先不说楚枫的这般年纪,能够踏入元武一重说明了什么,最主要的是,楚枫在刚刚踏入核心地带时,明明只是灵武七重,而在这两个月不到的时间,连跳两重修为,又跳过一个大境界,踏入了元武一 ...

  9. python文字小游戏大全_教你如何用Python写一个小游戏

    引言 最近python语言大火,除了在科学计算领域python有用武之地之外,在游戏.后台等方面,python也大放异彩,本篇博文将按照正规的项目开发流程,手把手教大家写个python小游戏,来感受下 ...

最新文章

  1. ubuntu安装OpenCV详细教程(建议收藏)
  2. Objective-C:在类中设置不同协议
  3. GPT v.s. 中国象棋:写过文章解过题,要不再来下盘棋?
  4. Docker启动tomcat,访问首页出现404错误
  5. 第60课 比特超市 《小学生C++趣味编程》
  6. 如何做研究-精辟分析
  7. 台式计算机优点英语作文,跪求一篇英语作文 题目:论计算机的优缺点
  8. 《Genesis-3D游戏引擎系列教程-入门篇》九:发布到移动平台
  9. 使用LaTeX绘制列表(有的地方称作Num Item)
  10. docker集群——介绍Mesos+Zookeeper+Marathon的Docker管理平台
  11. android enable ipv6,安卓开启ipv6网络支持小米手机(miui)IPv6无法使用的问题
  12. 项目管理和产品立项流程图
  13. 华擎J3455-ITX黑群晖6.2.3-25426搭建
  14. Android感应检测Sensor(简单介绍),全世界都在问Android开发凉了吗
  15. 利用单片机给直流升压
  16. 工程测量的各种数据考点
  17. 慎用create table as select,一定要注意默认值的问题
  18. Let‘s Go Rust 系列之定时器 Ticker Timer
  19. html中微信添加好友超链接,微信给文字加链接代码分享(原来微信超链接是这样加的)...
  20. ffmpeg 音频解码一

热门文章

  1. java多线程(一)-Thread类和Runnable接口
  2. 基于内容推荐系统中的常识
  3. 初探ES6中的Map和WeakMap
  4. 查看oracle连接客户端
  5. Oracle索引----位图索引
  6. UITabBarController详解
  7. asp.net 研发,测试,或现网....非本机环境采用附加进程的方式在本地调试
  8. 转android项目开发 工作日志 2011.10.8--bundle类使用
  9. 创建VLAN的两种方法
  10. 带有按钮并且可以执行单击事件的WINFORM窗体,体悟C#的创建过程