当然是给女朋友抓取不同色号口红的图片了。

女朋友想要一只XX色号的口红，怎么办？那是一个终极问题。

对我们直男来说，口红，在我们眼里只有一种颜色，那当然是红色了。但是这话要让一众多妹子听了，妹子一定会心想，什么，你居然说口红只有红色？直男！

那么问题来了，请各位男生从以上色号找出俄罗斯红、苹果红和苏丹红色三种色号……

面对妹子的刁难，我们男生也不甘示弱，请妹子们从以下奥特曼中找出泰罗奥特曼……

哼，直女，这都分不清。(男生内心的OS)

当然，求生欲强的男生肯定不会这么做的，作为勤奋、聪明、帅气的好男人，我们要学会——分辨色号！

进入我们今天的爬虫项目——抓取电商网站上所有口红的图片。当然，顺便学习一下口红色好，将来女朋友说，我想要个苏丹红色号的口红，你买给我好不好，咱们也不至于傻眼，对不。

1、首先，我们先打开京东，输入口红，进入对应的界面，提取出此时的地址：

https://search.jd.com/Search?keyword=%E5%8F%A3%E7%BA%A2&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&stock=1&page=1&s=1&click=0 #第一页

https://search.jd.com/Search?keyword=%E5%8F%A3%E7%BA%A2&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&stock=1&page=3&s=56&click=0 #第二页

我们发现，在上地址中，page字段发生了变化，因此可以推断，page字段是控制相应的页码，即page取1、3、5、7、9……时，对应的页码1、2、3、4、5……

2、正则表达式匹配图片的地址，并保存到本地。

正则表达式在前面我们讲过，这里不再赘述，我们先将抓取的网页解码后保存到本地，找出对应的图片地址，构建正则表达式匹配图片。经过对比，正则表达式构建如下：

我们还有介绍urllib库的一个函数，urlretrieve()函数，此函数接收两个参数，一个是抓取的地址，一个是保存的路径，功能时将抓取的信息保存在指定的路径。

3、构建异常处理，前面的文章讲过，不再赘述。

4、将逻辑封装在函数内，以便日后复用。事实上，今后编写的任何代码都建议大家将其封装进函数。

4、编写脚本，具体代码及注释如下。

import re#导入re模块

import urllib.request as eq#导入urllib模块

def pachong(url,page):#建名为pachong的函数，传入两个参数————地址和页码

headers=('User-Agent','Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/64.0.3282.140 Safari/537.36 Edge/17.17134')

opener=eq.build_opener()

opener.addheaders=[headers]

eq.install_opener(opener)#添加头信息，并安装为全局

data=eq.urlopen(url).read().decode('utf-8')#抓取网页，并以utf8格式解码

pat=''

imagelist=re.compile(pat).findall(data)#正则表达式匹配图片地址

x=1#循环标记

for i in imagelist:

path='D:/python36/pachong/lipstick/'+str(page)+str(x)+'.jpg'

imageurl='http://'+i

try:#异常处理

eq.urlretrieve(imageurl,filename=path)

except eq.URLError as e:

if hasattr(e,'code'):

x=x+1

if hasattr(e,'reason'):

x=x+1

x=x+1

for j in range(1,50):#抓取前26页所有口红的图片

url='https://search.jd.com/Search?keyword=%E5%8F%A3%E7%BA%A2&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&stock=1&page='+str(j)

pachong(url,j)

5、脚本写好后，我们就点击运行吧。大概一分钟后，1361张口红的图片就已经抓取到了我们的电脑，以下是其中的一部分。

在抓取到如此多的图片后，我们当然要好好研究一下色号，争取早日认出苏丹红。

当然，如果有小伙伴不想自己爬，私信我，我把这1361张图发给你，回去好好学习，争取早日脱单。

最后，欢迎大家关注我的专栏：Python学习日记​zhuanlan.zhihu.com