简单爬取阿里巴巴商品信息

先码为敬
import requests
import re
def getHTMLText(url)://这里已经入门python爬虫的应该都知道了，这就是个爬取阿里商品全部信息的函数
    try:
        r=requests.get(url,timeout=30)
        r.raise_for_status()
        r.encoding=r.apparent_encoding
        return r.text
    except:
        return 'error'
def parsePage(ilt,html)://这个函数就是利用正则表达式从获取到的信息里面筛选需要的信息
    try:
        plt=re.findall(r'\"strPriceMoney\"\:\"[\d\.]*\"',html)//这里利用正则表达式进行信息匹配
        tlt=re.findall(r'\"title\"\:\".*?\"',html)
        for i in range(len(plt)):
            price=eval(plt[i].split(':')[1])
            title1=eval(tlt[i].split(':')[1])
            title=re.sub(r'<.*?>','',title1)\\这一段是利用正则表达式去除获取字符串里的标签信息
            ilt.append([price,title])
    except:
        print('error')
def printGoodsList(ilt)://这个函数就是将获取需要的信息进行打印输出
    tplt='{:4}\t{:8}\t{:16}'
    print(tplt.format('序号','价格','商品名称'))
    count=0
    for i in ilt:
        count+=1
        print(tplt.format(count,i[0],i[1]))

def main()://主函数进行调用控制其他函数功能
    goods='电脑'
    start_url='https://p4psearch.1688.com/p4p114/p4psearch/offer.htm?spm=a2609.11209760.it2i6j8a.6.50832de1NZAXIF&cosite=qqdaohang&keywords='+goods
    infoList=[]
    try:
        url=start_url
        html=getHTMLText(url)
        parsePage(infoList,html)
        printGoodsList(infoList)
    except:
        print('error')
main()
这段代码本来是在mooc上学习到的，但当时是用来爬取淘宝信息的，但现在淘宝要登录，我怕被封号^_^，就自己修改了一些内容从而来爬取阿里的商品信息

简单爬取阿里巴巴商品信息相关推荐

简单爬虫,爬取天猫商品信息
前言这是我第一次用Java来写爬虫项目,研究的也不是很透彻,所以爬虫技术的理论方面的就不说太多了. 主要还是以如何爬取商品信息为主,爬取最简单的商品信息,给出大概的思路和方法. 对于没有反爬技术的网 ...
Selenium介绍--实例爬取京东商品信息与图片
目录一.Selenium简介二.Selenium组成三.Selenium特点四.Selenium的基本使用 1.下载所用浏览器需要的驱动 2.创建项目并导入依赖 3.入门 3.代码演示五.实 ...
go爬虫和python爬虫哪个好_python 爬虫实战项目--爬取京东商品信息（价格、优惠、排名、好评率等）-Go语言中文社区...
利用splash爬取京东商品信息一.环境 window7 python3.5 pycharm scrapy scrapy-splash MySQL 二.简介为了体验scrapy-splash 的动 ...
layui获取input信息_python爬虫—用selenium爬取京东商品信息
python爬虫--用selenium爬取京东商品信息 1.先附上效果图(我偷懒只爬了4页) 2.京东的网址https://www.jd.com/ 3.我这里是不加载图片,加快爬取速度,也可以用Hea ...
Day06,selenium的剩余用法、万能登录破解和爬取京东商品信息，及破解极验滑动验证码...
一.自动登录抽屉新热榜 from selenium import webdriver import timedriver = webdriver.Chrome(r'D:\BaiduNetdiskDow ...
python爬取京东商品信息代码_爬取京东商品信息
利用 BeautifulSoup + Requests 爬取京东商品信息并保存在Excel中一.查看网页信息打开京东商城,随便输入个商品,就选固态硬盘吧先看看 URL 的规律,可以看到我们输入的 ...
python爬虫爬取京东商品评价_python爬取京东商品信息及评论
''' 爬取京东商品信息: 功能: 通过chromeDrive进行模拟访问需要爬取的京东商品详情页(https://item.jd.com/100003196609.html)并且程序支持多个页面爬取 ...
python爬取天猫商品信息
python爬取天猫商品信息主要信息有:商品名,价格,月销量,评论数,人气值,店铺评分以智能手机为例! 首先,发掘网址规律: 第二页的网址如上第三页的网址如上注意网址中的数字(靠近中间位置): ...
Python爬虫实战，requests+openpyxl模块，爬取手机商品信息数据（附源码）
前言今天给大家介绍的是Python爬取手机商品信息数据,在这里给需要的小伙伴们代码,并且给出一点小心得. 首先是爬取之前应该尽可能伪装成浏览器而不被识别出来是爬虫,基本的是加请求头,但是这样的纯文本 ...

简单爬取阿里巴巴商品信息

简单爬取阿里巴巴商品信息相关推荐

最新文章

热门文章