python爬淘宝评论源代码_python3爬取淘宝信息代码分析
# encoding:utf-8
import re # 使用正则 匹配想要的数据
import requests # 使用requests得到网页源码
这个函数是用来得到源码
# 得到主函数传入的链接
def getHtmlText(url):
try: # 异常处理
# 得到你传入的URL链接 设置超时时间3秒
r = requests.get(url, timeout=3)
# 判断它的http状态码
r.raise_for_status()
# 设置它的编码 encoding是设置它的头部编码 apparent_encoding是从返回网页中分析它的编码格式
r.encoding = r.apparent_encoding
# 返回源代码
return r.text
except: # 发生异常返回空
return ''
这个函数使用来解析你的源代码 获取你想要的数据
# 解析你的网页信息
def parsePage(ilt, html):
# 异常处理
try:
# 找到书包的价格
plt = re.findall(r'\"view_price\"\:\"[\d\.]*\"', html)
# 找到书包的名称
tlt = re.findall(r'\"raw_title\"\:\".*?\"', html)
# 找到书包的地址
add = re.findall(r'\"item_loc\"\:\".*?\"', html)
# 找到书包的图片链接
img = re.findall(r'\"pic_url\"\:\".*?\"', html)
# 得到这个内容放入主函数中的列表
for i in range(len(plt)):
price = eval(plt[i].split(':')[1])
title = eval(tlt[i].split(':')[1])
address = eval(add[i].split(':')[1])
imgs = eval(img[i].split(':')[1])
ilt.append([price, title, address, imgs])
except: # 放生异常输出空字符串
print('')
# 得到主函数传入的列表
def printGoodsList(ilt):
# 每个列之间用tplt的放是隔开
tplt = '{:4}\t{:8}\t{:16}\t{:32}'
# 这个是整个的标题
print(tplt.format('序号', '价格', '商品名称','地址', '图片地址'))
count = 0 # 统计有多少的序号
for g in ilt:
count = count + 1 # 循环一遍加一
print(tplt.format(count, g[0], g[1], g[2]), g[3]) # 输出你得到的数据
# 定义主函数 main
def main():
goods = '书包' # 你要搜索的东西
depth = 2 # 你想要得到几页的东西
start_url = 'https://s.taobao.com/search?q=' + goods # 你搜索的网址加上你的搜索东西
infoList = [] # 自定义的空列表用来存放你的到的数据
for i in range(depth): # 循环你的页数
try: # 异常处理
url = start_url + '&s' + str(44 * i) # 得到你的网址
html = getHtmlText(url) # 得到url传入到你要得到url的函数中
parsePage(infoList, html) # 得到你的html源码 放入解析的网页中
except: # 发生异常跳过
continue
# 把列表中的数据放入解析的函数中
printGoodsList(infoList)
# 代码调试片段
if __name__ == '__main__':
main() # 调用主函数
以上就是经过小编测试过的用python3爬取淘宝信息的代码,大家测试后如果还有任何不明白的地方可以在下方的留言区讨论。
python爬淘宝评论源代码_python3爬取淘宝信息代码分析相关推荐
- 淘宝商品评价api接口(app、h5端),淘宝评论视频API接口,淘宝评论API接口
淘宝商品评价api接口(app.h5端),淘宝评论视频API接口,淘宝评论API接口可以通过商品id,获取商品评价信息.评价内容.买家秀图片.评论浏览量.评价视频.评价追评等页面上展示的数据均可以拿到 ...
- 淘宝商品评价api接口,淘宝评论视频API接口,淘宝评论API接口(app、h5端)
淘宝商品评价api接口,淘宝评论视频API接口,淘宝评论API接口(app.h5端)可通过商品id,获取商品评价信息.评价内容.买家秀图片.评论浏览量.评价视频.评价追评等页面上展示的数据均可以拿到, ...
- python爬取12306_Python爬取12306车次信息代码详解
详情查看下面的代码: 如果被识别就要添加一个cookie如果没有被识别的话就要一个user-agent就好了.如果出现乱码就设置编码格式为utf-8 #静态的数据一般在elements中(复制文字到s ...
- Python爬虫实战八之利用Selenium抓取淘宝匿名旺旺
其实本文的初衷是为了获取淘宝的非匿名旺旺,在淘宝详情页的最下方有相关评论,含有非匿名旺旺号,快一年了淘宝都没有修复这个. 很多人学习python,不知道从何学起. 很多人学习python,掌握了基本语 ...
- Python爬虫实战(4):抓取淘宝MM照片
Python爬虫入门(1):综述 Python爬虫入门(2):爬虫基础了解 Python爬虫入门(3):Urllib库的基本使用 Python爬虫入门(4):Urllib库的高级用法 Python爬虫 ...
- python淘宝爬虫基于requests抓取淘宝商品数据_python淘宝爬虫基于requests抓取淘宝商品数据...
在学校蹭过python的课,觉得python异常强大,趁寒假有时间,瞎搞一下,希望能和大伙一起探讨学习.废话不多说了,直接正题. requests 是Python的http库,可以完成绝大部分与htt ...
- python淘宝爬虫基于requests抓取淘宝商品数据
在学校蹭过python的课,觉得python异常强大,趁寒假有时间,瞎搞一下,希望能和大伙一起探讨学习.废话不多说了,直接正题. requests 是Python的http库,可以完成绝大部分与htt ...
- python爬取豆瓣代码_python爬取豆瓣视频信息代码
[TOC] 这里是爬取豆瓣视频信息,用pyquery库(jquery的python库). 一:代码 from urllib.request import quote from pyquery impo ...
- python爬取京东商品信息代码_爬取京东商品信息
利用 BeautifulSoup + Requests 爬取京东商品信息并保存在Excel中 一.查看网页信息 打开京东商城,随便输入个商品,就选固态硬盘吧 先看看 URL 的规律,可以看到我们输入的 ...
- 淘宝评论问答列表接口 获得淘宝商品评论 API分享 亲测可用
一个商品的客户体验如何,关乎会有多少客户会愿意回购,大量商家会花时间精力在售后回访上.作为电商公司来说,用户直接在商品评论上的回复可以直接作为售后的调研依据.淘宝上还有一个问答列表,通过客户问,购买过 ...
最新文章
- 看漫画学Python,屏幕前的彦祖要不要试试?
- Lexus Extroic OpenCart 2.X 自适应主题模板 ABC-0648-03
- java遍历集合选择题_Java集合知识测试B
- mysql 连接池的作用,数据库连接池介绍、主要参数设置、作用
- 2016国产开源软件Top100(Q1)
- CPtrArray、CObArray类
- 33_向路由组件传递数据
- [转] Float或Double浮点型计算精度问题的解决方法
- win10 pin码如何设置
- 使用windows内存-内存映射文件
- 电子电路仿真软件中文版_一个电子工程师的自我修养
- 【基于python的量化策略回测框架搭建】策略表现衡量指标模块
- 新项目六之集成新版友盟统计
- 如何使用相芯科技美妆SDK实现美妆(Android)
- SpringBoot自动装配流程
- 全国计算机等级二级C语言上机编程题题型
- 等保2.0 Windows主机测评过程
- 安装使用Eclipse Che
- 【STM32F429开发板用户手册】第34章 STM32F429的SPI总线应用之驱动DAC8501(双路输出,16bit分辨率,0-5V)
- android 照片墙程序,Android照片墙应用