python爬虫实例-python3.7简单的爬虫实例详解
python3.7简单的爬虫,具体代码如下所示:
#https://www.runoob.com/w3cnote/python-spider-intro.html
#Python 爬虫介绍
import urllib.parse
import urllib.request
from http import cookiejar
url = "http://www.baidu.com"
response1 = urllib.request.urlopen(url)
print("第一种方法")
#获取状态码,200表示成功
print(response1.getcode())
#获取网页内容的长度
print(str(response1.read()))
print(len(response1.read()))
print("第二种方法")
request = urllib.request.Request(url)
#模拟Mozilla浏览器进行爬虫
request.add_header("user-agent","Mozilla/5.0")
response2 = urllib.request.urlopen(request)
print(response2.getcode())
print(len(response2.read()))
print("第三种方法")
cookie = cookiejar.CookieJar()
#加入urllib2处理cookie的能力#
opener = urllib.request.build_opener(urllib.request.HTTPCookieProcessor(cookie))
urllib.request.install_opener(opener)
response3 = urllib.request.urlopen(url)
print(response3.getcode())
print(len(response3.read()))
print(cookie)
code: https://github.com/pascal19821003/python
path: python/study/tutorial/pachong/1.py
总结
以上所述是小编给大家介绍的python3.7简单的爬虫实例详解,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对脚本之家网站的支持!
如果你觉得本文对你有帮助,欢迎转载,烦请注明出处,谢谢!
python爬虫实例-python3.7简单的爬虫实例详解相关推荐
- python3爬虫实例-python3.7简单的爬虫实例详解
python3.7简单的爬虫,具体代码如下所示: #https://www.runoob.com/w3cnote/python-spider-intro.html #Python 爬虫介绍 impor ...
- python下载步骤-python3.8下载及安装步骤详解
1.操作系统:Windows7 64bit Python版本:3.8下载地址:https://www.python.org/downloads/release/python-380/,选择下方的Win ...
- 电脑安装python步骤-python3.8下载及安装步骤详解
1.操作系统:Windows7 64bit executable installer 2.安装步骤: 双击安装文件python-3.8.0-amd64.exe 勾选下方"Add Python ...
- python 自动化发送邮件_Python自动化必备发送邮件报告脚本详解
#!/usr/bin/python3 # -*- coding:UTF-8 -*- import smtplib #smtplib库主要用来连接第三方smtp库,用来发邮件 from email.mi ...
- mac python3.8上怎么安装pygame 第三方库_Python3.8安装Pygame Python3.8安装Pygame教程步骤详解...
想了解Python3.8安装Pygame教程步骤详解的相关内容吗,孤傲小二~阿沐在本文为您仔细讲解Python3.8安装Pygame的相关知识和一些Code实例,欢迎阅读和指正,我们先划重点:Pyth ...
- python数组相减_对Python 中矩阵或者数组相减的法则详解
对Python 中矩阵或者数组相减的法则详解 最近在做编程练习,发现有些结果的值与答案相差较大,通过分析比较得出结论,大概过程如下: 定义了一个计算损失的函数: def error(yhat,labe ...
- windows上安装python3教程以及环境变量配置详解
这篇文章主要介绍了windows上安装python3教程以及环境变量配置详解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下 1.在浏览器搜索pyth ...
- python中requests库的用途-python中requests库session对象的妙用详解
在进行接口测试的时候,我们会调用多个接口发出多个请求,在这些请求中有时候需要保持一些共用的数据,例如cookies信息. 妙用1 requests库的session对象能够帮我们跨请求保持某些参数,也 ...
- python数据挖掘笔记】二十.KNN最近邻分类算法分析详解及平衡秤TXT数据集读取
#2018-04-06 07:57:00 April Friday the 14 week, the 096 day SZ SSMR python数据挖掘笔记]二十.KNN最近邻分类算法分析详解及平衡 ...
最新文章
- ZOJ 1410 题解
- trl meaning genearlly we find 6
- 设置全屏_教你在直播中如何显示全屏弹幕,增加与粉丝的互动
- 每天一道LeetCode-----给定序列中2/3/4个元素的和为target的所有集合,或3个元素的和最接近target的集合
- 2014_beijing_onsite
- BugkuCTF-MISC题细心的大象
- 高并发处理【电商抢购】(转)
- python编程软件哪个好-来 看看谁最适合学Python编程
- AcWing 848. 有向图的拓扑序列(拓扑排序模板)
- 一张图学会Python3的基本用法
- 仿时钟表盘自定义view
- 密码技术---密钥和SSL/TLS
- LabVIEW图形化TensoRT工具包的安装下载分享
- 不管你学的是什么专业,你都应该多少懂些管理学的东西-----【管理学十大经典定理}...
- 家用双wan口路由器推荐_请推荐双WAN口的有线千兆硬路由器?
- 2018年爬虫代理IP提供商对比
- JS闭包函数和回调函数
- 词霸天下---208 词根【-freeze- = -frig- = -friger- 冷,冰冻 】
- Linux 文件服务系统
- Python学习笔记——Tornado模板
热门文章
- relative和absolute的区别
- BZOJ1453: [WC2005]Dface双面棋盘
- Swift - 闭包的介绍及用法(以数组排序为例)
- 改变Window下的习惯--认识Linux
- 《博客园精华集》Sharepoint+MOSS分册第2轮筛选结果文章列表
- javascript中常用的
- php 判断字符是否是数字_php判断输入是否是纯数字,英文,汉字的方法
- 以下选项不是python打开方式的是-以下选项中,不是Python对文件的打开模式的是...
- python安装教程win8-python 2.7在win8.1上安装的方法
- python对文件的读操作方法有哪些-Python文件操作实例大全