urllib2的Post和Get请求
urllib2默认只支持HTTP/HTTPS的GET和POST方法
urllib.urlencode()
urllib和urllib2都是接受URL请求的相关参数,但是提供了不同的功能。两个最显著的不同如下:
- urllib仅可以接受URL,不能创建设置了headers的Request类实例;
- 但是urllib提供了
urlencode
方法用来GET查询字符串的产生,而urllib2则没有。(这是urllib和urllib2经常一起使用的主要原因)- 编码工作使用urllib的
urlencode()
函数,帮我们将key:value
这样的键值对转换成"key=value"
这样的字符串,解码工作可以使用urllib的unquote()
函数。(注意,不是urllib.urlencode())
#-*- coding:utf-8 -*-
#06.urllib2_urlencode.py
import urllib2
import urllibword = {"wd":"传智播客"}#通过urllib.urlencode()方法,将字典键值对按URL编码转换,从而能被web服务器接受
encode = urllib.urlencode(word)print(encode)
#通过urllib.unquote()方法,把URL编码字符串,转换回原始字符串print(urllib.unquote("wd=%E4%BC%A0%E6%99%BA%E6%92%AD%E5%AE%A2"))
一般HTTP请求提交数据,需要编码成URL编码格式,然后作为url的一部分,或者作为参数传到Request对象中。
Get方式
Get请求一般用于我们向服务器获取数据,比如说,我们用百度搜索传智播客
;https://www.baidu.com/s?wd=传智播客
浏览器的url会跳转如图所示
https://www.baidu.com/s?wd=%E4%BC%A0%E6%99%BA%E6%92%AD%E5%AE%A2
在其中我们可以看到在请求部分里,http://www.baidu.com/s
之后出现一个长长的字符串,其中就包含我门要查询的关键词传智播客,于是我们可以尝试使用默认的Get方式来发送请求。
#-*- coding:utf-8 -*-
#07.urllib2_get.pyimport urllib
import urllib2url = "http://www.baidu.com/s"
word = {"wd":"传智播客"}
word = urllib.urlencode(word) #转换成url编码格式(字符串)newurl = url + "?" + wordheaders = {"User-Agent":"Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.103 Safari/537.36"}request = urllib2.Request(newurl,headers = headers)response = urllib2.urlopen(request)print(response.read())
POST方式:
上面我们说了Request请求对象里有data参数,它就是用在POST里,我们要传送的数据就是这个参数data,data是一个字典,里面要匹配键值对。
有道词典翻译网站:
输入测试数据,再通过使用Fiddler观察,其中有一条是POST请求,而向服务器发送的请求数据并不是在url里,那么我们可以试着模拟这个POST请求。
于是,我们可以尝试用POST方式发送请求。
#-*- coding:utf-8 -*-
#09.urllib2_post.pyimport urllib
import urllib2#POST请求的目标URL
url = "http://fanyi.youdao.com/translate?smartresult=dict&smartresult=rule&smartresult=ugc&sessionFrom=null"headers = {"User-Agent":"Mozilla...."}formate = {"type":"AUTO","i":"i love python","doctype":"json","xmlVersion":"1.8","keyform":"fanyi.web","ue":"utf-8","action":"FY_BY_ENTER","typoResult":"true"
}data = urllib.urlencode(formate)request = urllib2.Request(url, data=data, headers = headers)response = urllib2.urlopen(request)print("-"*30)
print(response.read())
发送POST请求时,需要特别注意headers的一些属性:
Content-Length
:是指发送的表单数据长度为144,也就是字符个数是144个;
X-Requested-With
:表示Ajax异步请求。
Content-Type: application/x-www-form-urlencoded
:表示浏览器提交web表单时,表单数据会按照name1=value1&name2=value2键值对形式进行编码。
问题:为什么有时候POST也能在URL内看到数据?
- GET方式是以直接以链接形式访问,链接中包含了所有参数,服务器端用Request.QueryString获取变量的值。如果包含了密码的话是一种不安全的选择,不过你可以直观地看到自己提交了什么内容。
POST则不会在网址上显示所有的参数,服务器端用Request.Form获取提交的数据,在Form提交的时候。但是HTML代码里如果不指定method属性,则默认为GET请求,Form中提交的数据将会附加在url之后,以
?
与url分开- 表单数据可以作为URL字段(method="get")或者HTTP POST(method="post")的方式来发送。比如在下面的HTML代码中,表单数据将因为(method="get")而附加到URL上;
<form action="form_action.asp" method="get"> <p>First name: <input type="text" name="fname" /></p> <p>Last name: <input type="text" name="lname" /></p> <input type="submit" value="Submit" /> </form>
urllib2的Post和Get请求相关推荐
- python通过get方式,post方式发送http请求和接收http响应-urllib urllib2
python通过get方式,post方式发送http请求和接收http响应-- import urllib模块,urllib2模块, httplib模块 http://blog.163.com/xyc ...
- 爬虫之urllib2库的请求详解
urllib2默认只支持HTTP/HTTPS的GET和POST方法 urllib.urlencode() urllib 和 urllib2 都是接受URL请求的相关模块,但是提供了不同的功能.两个最显 ...
- Python:urllib2模块Handler处理器 和 自定义Opener
Handler处理器 和 自定义Opener opener是 urllib2.OpenerDirector 的实例,我们之前一直都在使用的urlopen,它是一个特殊的opener(也就是模块帮我们构 ...
- Python:urllib2模块的基本使用
urllib2库的基本使用 所谓网页抓取,就是把URL地址中指定的网络资源从网络流中读取出来,保存到本地. 在Python中有很多库可以用来抓取网页,我们先学习urllib2. urllib2 是 P ...
- Python爬虫(三)_urllib2:get和post请求
urllib.urlencode() urllib和urllib2都是接受URL请求的相关参数,但是提供了不同的功能.两个最显著的不同如下: urllib仅可以接受URL,不能创建设置了headers ...
- [Python]网络爬虫(二):利用urllib2通过指定的URL抓取网页内容
版本号:Python2.7.5,Python3改动较大,各位另寻教程. 所谓网页抓取,就是把URL地址中指定的网络资源从网络流中读取出来,保存到本地. 类似于使用程序模拟IE浏览器的功能,把URL作 ...
- Py之urllib2:Python库之urllib、urllib2、urllib3系列简介、安装、使用方法之详细攻略
Py之urllib2:Python库之urllib.urllib2.urllib3系列简介.安装.使用方法之详细攻略 目录 urllib2简介 urllib2安装 urllib2使用方法 urllib ...
- python urllib2_Python爬虫 urllib2的使用方法详解
所谓网页抓取,就是把URL地址中指定的网络资源从网络流中读取出来,保存到本地.在Python中有很多库可以用来抓取网页,我们先学习urllib2. urllib2是Python2.x自带的模块(不需要 ...
- 洗礼灵魂,修炼python(54)--爬虫篇—urllib2模块
urllib2 1.简介 urllib2模块定义的函数和类用来获取URL(主要是HTTP的),他提供一些复杂的接口用于处理: 基本认证,重定向,Cookies等.urllib2和urllib差不多,不 ...
最新文章
- 逆序输出螺旋字符矩阵(三种方法)
- SpringBoot_日志-其他日志框架统一转换为slf4j
- Python语法异常 Exception
- C++是一种糟糕的语言 Linux之父炮轰C++
- 转: SMTP 服务器无法识别在 Mac 2011 Outlook 中发送电子邮件时错误。错误 17092...
- 你是否适合当一个Java程序员?一文看清
- 反转字符串的多种方式-经典面试题系列
- vb6 控件未注册问题解决
- 将iTunes音乐传输到USB驱动器以在汽车中收听
- 批处理for循环命令初步学习
- 电路交换技术与包交换技术
- 数据结构|最小生成树问题
- daocloud mysql_GitHub - DaoCloud/php-laravel-mysql-sample
- 错误信息:cannot call member function ‘ ‘ without object 处理
- 华为三星非洲智能手机大战 低价为王
- oracle 性能优化培训,Oracle性能优化培训
- revit学习-基本术语介绍
- fastadmin一键生成CURD
- html5 签到墙,签名墙尺寸一般设置多大?
- iOS Bluetooth 打印小票