urllib2默认只支持HTTP/HTTPS的GET和POST方法

urllib.urlencode()

urllib和urllib2都是接受URL请求的相关参数,但是提供了不同的功能。两个最显著的不同如下:

  • urllib仅可以接受URL,不能创建设置了headers的Request类实例;
  • 但是urllib提供了urlencode方法用来GET查询字符串的产生,而urllib2则没有。(这是urllib和urllib2经常一起使用的主要原因)
  • 编码工作使用urllib的urlencode()函数,帮我们将key:value这样的键值对转换成"key=value"这样的字符串,解码工作可以使用urllib的unquote()函数。(注意,不是urllib.urlencode())
#-*- coding:utf-8 -*-
#06.urllib2_urlencode.py
import urllib2
import urllibword = {"wd":"传智播客"}#通过urllib.urlencode()方法,将字典键值对按URL编码转换,从而能被web服务器接受
encode = urllib.urlencode(word)print(encode)
#通过urllib.unquote()方法,把URL编码字符串,转换回原始字符串print(urllib.unquote("wd=%E4%BC%A0%E6%99%BA%E6%92%AD%E5%AE%A2"))

一般HTTP请求提交数据,需要编码成URL编码格式,然后作为url的一部分,或者作为参数传到Request对象中。

Get方式

Get请求一般用于我们向服务器获取数据,比如说,我们用百度搜索传智播客;https://www.baidu.com/s?wd=传智播客

浏览器的url会跳转如图所示

https://www.baidu.com/s?wd=%E4%BC%A0%E6%99%BA%E6%92%AD%E5%AE%A2

在其中我们可以看到在请求部分里,http://www.baidu.com/s之后出现一个长长的字符串,其中就包含我门要查询的关键词传智播客,于是我们可以尝试使用默认的Get方式来发送请求。

#-*- coding:utf-8 -*-
#07.urllib2_get.pyimport urllib
import urllib2url = "http://www.baidu.com/s"
word = {"wd":"传智播客"}
word = urllib.urlencode(word) #转换成url编码格式(字符串)newurl = url + "?" + wordheaders = {"User-Agent":"Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.103 Safari/537.36"}request = urllib2.Request(newurl,headers = headers)response = urllib2.urlopen(request)print(response.read())

POST方式:

上面我们说了Request请求对象里有data参数,它就是用在POST里,我们要传送的数据就是这个参数data,data是一个字典,里面要匹配键值对。

有道词典翻译网站:

输入测试数据,再通过使用Fiddler观察,其中有一条是POST请求,而向服务器发送的请求数据并不是在url里,那么我们可以试着模拟这个POST请求。

于是,我们可以尝试用POST方式发送请求。

#-*- coding:utf-8 -*-
#09.urllib2_post.pyimport urllib
import urllib2#POST请求的目标URL
url = "http://fanyi.youdao.com/translate?smartresult=dict&smartresult=rule&smartresult=ugc&sessionFrom=null"headers = {"User-Agent":"Mozilla...."}formate = {"type":"AUTO","i":"i love python","doctype":"json","xmlVersion":"1.8","keyform":"fanyi.web","ue":"utf-8","action":"FY_BY_ENTER","typoResult":"true"
}data = urllib.urlencode(formate)request = urllib2.Request(url, data=data, headers = headers)response = urllib2.urlopen(request)print("-"*30)
print(response.read())

发送POST请求时,需要特别注意headers的一些属性:

Content-Length:是指发送的表单数据长度为144,也就是字符个数是144个;
X-Requested-With:表示Ajax异步请求。
Content-Type: application/x-www-form-urlencoded:表示浏览器提交web表单时,表单数据会按照name1=value1&name2=value2键值对形式进行编码。

问题:为什么有时候POST也能在URL内看到数据?

  • GET方式是以直接以链接形式访问,链接中包含了所有参数,服务器端用Request.QueryString获取变量的值。如果包含了密码的话是一种不安全的选择,不过你可以直观地看到自己提交了什么内容。
  • POST则不会在网址上显示所有的参数,服务器端用Request.Form获取提交的数据,在Form提交的时候。但是HTML代码里如果不指定method属性,则默认为GET请求,Form中提交的数据将会附加在url之后,以?与url分开

    • 表单数据可以作为URL字段(method="get")或者HTTP POST(method="post")的方式来发送。比如在下面的HTML代码中,表单数据将因为(method="get")而附加到URL上;
    <form action="form_action.asp" method="get">
    <p>First name: <input type="text" name="fname" /></p>
    <p>Last name: <input type="text" name="lname" /></p>
    <input type="submit" value="Submit" />
    </form>

urllib2的Post和Get请求相关推荐

  1. python通过get方式,post方式发送http请求和接收http响应-urllib urllib2

    python通过get方式,post方式发送http请求和接收http响应-- import urllib模块,urllib2模块, httplib模块 http://blog.163.com/xyc ...

  2. 爬虫之urllib2库的请求详解

    urllib2默认只支持HTTP/HTTPS的GET和POST方法 urllib.urlencode() urllib 和 urllib2 都是接受URL请求的相关模块,但是提供了不同的功能.两个最显 ...

  3. Python:urllib2模块Handler处理器 和 自定义Opener

    Handler处理器 和 自定义Opener opener是 urllib2.OpenerDirector 的实例,我们之前一直都在使用的urlopen,它是一个特殊的opener(也就是模块帮我们构 ...

  4. Python:urllib2模块的基本使用

    urllib2库的基本使用 所谓网页抓取,就是把URL地址中指定的网络资源从网络流中读取出来,保存到本地. 在Python中有很多库可以用来抓取网页,我们先学习urllib2. urllib2 是 P ...

  5. Python爬虫(三)_urllib2:get和post请求

    urllib.urlencode() urllib和urllib2都是接受URL请求的相关参数,但是提供了不同的功能.两个最显著的不同如下: urllib仅可以接受URL,不能创建设置了headers ...

  6. [Python]网络爬虫(二):利用urllib2通过指定的URL抓取网页内容

    版本号:Python2.7.5,Python3改动较大,各位另寻教程. 所谓网页抓取,就是把URL地址中指定的网络资源从网络流中读取出来,保存到本地.  类似于使用程序模拟IE浏览器的功能,把URL作 ...

  7. Py之urllib2:Python库之urllib、urllib2、urllib3系列简介、安装、使用方法之详细攻略

    Py之urllib2:Python库之urllib.urllib2.urllib3系列简介.安装.使用方法之详细攻略 目录 urllib2简介 urllib2安装 urllib2使用方法 urllib ...

  8. python urllib2_Python爬虫 urllib2的使用方法详解

    所谓网页抓取,就是把URL地址中指定的网络资源从网络流中读取出来,保存到本地.在Python中有很多库可以用来抓取网页,我们先学习urllib2. urllib2是Python2.x自带的模块(不需要 ...

  9. 洗礼灵魂,修炼python(54)--爬虫篇—urllib2模块

    urllib2 1.简介 urllib2模块定义的函数和类用来获取URL(主要是HTTP的),他提供一些复杂的接口用于处理: 基本认证,重定向,Cookies等.urllib2和urllib差不多,不 ...

最新文章

  1. 逆序输出螺旋字符矩阵(三种方法)
  2. SpringBoot_日志-其他日志框架统一转换为slf4j
  3. Python语法异常 Exception
  4. C++是一种糟糕的语言 Linux之父炮轰C++
  5. 转: SMTP 服务器无法识别在 Mac 2011 Outlook 中发送电子邮件时错误。错误 17092...
  6. 你是否适合当一个Java程序员?一文看清
  7. 反转字符串的多种方式-经典面试题系列
  8. vb6 控件未注册问题解决
  9. 将iTunes音乐传输到USB驱动器以在汽车中收听
  10. 批处理for循环命令初步学习
  11. 电路交换技术与包交换技术
  12. 数据结构|最小生成树问题
  13. daocloud mysql_GitHub - DaoCloud/php-laravel-mysql-sample
  14. 错误信息:cannot call member function ‘ ‘ without object 处理
  15. 华为三星非洲智能手机大战 低价为王
  16. oracle 性能优化培训,Oracle性能优化培训
  17. revit学习-基本术语介绍
  18. fastadmin一键生成CURD
  19. html5 签到墙,签名墙尺寸一般设置多大?
  20. iOS Bluetooth 打印小票

热门文章

  1. hello, noip2017!
  2. Git:小乌龟报错no supported authentication methods avaiable
  3. MySQL:too many connections
  4. PyTorch:保存/加载训练好的模型测试
  5. 英语四六级听力考试选项技巧
  6. Java程序员面试失败的5大原因
  7. 显卡给2个虚拟机_Java虚拟机线上问题排查的2个基本操作,你知不知道?
  8. js字符串string转object对象 - 方法篇
  9. python实现栈_Python 栈
  10. 大学计算机要学什么内容,大学计算机课程学习路线应该是怎么样的呢?