1.应用

  1. 打开浏览器,右键-检查,点击Net work,勾选Preserve log

  2. 访问github登陆的url地址 https://github.com/login

  3. 输入账号密码点击登陆后,访问一个需要登陆后才能获取正确内容的url,比如点击右上角的Your profile访问https://github.com/USER_NAME

  4. 确定url之后,再确定发送该请求所需要的请求头信息中的User-Agent和Cookie

  5. 从浏览器中复制User-Agent和Cookie

  6. 浏览器中的请求头字段和值与headers参数中必须一致

  7. headers请求参数字典中的Cookie键对应的值是字符串

import requestsurl = 'https://github.com/USER_NAME'# 构造请求头字典
headers = {# 从浏览器中复制过来的User-Agent'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.87 Safari/537.36',# 从浏览器中复制过来的Cookie'Cookie': 'xxx这里是复制过来的cookie字符串'
}# 请求头参数字典中携带cookie字符串
resp = requests.get(url, headers=headers)
print(resp.text)

2.cookie

注意:cookie一般是有过期时间的,一旦过期需要重新获取

有三种方法设置Cookie:
1)上述方式 header

2)通过cookie参数
1.cookies参数的形式:字典

cookies = {"cookie的name":"cookie的value"}

  • 该字典对应请求头中Cookie字符串,以分号、空格分割每一对字典键值对
  • 等号左边的是一个cookie的name,对应cookies字典的key
  • 等号右边对应cookies字典的value

2.cookies参数的使用方法

response = requests.get(url, cookies)
3.当我们复制浏览器的cookie时,要把字符串转换为字典

3)通过respose对象的cookies属性
使用requests获取的resposne对象,具有cookies属性。该属性值是一个cookieJar类型,包含了对方服务器设置在本地的cookie。
response.cookies返回的就是cookieJar类型的对象
requests.utils.dict_from_cookiejar函数返回cookies字典

cookies_dict = requests.utils.dict_from_cookiejar(response.cookies)

requests cookie相关推荐

  1. python requests cookie处理

    import requestsr=requests.get('https://baidu.com') print(r.cookies) for key,value in r.cookies.items ...

  2. python requests cookie保存_Python爬虫教程:爬取知乎网

    知乎已经成为了爬虫的训练场,本文利用Python中的requests库,模拟登陆知乎,获取cookie,保存到本地,然后这个cookie作为登陆的凭证,登陆知乎的主页面,爬取知乎主页面上的问题和对应问 ...

  3. python requests cookie的获取和使用

    提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 文章目录 前言 一.cookie是什么? 二.使用步骤 开始代码实现 会话是什么 然后写入我们的账号信息 使用session访问登陆账 ...

  4. requests+cookie爬取淘宝任意商品评论。超详细教程!

    首先使用的工具:python3.7,火狐浏览器 思路分析:现在网页版淘宝搜索商品之后,点进去,基本上都会弹出登录框,当我们直接把一个商品的链接去爬取的时候,返回的会是登陆页面的Html,所以我们第一步 ...

  5. python3 requests 库学习

    #requests #http 请求 import requests url='http://www.baidu.com' requests.post('url') requests.get('url ...

  6. Python中第三方模块requests解析

    一.简述 Requests HTTP Library 二.模块框架 '''__version___internal_utilsadaptersapiauthcertscompatcookiesexce ...

  7. python之cookie, cookiejar 模拟登录绕过验证

    0.思路 如果懒得模拟登录,或者模拟登录过于复杂(多步交互或复杂验证码)则人工登录后手动复制cookie(或者代码读取浏览器cookie),缺点是容易过期. 如果登录是简单的提交表单,代码第一步模拟登 ...

  8. python与excel的应用-Python 3 读取和存储Excel数据(应用到接口测试)

    1.利用cmd命令安装第三方库 openpyxl 同时支持读写操作,支持的Excel是以.xlsx结尾的文件. 命令: pip install openpyxl [命令:pip install req ...

  9. ​618购物节,我用python逛淘宝、亚马逊,摸鱼被领导发现了

    事情是这样的 下午两点,闷热的会议室 空调稳稳的坐在那里 好像睡着了 领导的嘴在幻灯片刺眼亮光的映照下 非常斗志昂扬的一张一合 我敏锐的察觉到领导突然扬起的声调 若有所思的对着他深深的点了点头 然后, ...

最新文章

  1. ​清除error.log、access.log并限制Apache日志文件大小的方法
  2. 150. Leetcode 860. 柠檬水找零 (贪心算法-基础题目)
  3. 用户故事的扩展-新的故事类别
  4. PHPstorm中使用数组短语法[],出现红色波浪
  5. 关于 Google Chrome 操作系统的 5 个问题
  6. 《5G新体制天线技术》
  7. 网络爬虫--17.【BeautifuSoup4实战】爬取腾讯社招
  8. Java 动态加载类
  9. mysql benchmark 测试工具_BenchmarkSQL数据库基准测试工具
  10. Netfilter框架
  11. cl.exe is unable to create an executable file
  12. 常用公差配合表图_车间里常用的机械测量工具竟然这么多?
  13. 从阿里一面谈面试需要准备什么
  14. Java中Number类详解
  15. 共享电动车风云再起,市场如何才能有序?
  16. 我的世界服务器显示大字,我的世界上面指令让界面出现字体 | 手游网游页游攻略大全...
  17. 华为云教程(云硬盘EVS)
  18. UG NX 12 组件装配约束
  19. .NET 串口通信(转)
  20. 2075最少拦截系统

热门文章

  1. html5飞机发射教程,Javascript学习笔记(13_5) --js事件(飞机发射子弹)
  2. windows winrar 指令_Windows上WinRAR.exe命令行参数说明(转载) .
  3. android远程桌面软件毕设_2019 远程桌面解决方案综述
  4. s905各种型号的区别_2020榨汁机推荐,榨汁机、原汁机和破壁机有什么区别?高性价比榨汁机、原汁机怎么选?...
  5. (5)DFS(深度优先搜索算法):排列数字
  6. java extjs4 分页_extjs学习笔记(四)带分页的grid
  7. 计算机系统一级免费,计算机系统一级ms_office课件第一章.pptx
  8. python桌面程序打开慢_转 : 终于搞清楚了为什么Java桌面程序总是感觉慢的原因...
  9. python unique函数_《Python编程从入门到实践》json数据可视化练习详解
  10. php防伪溯源x系统_区块链溯源防伪追溯系统开发解决方案