user_agent = [
“Mozilla/5.0 (Macintosh; U; Intel Mac OS X 10_6_8; en-us) AppleWebKit/534.50 (KHTML, like Gecko) Version/5.1 Safari/534.50”,
“Mozilla/5.0 (Windows; U; Windows NT 6.1; en-us) AppleWebKit/534.50 (KHTML, like Gecko) Version/5.1 Safari/534.50”,
“Mozilla/5.0 (Windows NT 10.0; WOW64; rv:38.0) Gecko/20100101 Firefox/38.0”,
“Mozilla/5.0 (Windows NT 10.0; WOW64; Trident/7.0; .NET4.0C; .NET4.0E; .NET CLR 2.0.50727; .NET CLR 3.0.30729; .NET CLR 3.5.30729; InfoPath.3; rv:11.0) like Gecko”,
“Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0)”,
“Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.0; Trident/4.0)”,
“Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0)”,
“Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1)”,
“Mozilla/5.0 (Macintosh; Intel Mac OS X 10.6; rv:2.0.1) Gecko/20100101 Firefox/4.0.1”,
“Mozilla/5.0 (Windows NT 6.1; rv:2.0.1) Gecko/20100101 Firefox/4.0.1”,
“Opera/9.80 (Macintosh; Intel Mac OS X 10.6.8; U; en) Presto/2.8.131 Version/11.11”,
“Opera/9.80 (Windows NT 6.1; U; en) Presto/2.8.131 Version/11.11”,
“Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_0) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.56 Safari/535.11”,
“Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; Maxthon 2.0)”,
“Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; TencentTraveler 4.0)”,
“Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1)”,
“Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; The World)”,
“Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; Trident/4.0; SE 2.X MetaSr 1.0; SE 2.X MetaSr 1.0; .NET CLR 2.0.50727; SE 2.X MetaSr 1.0)”,
“Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; 360SE)”,
“Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; Avant Browser)”,
“Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1)”,
“Mozilla/5.0 (iPhone; U; CPU iPhone OS 4_3_3 like Mac OS X; en-us) AppleWebKit/533.17.9 (KHTML, like Gecko) Version/5.0.2 Mobile/8J2 Safari/6533.18.5”,
“Mozilla/5.0 (iPod; U; CPU iPhone OS 4_3_3 like Mac OS X; en-us) AppleWebKit/533.17.9 (KHTML, like Gecko) Version/5.0.2 Mobile/8J2 Safari/6533.18.5”,
“Mozilla/5.0 (iPad; U; CPU OS 4_3_3 like Mac OS X; en-us) AppleWebKit/533.17.9 (KHTML, like Gecko) Version/5.0.2 Mobile/8J2 Safari/6533.18.5”,
“Mozilla/5.0 (Linux; U; Android 2.3.7; en-us; Nexus One Build/FRF91) AppleWebKit/533.1 (KHTML, like Gecko) Version/4.0 Mobile Safari/533.1”,
“MQQBrowser/26 Mozilla/5.0 (Linux; U; Android 2.3.7; zh-cn; MB200 Build/GRJ22; CyanogenMod-7) AppleWebKit/533.1 (KHTML, like Gecko) Version/4.0 Mobile Safari/533.1”,
“Opera/9.80 (Android 2.3.4; Linux; Opera Mobi/build-1107180945; U; en-GB) Presto/2.8.149 Version/11.10”,
“Mozilla/5.0 (Linux; U; Android 3.0; en-us; Xoom Build/HRI39) AppleWebKit/534.13 (KHTML, like Gecko) Version/4.0 Safari/534.13”,
“Mozilla/5.0 (BlackBerry; U; BlackBerry 9800; en) AppleWebKit/534.1+ (KHTML, like Gecko) Version/6.0.0.337 Mobile Safari/534.1+”,
“Mozilla/5.0 (hp-tablet; Linux; hpwOS/3.0.0; U; en-US) AppleWebKit/534.6 (KHTML, like Gecko) wOSBrowser/233.70 Safari/534.6 TouchPad/1.0”,
“Mozilla/5.0 (SymbianOS/9.4; Series60/5.0 NokiaN97-1/20.0.019; Profile/MIDP-2.1 Configuration/CLDC-1.1) AppleWebKit/525 (KHTML, like Gecko) BrowserNG/7.1.18124”,
“Mozilla/5.0 (compatible; MSIE 9.0; Windows Phone OS 7.5; Trident/5.0; IEMobile/9.0; HTC; Titan)”,
“UCWEB7.0.2.37/28/999”,
“NOKIA5700/ UCWEB7.0.2.37/28/999”,
“Openwave/ UCWEB7.0.2.37/28/999”,
“Mozilla/4.0 (compatible; MSIE 6.0; ) Opera/UCWEB7.0.2.37/28/999”,
]
headers = {‘User-Agent’: random.choice(user_agent)}

Python爬虫:常用的user_agent请求头相关推荐

  1. Python——爬虫【Requests设置请求头Headers】

    1.为什么要设置headers? 在请求网页爬取的时候,输出的text信息中会出现抱歉,无法访问等字眼,这就是禁止爬取,需要通过反爬机制去解决这个问题. headers是解决requests请求反爬的 ...

  2. 【Python黑科技】常用的user_agent 浏览器头爬虫模拟用户(保姆级图文+实现代码)

    目录 1. 常用的浏览器请求头User-Agent 2. 随机获取一个浏览器头 3. 关于user_agent知识的介绍 一.基础知识篇: 1.浏览器标识 2.操作系统标识 3.加密等级标识 4.浏览 ...

  3. 数据采集与清洗基础习题(二)Python爬虫常用模块,头歌参考答案

    数据采集习题参考答案,会持续更新,点个关注防丢失.为了方便查找,已按照头歌重新排版,朋友们按照头歌所属门类查找实训哦,该篇为Python爬虫常用模块. 创作不易,一键三连给博主一个支持呗. 文章目录 ...

  4. python 随机请求头_为了爬虫换个头,我用python实现三种随机请求头方式!

    相信大家在爬虫中都设置过请求头 user-agent 这个参数吧? 在请求的时候,加入这个参数,就可以一定程度的伪装成浏览器,就不会被服务器直接识别为spider.demo.code ,据我了解的,我 ...

  5. Python爬虫常用的爬虫注意事项及技巧

    Python爬虫常用的爬虫技巧 1.基本抓取网页 2.使用代理IP 3.Cookies处理 4.伪装成浏览器 5.页面解析 6.验证码的处理 7.gzip压缩 8.多线程并发抓取 urllib库为例进 ...

  6. Python爬虫——Get和Post请求的使用

    Python爬虫--Get和Post请求的使用 1.Get请求 GET请求一般用于我们向服务器获取数据( urllib默认使用get请求),比如搜索:毛不易,地址栏中的 URL 信息: 其中wd 表示 ...

  7. 常用的HTTP请求头与响应头

    转载自:https://blog.csdn.net/qq_30553235/article/details/79282113 常用的HTTP请求头与响应头 HTTP消息头是指,在超文本传输协议( Hy ...

  8. python爬虫京东中文乱码_python3爬虫中文乱码之请求头‘Accept-Encoding’:br 的问题...

    当用python3做爬虫的时候,一些网站为了防爬虫会设置一些检查机制,这时我们就需要添加请求头,伪装成浏览器正常访问. header的内容在浏览器的开发者工具中便可看到,将这些信息添加到我们的爬虫代码 ...

  9. python爬虫避免重复数据_No.2﹣Python﹣scan﹣anti-crawler(随机请求头和IP代理)取消链接和重复数据消除,NO2pythonscrapy,反,爬虫,去...

    # -*- coding: utf-8 -*- """ 所有请求头的USER_AGENTS网址 http://www.useragentstring.com/pages/ ...

最新文章

  1. 关于组织参加2020年全国大学生智能汽车竞赛山东赛区比赛的通知
  2. Mestasploit 客户端渗透
  3. 初中知识会不会影响计算机,初中计算机论文
  4. 客观地认识程序员心中的恐惧
  5. 第35次Scrum会议(11/23)【欢迎来怼】
  6. Spring第七弹—依赖注入之注解方式注入及编码解析@Resource原理
  7. 栈实现队列(队列实现栈)
  8. 【文末福利】算法大赛评委共话技术趋势,这场直播值得一看!
  9. 选项卡 || 图片切换
  10. Android 仿360桌面小人
  11. DirectX Audio和DirectShow入门
  12. 嗨格式视频转换器全新上线,一个音视频转换神器
  13. 【LaTeX】矢量图转为pdf格式(为了将高清矢量图插入LaTeX)
  14. [python小工具]加减法出题器
  15. 两个同级路由如何相互访问
  16. 永远的友谊_友谊的传递属性-温馨介绍的重要性
  17. 如何从菜鸟(零基础)开始快速学习3ds MAX,3ds MAX建模和渲染的工作流程介绍
  18. allegro输出gerber过孔盖孔
  19. Windows7 tls加密协议设置导致的邮件收发问题 WLM 0x800CCC0B、0x800CCC0F
  20. 医学主题词表(Medical Subject Headings, MeSH)

热门文章

  1. 人生没有我并不会不同--IOPS OSL个人日志(作者:V`shadow.hattie)
  2. 卖家如何搭上独立站这趟快车
  3. Jackson之jackson-core
  4. ubuntu-10.04下 联想 卲阳E46L以太 网驱动程序安 装
  5. Centos7中mysql安装配置
  6. Apache Phoenix
  7. 解压版MySQL的安装
  8. 如何在Science、Nature等国际顶刊发文,分子对接、深度学习基因组学,分子动力学、单细胞测序复现文章
  9. 微信小程序绑定客服,接收不到消息?
  10. 相位测量轮廓术Phase Measurement Profilometry(PMP)+相移方法Phase Shifting Method