各大搜索引擎爬虫UA

百度User-Agent：
来源：http://zhanzhang.baidu.com/college/articleinfo?id=1002
http://zhanzhang.baidu.com/college/courseinfo?id=150
移动UA : Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,likeGecko) Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0;+http://www.baidu.com/search/spider.html)
PC UA : Mozilla/5.0 (compatible; Baiduspider/2.0;+http://www.baidu.com/search/spider.html）
【新增UA】
移动UA：Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 likeMac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143Safari/601.1 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)
PC UA：Mozilla/5.0(compatible;Baiduspiderrender/2.0;+http://www.baidu.com/search/spider.html)
百度图片：“Baiduspider-image+(+http://www.baidu.com/search/spider.htm)”

神马User-Agent：
来源：http://zhanzhang.sm.cn/open/spider
PC UA：YisouSpider
移动 UA：
Mozilla/5.0 (Linux; U; Android 4.3; zh-CN; SCH-N719 Build/JSS15J) AppleWebKit/533.1 (KHTML, like Gecko) Version/4.0 YisouSpider/1.0.0 Mobile Safari/533.1
ip段：
42.156.136.* - 42.156.139.* 42.120.160.* 42.120.161.*

360User-Agent：
来源：http://bbs.360safe.com/thread-4835418-1-1.html
PC UA：
User-Agent:Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0); 360Spider(compatible; HaosouSpider; http://www.haosou.com/help/help_3_2.html
移动 UA：
Mozilla/5.0 (Linux; U; Android 4.0.2; en-us; Galaxy Nexus Build/ICL53F) AppleWebKit/534.30 (KHTML, like Gecko)Version/4.0 Mobile Safari/534.30; 360Spider

Mozilla/5.0 (Linux; U; Android 4.0.2; en-us; Galaxy Nexus Build/ICL53F) AppleWebKit/534.30 (KHTML, like Gecko) Version/4.0 Mobile Safari/534.30; HaosouSpider
ip段：
101.226.166.*
101.226.167.*
101.226.168.*
101.226.169.*
182.118.20.*
182.118.21.*
182.118.22.*
182.118.25.*
182.118.35.*
61.55.185.*
180.153.236.*
182.118.28.*
时效性UA IP端主要是针对网站内容更新爬取的IP端
182.118.26.110 ~ 182.118.26.239

谷歌User-Agent：
谷歌UA ：“Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)”
谷歌图片： “Googlebot-Image/1.0”
谷歌移动： “AdsBot-Google-Mobile (+http://www.google.com/mobile/adsbot.html) Mozilla (iPhone; U; CPU iPhone OS 3 0 like Mac OS X) AppleWebKit (KHTML, like Gecko) Mobile Safari”

微软bingUser-Agent：
微软UA：“Mozilla/5.0 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm)”

搜搜User-Agent：
搜索：“Sosospider+(+http://help.soso.com/webspider.htm)”
搜搜图片：“Sosoimagespider+(+http://help.soso.com/soso-image-spider.htm)”

搜狗User-Agent：
来源：http://zhanzhang.sogou.com/index.php/help/pachong#1
搜狗UA：
Sogou web spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07)
Sogou inst spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07)
Sogou News Spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07)
Sogou Pic Spider/3.0(+http://www.sogou.com/docs/help/webmasters.htm#07)
Sogou Video Spider/3.0(+http://www.sogou.com/docs/help/webmasters.htm#07)

使用的网段：
106.120.173.0/24
123.126.68.0/24
218.30.103.0/24
220.181.124.0/24
220.181.125.0/24
61.135.189.0/24

各大搜索引擎爬虫UA相关推荐

如何使用robots禁止各大搜索引擎爬虫爬取网站
如何使用robots禁止各大搜索引擎爬虫爬取网站一.总结一句话总结:假如此网站禁止爬虫抓取,那么,只要在网站的根目录下,创建一个robots.txt文件 User-agent: * Disallo ...
各搜索引擎爬虫UA大全2020最新版
为了方便开发人员以及seo人员更加容易的判别来访的爬虫类型,整理了如下爬虫UA以作参考. 百度User-Agent: 来源:http://zhanzhang.baidu.com/college/art ...
查看IIS日志各大搜索引擎是否访问网站
分析IIS日志: 例:123.125.71.113 – – [28/Sep/2010:07:15:11 -0700] "GET /wangzhan-youhua/maowenben.html ...
百度蜘蛛最新UA及各大搜索引擎蜘蛛爬虫UA汇总
一淘模板(56admin.com)给大家汇总各大搜索引擎蜘蛛爬虫的UA,对我们进行某些程序编写十分有用,例如网页判断客户端来源时,UA是常用的标准之一. 本文收集了各大搜索引擎的蜘蛛爬虫UA,以便需要 ...
如何避免搜索引擎爬虫产生的流量过大以及搜索引擎设置优化
转载自:http://www.qiexing.com/post/web-seach-spider.html 今天却收到了虚拟主机商的报告:说当月流量已经超出15G! 登录到后台的统计才发现,正常的网站 ...
ASP.NET Core 中的 User Agent 识别及搜索引擎爬虫鉴定方法
User Agent中文名为用户代理,简称 UA,它是一个特殊字符串头,使得服务器能够识别客户使用的操作系统及版本.CPU 类型.浏览器及版本.浏览器渲染引擎.浏览器语言.浏览器插件等. 百度百科在 ...
如何高效实现搜索引擎爬虫进行数据挖掘-搜索引擎爬虫（SERP）集成测试与分享
身处大数据时代中,我们面对海量的互联网数据,如何自动高效地获取感兴趣的信息并为我们所用是一个非常重要的问题,以下就针对这个重要的搜索引擎爬虫问题来做一个技术分享. 什么是SERP和搜索引擎爬虫:搜索引 ...
蜘蛛搜索引擎_各大搜索引擎的蜘蛛特点
我们在做SEO时,需要对各个搜索引擎的爬行蜘蛛有一个很好的了解认知,才能更好的去做好SEO优化,就如你要去谈业务,各大客户的一些身份信息需要了解一样. 下面每日学点SEO就给大家整理了各大搜索引擎蜘蛛 ...
搜索引擎爬虫蜘蛛的USERAGENT大全
搜索引擎爬虫蜘蛛的USERAGENT大全搜索引擎爬虫蜘蛛的USERAGENT收集,方便制作采集的朋友. 百度爬虫 * Baiduspider+(+http://www.baidu.com/searc ...

各大搜索引擎爬虫UA

各大搜索引擎爬虫UA相关推荐

最新文章

热门文章