做seo我们需要经常性的去看我们网站的服务器日志,也就是iis日志,因为我们需要很好的掌握蜘蛛爬取了我们网站的什么地方,哪个页面。但是 有些朋友有的时候在进行例行检查的时候,却发现蜘蛛爬取了一些我们网站并不存在的页面,今天SEO就讲解下为什么百度蜘蛛会爬取我们网站没有的页面。

1、蜘蛛是怎么发现我们网站的链接的?

我们都知道,蜘蛛是沿着链接爬来爬去的,他会自动提取网站中所有的链接,保存入库,然后进行爬取,这也就是为什么我们觉得网站的收录少了或者刚发布的文章没 有被收录,我们就会说“引蜘蛛”了,其实引蜘蛛就是发外链了,当这条链接呗蜘蛛发现之后,他就会进行爬取,然后通过一系列复杂的算法之后,决定是否放出该 页面的收录。

2、为什么会爬到不存在的页面?

一般情况下,有这么几个问题

a、被对手恶意刷外链,也就是说竞争对手恶意的给你发了很多的不存在的页面链接,当蜘蛛发现之后就会来爬取

b、以前做的外链,后来由于网站改版而某些链接没有及时的去除,蜘蛛定期回访的时候爬取了这条链接

c、此种仅限老域名,之前的网站结构和我们现在的网站结构不一致,也类似于b中的说法

d、robots文件没有对蜘蛛进行限制

e、程序的原因,导致搜索引擎蜘蛛掉入黑洞

f、url提交或者ping给百度地址有误

蜘蛛爬取不存在的页面,一般情况下都是由于这些问题导致的,其中最主要的原因就是外链部分,所以我们要经常性的去检查下我们网站的外链情况。

下面提供解决办法:

这些方面综合来讲,一般我们只需要这么做,基本就能够减少这种情况的发生,如果是链接导致的,那么就去百度站长平台使用外链拒绝工具拒绝掉,并提交网站的死链接,同时使用robots屏蔽蜘蛛抓取这些内容;如果是程序问题,就修复程序。。

玩蛇网文章,转载请注明出处和文章网址:https://www.iplaypy.com/seo/s7698.html

相关文章 Recommend

为什么网站服务器不存在了,百度数据中有网站不存在的路径是什么原因相关推荐

  1. 自网站服务器,教你如何配置自的网站服务器.doc

    教你如何配置自的网站服务器 教你如何配置自己的网站服务器 2009-05-15 09:14:07 ?? 分类:服务器 | 技术 | ?评论(0) | ?浏览(1559) 1.配置环境: 操作系统: W ...

  2. 体验监控宝免费网站服务器监控服务 附注册账户及网站监控部署方法

    无论是我们个人网站还是公司企业专业运维人员,对于公司服务器.网站等项目肯定不能全天24小时的在线人工监控和管理,尤其是在众多项目部署的时候,我们根本顾及不过来所有项目网站.服务器的稳定性.比如经常有遇 ...

  3. 网站服务器或者代理查找失败,新的网站收录最快的方法,没有之一 - 搜外SEO问答...

    说到新的网站收录最快的方法,我相信会有很大一部分人建议这些新站长去让老站长给做友情链接,因为这样会给新站导入相当的权重,新网站权重高了,百度自然就会收录,但是这种方法真的是最快的吗? 接下来给大家分析 ...

  4. 网站服务器的ip地址会变吗,网站的服务器变了 IP地址变吗

    网站的服务器变了 IP地址变吗 内容精选 换一换 本文介绍通过华为云市场镜像"Drupal内容管理系统(LAMP)"搭建Drupal网站的方法.Drupal是使用PHP语言编写的开 ...

  5. asp.net网站服务器,vs2010制作简单的asp.net网站

    直入主题: 打开visual studio 2010程序开发软件 单击菜单栏的文件,依次选新建->网站->ASP.NET空网站,这里我们选择空网站,利于今后DIY自己的网站,最好什么从头来 ...

  6. 网站服务器被黑后多久降权,网站降权了还可以恢复吗,多久能恢复

    降权后的恢复时间要看是什么原因造成的降权了.降权后不要紧张先找下降权的原因, 1.如果是标题改动的原因那么降权后一般一个月内能恢复. 2.如果是空间服务器问题的话一般空间正常后一到两周就能恢复. 3. ...

  7. 网站建设完成后为什么百度不收录网站

    不少企业网站建设完成后都会选择优化网站这个方式来为网站获得更多的流量和用户,以达到获取更多订单的效果.但也经常有不少人发现百度久久不收录网站,也无法得到好的排名,这具体是什么原因呢? 1.新站 一般新 ...

  8. 服务器ip账号密码怎么查,网站服务器的ip地址怎么查_网站服务器的维护

    网站服务器的ip地址怎么查 今天小编要和大家分享的是如何查看某网站服务器的IP地址,希望能够帮助到大家. 首先,点击屏幕左下方的开始菜单,如下图所示. 然后输入CMD并点击回车键,如下图所示. 接着点 ...

  9. 网站服务器怎么配置,怎么配置自己的网站服务器

    是否还在为配置自己的网站服务器二烦恼呢,到底该怎么配置自己的网站服务器呢?下面是学习啦小编收集整理的怎么配置自己的网站服务器,希望对大家有帮助~~ 配置自己的网站服务器的方法 配置环境 1操作系统: ...

  10. 百度网盘 网站服务器失去响应,启用百度云加速后网站常见问题解析

    百度云加速是百度结合其多年在CDN.网络安全等方面的经验推出的网站安全加速平台.网站接入百度云加速后,全球用户通过智能DNS技术即可访问最快的云服务器获取你网站资源.百度云加速是一个安全加速平台,支持 ...

最新文章

  1. 图片旋转对于识别模式带来的变化
  2. vs android 打电话,iOS vs. Android:二者真的是在竞争吗?
  3. 1028 List Sorting
  4. java linux 权限管理_权限管理java实现(源于Linux中的权限管理算法)
  5. TCP/IP编程之SO_REUSEADDR和SO_REUSEPORT套接字选项
  6. Python--26 简单定制 计时器
  7. B00006 函数itoa()
  8. hive replace_Hive新增字段(column)后,旧分区无法更新数据问题
  9. [2018.04.29 T1] 图
  10. 对外汉语偏误语料库_哇,9大对外汉语必备语料库,每个都很有“性格”!!...
  11. [label][WorldPress] 一个很方便查找定位WorldPress源代码位置的网址
  12. 鹏鹏:You have 14 unapplied migration(s). Your project may not work properly。。。。报错!
  13. 测试iphone4电池的软件,iphone4电池容量 iphone4电池的更换【图文】
  14. 超越,由此开启——2019甲骨文云大会在上海盛大开幕!
  15. python调用默认播放器_python使用Tkinter实现在线音乐播放器
  16. sequoia的架构
  17. 部分有关 广告联盟作弊 与反作弊资料收集
  18. 周志华-机器学习(线性模型)
  19. VideoPose3d:环境搭建+制作自己的视频
  20. 求一个集合的所有子集

热门文章

  1. 两幅图的RGB+Depth点云拼接
  2. 论文笔记_S2D.04-2011-CVPR-对象立体化-联合立体匹配与对象分割
  3. YOLOv4中的数据增强
  4. 视频+课件| 视觉引导系列课程-绪论
  5. 疫情严峻!有高校不放寒假,直接开始新学期!还有高校紧急放假,停止考试直接回家...
  6. PCL对点云进行滤波处理并进行颜色可视化
  7. asp.net dev xtraReporting(一)静态页面
  8. K-th largest element in an array
  9. 深度强化学习之演员—评论家(Actor—Critic)
  10. 基于麻雀搜索算法优化的广义回归神经网络(GRNN)预测 -附代码