禁止搜索引擎收录的方法
一、问题描述:
屏蔽掉百度搜索我们公司的git。
二、解决步骤:
robots.txt 文件放置在网站根目录下。
举例来说,当spider访问一个网站(比如http://www.abc.com)时,首先会检查该网站中是否存在http://www.abc.com/robots.txt这个文件,如果 Spider找到这个文件,它就会根据这个文件的内容,来确定它访问权限的范围。
robots.txt内容:
User-agent: *
Disallow: /
重启网站即可。
三、解决完后效果:
百度链接依然有,但是点击链接进去后,不会显示网站的具体内容。
问:
我在robots.txt中设置了禁止百度收录我网站的内容,为何还出现在百度搜索结果中?
答:
如果其他网站链接了您robots.txt文件中设置的禁止收录的网页,那么这些网页可能会出现在百度的搜索结果中,但您的网页上的内容不会被抓取、建入索引和显示,百度搜索结果中展示的仅是其他网站对您相关网页的描述。
禁止搜索引擎收录的方法相关推荐
- 网页搜索帮助-禁止搜索引擎收录的方法
什么是robots.txt文件? 搜索引擎使用spider程序自动访问互联网上的网页并获取网页信息.spider在访问一个网站时,会首先会检查该网站的根域下是否有一个叫做robots.txt的纯文本文 ...
- 通过Robots.txt禁止搜索引擎收录的方法
什么是robots.txt文件? 搜索引擎通过一种程序robot(又称spider),自动访问互联网上的网页并获取网页信息. 您可以在您的网站中创建一个纯文本文件robots.txt,在这个文件中声明 ...
- WordPress绑定多个域名和禁止搜索引擎收录非主域名的方法
最近在弄一个WordPress外贸企业站,遇到了一些问题,发出来给大家参考一下. WordPress绑定多个域名 客户网站绑定了多个域名,部分域名都直接做301重定向跳转到主域名.但是客户的主域名在做 ...
- 如何禁止搜索引擎收录WordPress站点某个分类的文章?
建立好个人博客网站之后一般都比较冲动,什么类型的文章都发布,然后慢慢地就只专注于某些领域的文章,那么以前的一些"无用" 的旧文章怎么办呢?如果直接删除有可能会被降权,所以我们可 ...
- 禁止搜索引擎收录网站内容的几种方法
第一种.robots.txt方法 搜索引擎默认的遵守robots.txt协议,创建robots.txt文本文件放至网站根目录下,编辑代码如下: User-agent: * Disallow: / 通过 ...
- 使用Discuz!自带参数防御CC攻击以及原理,修改Discuz X 开启防CC攻击后,不影响搜索引擎收录的方法...
这部份的工作,以前花的时间太少. 希望能产生一定的作用. http://www.nigesb.com/discuz-cc-attacker-defence.html http://bbs.zb7.co ...
- 网站被搜索引擎收录的好处
企业网站被百度,google,soso收录的好处,百度排名优化技巧方法大全 企业网站被百度,google,soso收录的好处,百度排名优化技巧方法大全 问题: 被百度收录的好处在哪里? 百度是如何收录 ...
- html 禁止百度抓取,禁止百度收录方法是什么?
小编:我们都知道robots.txt文件中的协议是用来告诉搜索引擎哪些页面可以抓取,哪些页面不能抓取的.如为了禁止百度收录网站的某些特地的页面,除robots.txt外,我们还可以用Meta robo ...
- seo原创文章五种方法迎合搜索引擎收录和排名
seo原创文章,大多是为了迎合搜索引擎收录和排名. 洪雨整理了5种seo原创文章方法. 1.伪原创法. 这是最常用的方法.原理就是将文章中的关键词进行同义词替换,生成新的文章. 一般使用软件自动处理, ...
最新文章
- CountUp.js – 让数字以非常有趣的动画方式显示
- OpenCV中cvWaitKey()函数注意事项
- Orika:将JAXB对象映射到业务/域对象
- Java反射xml数据类
- OOB与COM交互读写本地文件
- python读取yaml文件的内容_Python读取YAML文件过程详解
- 9600kf功耗和温度评测_i5-9400F与i5-9600KF性能差距大吗?i5 9600KF和9400F区别对比
- KUDU数据导入尝试一:TextFile数据导入Hive,Hive数据导入KUDU
- JavaWEB前端向服务器端发送对象
- 项目管理包含了哪些特征?
- linux基本命令学习
- 互联网自动化赚钱的方法
- テクニカルアーティストの基本的な役割と、もう1つ重要な役割
- PTA 水题之7-20 镜子碎了
- 计算机网络基础——网络的性能
- Webpack中 的css-loader和less-loader
- 这几年各种新零售模式层出不穷
- 我来回答,害怕别人赚钱到底是一种什么样的心理
- 5G改变的不仅是网速,还可以改变这些......
- 51单片机 —— 计时器