首页
站长论坛BBS
救助
投稿
discuz视频教程
discuz技术支持
版块
登录
快速注册

Robots生效要多久?

discuz使用视频教程
31idc

马上注册,一起探讨正确快速的建站方法

您需要 登录 才可以下载或查看,没有帐号?快速注册

x
时候我们建站前期忘记写robots.txt文件了,很多我们不想让搜索引擎收录的内容却被收录了,这个时候会发现好像过了很长时间我们不想让收录的页面还是处于被收录的状态,到底robots生效要多久呢?
  百度lee曾在公开场合说过:不同的站点略有不同,但通常在几天内陆续生效。
  其实我们可以假想下robots生效的过程:
  1.蜘蛛发现robots文件修改并将信息传回
  2.分析修改前后的robots文件
  3.删除不允许被收录的索引数据
  这个过程中肯能还会存在其他的一些步骤,然而由于每个网站蜘蛛爬的频率和网站的权重不同(网站的重要性)而导致蜘蛛发现robots更改的时间延时或者被处理的优先性不同,最终导致的结果就是robots的生效时间不同。
伟星管业 http://www.weixingguan.com
墙纸www.mesuwallpaper.cn seowww.xi18n.com
外链达人他爸 发表于 2015-6-27 01:11:13 来自PC
这个过程中肯能还会存在其他的一些步骤,然而由于每个网站蜘蛛爬的频率和网站的权重不同(网站的重要性)而导致蜘蛛发现robots更改的时间延时或者被处理的优先性不同,最终导致的结果就是robots的生效时间不同。
http://www.cqdl321.com http://cqdl321.com
您需要登录后才可以回帖 登录 | 快速注册

本版积分规则

快速回复 返回顶部 返回列表