网站优化

 找回密码
 立即注册
搜索引擎统一Robots文件标准
查看: 12201|回复: 39

搜索引擎统一Robots文件标准

网站优化公司 发表于 2016-2-26 08:47:08 | 显示全部楼层 |阅读模式
三家都支撑的robots文件记录包含:


User-agent: *


Disallow: /


User-agent: *


Disallow: /ab/


Allow: /ab


$通配符 - 匹配URL结尾的字符。如下面代码将许可蜘蛛拜访以.htm为后缀的URL:


Robots-nocontent - 告诉蜘蛛被标注的部分html不是网页内容的一部分,或者换个角度,告诉蜘蛛哪些部分是页面的重要内容(想被检索的内容)。


User-agent: *


Allow: .htm$


*通配符 - 告诉蜘蛛匹配随便率性一段字符。如下面一段代码将禁止蜘蛛抓取所有htm文件:


User-agent: *


Disallow: /*.htm


Sitemaps地位 - 告诉蜘蛛你的网站地图在哪里,格局为:Sitemap: <sitemap_location>


三家都支撑的Meta标签包含:


NOINDEX - 告诉蜘蛛不要索引某个网页。


引擎三巨擘打的不亦乐乎,但有时也合作一下。客岁Google,雅虎,微软就合作,合营遵守同一的Sitemaps标准。前两天三巨擘又同时宣布,合营遵守的robots.txt文件标准。Google,雅虎,微软各安闲本身的官方博客上发了一篇帖子,颁布三家都支撑的robots.txt文件及Meta标签的标准,以及一些各自特有的标准。下面做一个总结。


Allow - 告诉蜘蛛应当抓取某些文件。Allow和Disallow合营应用,可以告诉蜘蛛某个目次下,大年夜部分都不抓取,只抓取一部分。如下面代码将使蜘蛛不抓取ab目次下其他文件,而只抓取个中cd下的文件:


NOFOLLOW - 告诉蜘蛛不要跟踪网页上的链接。


NOSNIPPET - 告诉蜘蛛不要在结不雅中显示解释文字。


NOARCHIVE - 告诉蜘蛛不要显示快照。


NOODP - 告诉蜘蛛不要应用开放目次中的标题和解释。


膳绫擎这些记录或标签,如今三家都合营支撑。个中通配符似乎以前雅虎微软并不支撑。百度如今也支撑Disallow,Allow及两种通配符。Meta标签我没有找到百度是否支撑的官方解释。


只有Google支撑的Meta标签有:


UNAVAILABLE_AFTER - 告诉蜘蛛网页什么时刻过时。在这个日期之后,不该该再涌如今结不雅中。


NOIMAGEINDEX - 告诉蜘蛛不要索引页面上的图片。


NOTRANSLATE - 告诉蜘蛛不要翻译页面内容。


雅虎还支撑Meta标签:


Crawl-Delay - 许可蜘蛛延时抓取的频率。


NOYDIR - 和NOODP标签类似,然则指雅虎目次,而不是开放目次。


MSN还支撑Meta标签:Crawl-Delay


Disallow - 告诉蜘蛛不要抓取某些文件或目次。如下面代码将阻拦蜘蛛抓取所有的网站文件:


别的提示大年夜家留意的是,robots.txt文件可以不存在,返回404缺点,意味着许可蜘蛛抓取所有内容。但抓取robots.txt文件时却产生超时之类的缺点,可能导致引擎不收录网站,因为蜘蛛不知道robots.txt文件是否存在或者琅绫擎有什么内容,这与确认文件不存在是不一样的。
回复

使用道具 举报

 楼主| 网站优化公司 发表于 2016-6-29 16:02:15 | 显示全部楼层
楼主是网站优化界的高人
回复 支持 反对

使用道具 举报

祥客 发表于 2016-6-29 17:27:19 | 显示全部楼层
楼猪能帮我优化一下公司的网站吗?
回复 支持 反对

使用道具 举报

湮玲 发表于 2016-6-29 23:14:17 | 显示全部楼层
LZ真是人才,教教我如何优化自己的网站
回复 支持 反对

使用道具 举报

蕴朗 发表于 2016-6-30 01:45:05 | 显示全部楼层
楼猪说的非常好
回复 支持 反对

使用道具 举报

祥客 发表于 2016-10-7 22:10:23 | 显示全部楼层
楼猪说的非常好
回复 支持 反对

使用道具 举报

淑榈 发表于 2016-10-7 22:39:16 | 显示全部楼层
很感谢帝国网络的刘总和他们团队、给我留下了很深刻的印象,希望我们接下来的合作一直愉快下去!
回复 支持 反对

使用道具 举报

疙証屏 发表于 2016-10-7 22:52:38 | 显示全部楼层
这篇网站优化技术文章真心赞
回复 支持 反对

使用道具 举报

SEO优化 发表于 2016-10-8 00:20:47 | 显示全部楼层
现在在帝国网络做整合营销,员工服务态度很好,一有问题马上解决,技术也很牛,排名不错,效果我还是非常认同的!
回复 支持 反对

使用道具 举报

祥客 发表于 2016-10-8 03:58:38 | 显示全部楼层
和帝国网络合作两年多了,网站、优化都是交给他们
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

手机版|

GMT+8, 2024-11-15 10:17网络网站优化公司

网站优化公司© 2006-2024 wangzhanyouhua.net Search Engine Optimization By 网站搜索引擎优化公司

快速回复 返回顶部 返回列表