实用版  |  综合版   推荐信息:CSS系列 | 网站排名 | 网页特效平面设计 | 硬件故障维修
内容

如何用robots.txt 防搜索引擎抓取页面

出处:互联网   2008-04-07   浏览:    编辑:53vi.com
字体大小: | |

  User-agent: Googlebot

  Disallow: /*?

  尽管我们不抓取被 robots.txt 拦截的网页内容或为其编制索引,但如果我们在网络上的其他网页中发现这些内容,我们仍然会抓取其网址并编制索引。因此,网页网址及其他公开的信息,例如指向该网站的链接中的定位文字,有可能会出现在 Google 搜索结果中。不过,您网页上的内容不会被抓取、编制索引和显示。

  作为网站管理员工具的一部分,Google提供了robots.txt分析工具 。它可以按照 Googlebot 读取 robots.txt 文件的相同方式读取该文件,并且可为 Google user-agents(如 Googlebot)提供结果。我们强烈建议您使用它。 在创建一个 robots.txt 文件之前,有必要考虑一下哪些内容可以被用户搜得到,而哪些则不应该被搜得到。 这样的话,通过合理地使用 robots.txt ,搜索引擎在把用户带到您网站的同时,又能保证隐私信息不被收录。

共2页: 上一页 [1] 2 下一页
RSS               
发表评论请自觉遵守互联网相关政策法规
匿名
TMG

Copyright © 53vi.com, All Rights Reserved 资讯先锋网 版权所有

网站事务、投稿热线:815307530@qq.com