关于robots.txt的二三事

【Robots简介】

robots.txt是一个协议，是搜索引擎访问网站时第一个要查看的文件，它存在的目的是告诉搜索引擎哪些页面能被抓取，哪些页面不能被抓取。

当spider访问一个站点时，会检查该站点根目录下是否存在robots.txt，如果存在，spider会按照文件中的内容来确定访问的范围；如果该文件不存在，所有的spider将能够访问网站上所有没有被口令保护的页面。

【具体介绍】

1、User-agent用于描述搜索引擎robot的名字。在\robots.txt\文件中，如果有多条User-agent记录说明有多个robot会受到\robots.txt\的限制，对该文件来说，至少要有一条User-agent记录。如果该项的值设为，则对任何robot均有效，在\robots.txt\文件中，\User-agent:\这样的记录只能有一条。

360搜索支持user-agent命令，包括使用通配符的user-agent命令。

2、Disallow命令指定不建议收录的文件、目录。

Disallow值可以是一条完整的路径，也可以是路径的非空前缀，以Disallow项的值开头的URL不会被 robot访问。

3、Allow命令指定建议收录的文件、目录。

Allow值用于描述希望被访问的一组URL，它的值也可以是一条完整的路径，也可以是路径的前缀，以Allow项的值开头的URL 是允许robot访问的。

User-agent: 这里的代表所有的搜索引擎种类，是一个通配符，也可以替换成其他的蜘蛛名称，例如Googlebot、yisouspider，表示屏蔽特定搜索引擎的蜘蛛

Disallow: /adm/ 这里定义是禁止爬寻adm目录下面的目录

Disallow: /require/ 这里定义是禁止爬寻require目录下面的目录

Disallow: /ABC/ 这里定义是禁止爬寻ABC目录下面的目录

Disallow: /cgi-b/.htm 禁止访问/cgi-b/目录下的所有以\.htm\为后缀的URL(包含子目录)。

Disallow: /? 禁止访问网站中所有包含问号(?) 的网址

Disallow: /.jpg$ 禁止抓取网页所有的.jpg格式的图片

Disallow:/ab/adc.html 禁止爬取ab文件夹下面的adc.html文件。

Allow: /cgi-b/　这里定义是允许爬寻cgi-b目录下面的目录

Allow: /tmp 这里定义是允许爬寻tmp的整个目录

Allow: .htm$ 仅允许访问以\.htm\为后缀的URL。

Allow: .gif$ 允许抓取网页和gif格式图片

Sitemap: 网站地图，告诉爬虫这个页面是网站地图

【注意事项】

1、robots文件往往放置于根目录下；

2、当您的网站包含有不希望被搜索引擎收录的内容时，才需要使用robots.txt文件；

3、360搜索会对#这样形式的robots进行全匹配url处理，所以在写robots的时候一定要小心，最好写尽量精确的url通配，不建议做泛匹配

User-agent:

Disallow: #

或者

User-agent:

Disallow: #

360搜索会把#认为是全部匹配，从而不抓取全部的url，并且会将线上收录的链接做下线处理！！我们不建议站长写入这样的规则！

类似的，如写成Disallow: #.html，则会不抓取所有以html为后缀的url

【常见问题】

Robots相关的常见问题主要是因错误书写robots导致的网站不被360搜索引擎收录。所以建议站长，当网站出现不收录时，检查一下robtos文件是否正确。

Robots协议是一个搜索引擎和网站之间的善意协议，我们鼓励站长们也能善意使用这一协议，除非有充足合理的理由，否则我们一般都不建议使用Robots协议屏蔽360搜索及其他搜索引擎的蜘蛛。

其他任何不清楚的，还可以访问咱们的robots百科词条

https://baike.so./doc/5339174-7435147.html

或参考360搜索针对robots的FAQ

http://.so./help/help_3_2.html

推火专家360站长平台