【蜘蛛抓取协议知识二】Robots中各系数代表什么

robots.txt是搜索引擎中访问网站的时候要查看的第一个文件。

robots.txt文件告诉蜘蛛程序在服务器上什么文件是可以被查看的。

关于Robots的详细介绍，前面我在《robots.txt文件怎么写》里面进行了非常详细的阐述，这里就不多说了。

Robots可以帮助你调整搜索引擎可以访问的页面，通俗的说就是作一个规定，告诉搜索引擎什么地方可以去什么地方不可以去。

Robots的写法：
User-agent: *
Disallow: /plus/ad_js.php
Disallow: /plus/car.php
User-agent: * 这里的*代表的所有的搜索引擎种类，*是一个通配符
Disallow: /admin/ 这里定义是禁止爬寻admin目录下面的目录
Disallow: /A 是屏蔽A目录下的所有文件，包括文件和子目录，还屏蔽/A*.*的文件Disallow: /cgi-bin/*.htm禁止访问/cgi-bin/目录下的所有以”.htm”为后缀的URL(包含子目录)。

Disallow: /*?* 禁止访问网站中所有的动态页面
Disallow: /.jpg$ 禁止抓取网页所有的.jpg格式的图片
Disallow:/ab/adc.html 禁止爬取ab文件夹下面的adc.html文件。

Allow: /cgi-bin/这里定义是允许爬寻cgi-bin目录下面的目录
Allow: /tmp这里定义是允许爬寻tmp的整个目录
Allow: /.htm$ 仅允许访问以”.htm”为后缀的URL。

Allow: /.gif$ 允许抓取网页和gif格式图片
以上这些内容就是对Robots中各系数代表什么进行的相关介绍，不知道大家是否看懂了，如果还没有看懂也没有关系，只要大家了解了每一个字符代表什么意思，然后根据这些内容依葫芦画瓢就可以制作出来了。

但是大家一定要注意了，如果设置错了，那么就会影响搜索引擎的抓取，大家一定要谨慎操作。

交流群：172094262 验证;文档共享遨游。