基础课程：robots.txt的正确写法和作用 梦蕾设计 网为您解答
robots.txt的语法和写法详解
robots.txt的语法和写法详解robots.txt是⼀个纯⽂本⽂件，是搜索引擎蜘蛛爬⾏⽹站的时候要访问的第⼀个⽂件，当蜘蛛访问⼀个站点时，它会⾸先检查该站点根⽬录下是否存在robots.txt，如果存在，搜索机器⼈就会按照该⽂件中的内容来确定访问的范围，相当于⽹站与搜索引蜘蛛遵循协议，如果该⽂件不存在，所有的搜索蜘蛛将能够访问⽹站上所有没有被屏蔽的⽹页，作为站长，我们就可以通过robots.txt⽂件屏蔽掉错误的页⾯和⼀些不想让蜘蛛爬取和收录的页⾯，那么robots.txt该怎么样写呢? robots的语法： 1、User-agent 定义搜索引擎。
⼀般情况下，⽹站⾥⾯都是：User-agent: *，这⾥*的意思是所有，表⽰定义所有的搜索引擎。
⽐如，我想定义百度，那么就是User-agent: Baiduspider;定义google，User-agent: Googlebot。
2、Disallow 禁⽌爬取。
如，我想禁⽌爬取我的admin⽂件夹，那就是Disallow: /admin/。
禁⽌爬取admin⽂件夹下的login.html， Disallow: /admin/login.html。
3、Allow 允许。
我们都知道，在默认情况下，都是允许的。
那为什么还要允许这个语法呢?举个例⼦：我想禁⽌admin⽂件夹下的所有⽂件，除了.html的⽹页，那怎么写呢?我们知道可以⽤Disallow⼀个⼀个禁⽌，但那样太费时间很精⼒了。
这时候运⽤Allow就解决了复杂的问题，就这样写： Allow: /admin/.html$ Disallow: /admin/。
4、$ 结束符。
例：Disallow: .php$ 这句话的意思是，屏蔽所有的以.php结尾的⽂件，不管前⾯有多长的URL，如abc/aa/bb//index.php 也是屏蔽的。
5、* 通配符符号0或多个任意字符。
例：Disallow: *?* 这⾥的意思是屏蔽所有带“?”⽂件，也是屏蔽所有的动态URL。
robots.txt 规则
robots.txt 规则Robots.txt规则是指一种文本文件，用于告诉网络爬虫哪些网页可以被抓取和哪些不能被抓取。
这种文本文件一般位于网站的根目录下，并且被称为robots.txt。
在此文档中，我们将深入探讨Robots.txt规则的作用、常见用法以及一些常见问题和解决方法。
我们希望这份文档能够帮助所有网站管理员了解如何正确地使用Robots.txt规则。
一、Robots.txt规则的作用网站管理员可以使用Robots.txt规则来控制搜索引擎爬虫在网站中爬取哪些页面。
通过使用Robots.txt规则，网站管理员可以：1.控制搜索引擎爬虫的访问：通过告诉搜索引擎爬虫哪些页面可以被访问，哪些页面不能被访问，网站管理员可以控制搜索引擎爬虫的抓取范围，从而减少网站流量和服务器资源消耗。
2.保护网站的机密信息：如果网站包含一些敏感信息，例如用户帐号，Robots.txt规则可以用来防止搜索引擎爬虫抓取这些页面。
3.提高网站的安全性：Robots.txt规则还可以用来防止黑客针对网站进行攻击。
4.提高网站在搜索引擎中的排名：通过设置Robots.txt规则，网站管理员可以指示搜索引擎爬虫访问网站的重要页面，从而提高网站在搜索引擎中的排名。
二、Robots.txt规则的常见用法Robots.txt规则由一组指令组成，每个指令对应一种行为。
下面列出了Robots.txt最常用的指令。
er-agent:该指令告诉搜索引擎爬虫哪些User-agent可以访问网站。
例如，要允许Googlebot访问网站，可以使用以下指令：User-agent: Googlebot这样，所有以Googlebot作为user-agent的搜索引擎爬虫都可以访问网站。
2.Disallow:该指令告诉搜索引擎爬虫哪些页面不能被访问。
例如，要禁止搜索引擎爬虫访问/admin目录下的所有页面，可以使用以下指令：User-agent: * Disallow: /admin/这样，所有搜索引擎爬虫都不能访问/admin目录下的任何页面。
robots.txt文件的作用以及写法
很多seo新手可能都不懂得一个网站的robots.txt的重要性。
Robots.txt文件是一个文本文件。
这是一个协议，对于搜索引擎而设定的协议。
正常来说搜索引擎来到一个网站，他们首先就会去查找网站有没有robots.txt文件。
换句话说也就是这是搜索引擎访问一个网站所要查看的第一个文件。
它可以告诉搜索引擎蜘蛛在这个网站上面有哪些文件是可以查看，而哪些文件是不能查看的。
Robots.txt文件正常来说，我们都是放在网站的根目录底下。
搜索引擎蜘蛛来到这个站点的时候，就会首先去检查根目录有没有这个文件存在。
如果在根目录地下有这么一个文件的话，那么搜索引擎蜘蛛就会按照这个文件的所规定的规则来访问网站文件，如果找不到这个文件的话，那么搜索引擎蜘蛛就会访问该网站所有没有被口令保护的页面了。
所以如果您想要搜索引擎收录网站上所有内容的话，那么就不要建立robots.txt文件。
如果有部分内容不想搜索引擎收录的话，那么可以使用robots.txt文件来制约蜘蛛。
接下来，我们来了解一下robots.txt文件的写法User-agent: * 这里的*代表的所有的搜索引擎种类，*是一个通配符Disallow: /admin/ 这里定义是禁止爬寻admin目录下面的目录Disallow: /require/ 这里定义是禁止爬寻require目录下面的目录Disallow: /ABC/ 这里定义是禁止爬寻ABC目录下面的目录Disallow: /cgi-bin/*.htm 禁止访问/cgi-bin/目录下的所有以".htm"为后缀的URL(包含子目录)。
Disallow: /*?* 禁止访问网站中所有包含问号(?) 的网址Disallow: /.jpg$ 禁止抓取网页所有的.jpg格式的图片Disallow:/ab/adc.html 禁止爬取ab文件夹下面的adc.html文件。
Allow: /cgi-bin/这里定义是允许爬寻cgi-bin目录下面的目录Allow: /tmp 这里定义是允许爬寻tmp的整个目录Allow: .htm$ 仅允许访问以".htm"为后缀的URL。
robots的写法
网站robots的写法站长的工作是设计精美的网站，为大众展现网站丰富多彩的内容。
当然，我们也希望精心设计的网站获得理想的排名，这就要求我们去研究搜索引擎排名规律，最大程度的获得机会展现给客户。
然而，搜索引擎种类很多，有时候，我们对某一种搜索引擎的排名很好，却在另外的搜索引擎上面获得不到一样的排名，原因是各个搜索引擎规则不一样。
为此，有人复制出相同的内容以应付不同搜索引擎的排名规则，制造出大量的重复页面。
搜索引擎一旦发现就会给予惩处。
为此，robots的出现了。
一、r obots的基本概念和功能robots.txt文件是网站的一个文件，它是给搜索引擎蜘蛛看的。
搜索引擎蜘蛛爬行道我们的网站首先就是抓取这个文件，根据里面的内容来决定对网站文件访问的范围。
robots.txt 也可用在某一目录中。
对这一目录下的文件进行搜索范围设定。
几点注意：1）网站必须要有一个robots.txt文件。
2）文件名是小写字母。
3）当需要完全屏蔽文件时，需要配合meta的robots属性。
robots具有两个主要功能：一个功能是屏蔽重复页面另一个功能是屏蔽如让抓取的页面比如隐私。
对于不同的搜索引擎展现不同的搜索路径，在robots中有哪些搜索引擎和其对应的User-agent呢？下面，我列出了一些，以供参考。
搜索引擎User-AgentAltaVista Scooterbaidu BaiduspiderInfoseek InfoseekHotbot SlurpAOL Search SlurpExcite ArchitextSpiderGoogle GooglebotGoto SlurpLycos LycosMSN SlurpNetscape GooglebotNorthernLight GulliverWebCrawler ArchitextSpiderIwon SlurpFast FastDirectHit GrabberYahoo Web Pages GooglebotLooksmart Web Pages Slurp二、robots.txt的语法内容项的基本格式：域: 值对。
robots.txt使用和写法
robots使用和写法：1、什么是robots.txt?robots.txt是一个纯文本文件，通过在这个文件中声明该网站中不想被robots访问的部分，这样，该网站的部分或全部内容就可以不被搜索引擎收录了，或者指定搜索引擎只收录指定的内容。
当一个搜索机器人访问一个站点时，它会首先检查该站点根目录下是否存在robots.txt，如果找到，搜索机器人就会按照该文件中的内容来确定访问的范围，如果该文件不存在，那么搜索机器人就沿着链接抓取。
robots.txt必须放置在一个站点的根目录下，而且文件名必须全部小写。
2、robots.txt的语法"robots.txt"文件包含一条或更多的记录，这些记录通过空行分开(以CR,CR/NL, or NL作为结束符)，每一条记录的格式如下所示:"<field>:<optionalspace><value><optionalspace>"。
在该文件中可以使用#进行注解，具体使用方法和UNIX中的惯例一样。
该文件中的记录通常以一行或多行User-agent开始，后面加上若干Disallow行,详细情况如下:User-agent:该项的值用于描述搜索引擎robot的名字，在"robots.txt"文件中，如果有多条User-agent记录说明有多个robot会受到该协议的限制，对该文件来说，至少要有一条User-agent记录。
如果该项的值设为*，则该协议对任何机器人均有效，在"robots.txt"文件中，"User-agent:*"这样的记录只能有一条。
Disallow :该项的值用于描述不希望被访问到的一个URL，这个URL可以是一条完整的路径，也可以是部分的，任何以Disallow 开头的URL均不会被robot访问到。
robots.txt和Robot.txt准确代码的写法说明
robots.txt和Robot.txt准确代码的写法说明国内很多网民都不知道 robots.txt 是干什么的，没有大重视、今天希望看到本文章学习到 robots.txt 的准确解释和使用方法！robots.txt基本介绍robots.txt 是一个纯文本的txt文本文档文件，这种重命名的文本文档是用在网站目录下存储！只有百度，搜搜，搜狗搜索，360搜索等搜索引擎网站上调用的声明！搜索引擎也可以叫《蜘蛛》（例如：站长只想让百度里能搜到本站，就可以用robots.txt上写段代码就能实现！）robots.txt 使用方法：robots.txt必须放置在一个站点的根目录下，而且文件名必须全部小写。
robots.txt写作语法首先，我们来看一个 robots.txt 的写法案例：访问以上具体地址，我们可以看到robots.txt的具体内容如下：# Robots.txt file from# All robots will spider the domainUser-agent: *Disallow:以上文本表达的意思是允许所有的搜索机器人访问站点下的所有文件。
代码第一行：#解释：只要有“#”开头的一行全被隐藏的！（一般不需要写）写法：“#”后面不管填写任何文字都不会有影响！（只是起到隐藏作用）我们一般填写声明就可以了！代码第二行：User-agent:解释：这是控制蜘蛛访问的代码（用来设置蜘蛛的白黑名单）写法：“User-agent:”后面就可以填写百度蜘蛛名称或者搜狗蜘蛛名称！例如：只允许百度蜘蛛：User-agent: BadBot所有蜘蛛可访问：User-agent: *代码第三行：Disallow:解释：这是控制蜘蛛动态的黑名单写法：“Disallow:” 后面可填写以下禁止访问本站所有内容：/禁止访问本站指定目录：/01/允许访问本站指定目录：/01禁止访问目录下的格式：/01*.html允许访问目录下的格式：/01/index.html代码第四行：Allow:解释：访问一组URL或者关键字母的文件名和目录名写法：“Allow:”后面可以填写关键字母例如：Allow:/index演示：即可访问：/index.html/index.asp/index/index.html/index/indextop.html/indexlogo/indexnamo.html====================================== =模拟蜘蛛写法案例说明1. 允许所有的robot访问User-agent: *Allow:或者User-agent: *Disallow:2. 禁止所有搜索引擎访问网站的任何部分User-agent: *Disallow: /3. 仅禁止Baiduspider访问您的网站User-agent: BaiduspiderDisallow: /4. 仅允许Baiduspider访问您的网站User-agent: BaiduspiderDisallow:5. 禁止spider访问特定目录User-agent: *Disallow: /cofig/Disallow: /totm/Disallow: /~jot/6. 允许访问特定目录中的部分urlUser-agent: *Allow: /acgi-lbin/sseeAllow: /tml/itmAllow: /~jotw/bookDisallow: /cdgi-bins/Disallow: /ddw/Disallow: /~jseoe/7. 使用”*”限制访问url禁止访问/cgi-bin/目录下的所有以”.htm”为后缀的URL(包含子目录)。
robots.txt
robots.txt 标准写法与常见问题在了解robots.txt写法之前，我们必须要清楚robots.txt的概念、作用和语法。
后面我还将介绍知名的引擎机器人Robots、知名站点robots.txt举例、常见robots.txt错误、Robots META 标签和在线生成robots.txt网址。
一、robots.txt是什么，它有什么作用？robots.txt是一个纯文本文件。
当一个搜索引擎爬虫访问一个网站时，它会先检查站点根目录下是否存在robots.txt，如果存在，搜索爬虫就会按照该文件中的内容来确定访问的范围；如果该文件不存在，所有的搜索爬虫将能够访问网站上所有没有被口令保护的页面。
二、robots.txt的语法robots.txt文件包含一条或更多的记录，这些记录通过空行分开（以CR,CR/NL, or NL作为结束符），每一条记录的格式如下所示：<field>:<optionalspace><value><optionalspace>。
在该文件中可以使用#进行注解，具体使用方法和UNIX中的惯例一样。
该文件中的记录通常以一行或多行User-agent开始，后面加上若干Disallow行,详细情况如下：User-agent:该项的值用于描述搜索引擎robot的名字，在"robots.txt"文件中，如果有多条User-agent记录说明有多个robot会受到该协议的限制，对该文件来说，至少要有一条User-agent记录。
如果该项的值设为*，则该协议对任何机器人均有效，在"robots.txt"文件中，"User-agent：*"这样的记录只能有一条。
Disallow :该项的值用于描述不希望被访问到的一个URL，这个URL可以是一条完整的路径，也可以是部分的，任何以Disallow开头的URL均不会被robot访问到。
robots.txt文件的作用和语法介绍
robots.txt文件的作用和语法介绍1、什么是robots.txt文件搜索引擎有自己的搜索习惯，当它对一个网站进行搜索时，哪些目录和文件要看，哪些不用看，它有自己的算法。
我们也可以自己建立一个robots.txt文件，告诉搜索引擎的机器人哪些可以被收录，哪些不需要收录。
这样可以节约自己网站的资源，提高被搜索引擎收录的效率。
２、robots.txt放置位置robots.txt必须放置在一个站点的根目录下，而且文件名必须全部小写。
３、robots相关语法1)User-agent: 适用下列规则的漫游器(搜索引擎)该项的值用于描述搜索引擎robot的名字。
在robots.txt文件中，如果有多条User-agent 记录，就说明有多个robot会受到robots.txt的限制，对该文件来说，至少要有一条User-agent 记录。
如果该项的值设为*，则对任何robot均有效。
●Google爬虫名称: Googlebot●百度（Baidu）爬虫名称：Baiduspider●雅虎（Yahoo）爬虫名称：Yahoo Slurp●有道（Yodao）蜘蛛名称：YodaoBot●搜狗（sogou）蜘蛛名称：sogou spider●MSN的蜘蛛名称(微软最新搜索引擎Bing蜘蛛名也是这个)：Msnbot２）Disallow: 拒绝访问的目录或文件该项的值用于描述不希望被访问的一组URL，这个值可以是一条完整的路径，也可以是路径的非空前缀，以Disallow项的值开头的URL不会被robot访问。
例如：Disallow:/seo.html 表示禁止robot访问文件/seo.html３）Allow:允许访问的目录或文件该项的值用于描述希望被访问的一组URL，与Disallow项相似，这个值可以是一条完整的路径，也可以是路径的前缀，以Allow项的值开头的URL是允许robot访问的。
例如：Allow:/hibaidu/ 表示允许robot访问目录/hibaidu/4)使用通配符"*"和"$"：$ 匹配行结束符。
robots.txt写法大全和robots.txt语法的作用(超详细)
4如果我们禁止Google索引我们的网站的话，其实跟示例3一样，就是User-agent:头文件的蜘蛛名字改成谷歌的Googlebot
即可
robots.txt写法如下：
User-agent: Googlebot
Disallow: /
5如果我们禁止除Google外的一切搜索引擎索引我们的网站话
Allow: /
2如果我们禁止所有搜索引擎访问网站的所有部分的话
robots.txt写法如下：
User-agent: *
Disallow: /
3如obots.txt写法访问我们网站的某个目录中的某些特定网址的话
robots.txt写法如下：
User-agent: *
Allow: /css/my
Allow: /admin/html
Allow: /images/index
Disallow: /css/
Disallow: /admin/
robots.txt写法如下：
User-agent: *
Disallow: /*?*
有些时候，我们为了节省服务器资源，需要禁止各类搜索引擎来索引我们网站上的图片，这里的办法除了使用“Disallow: /images/”这样的直接屏蔽文件夹的方式之外，还可以采取直接屏蔽图片后缀名的方式。
示例12
robots.txt写法如下：
User-agent:*
Allow:/*?$
Disallow:/*?
Disallow:/ *?
一行将拦截包含 ? 的网址（具体而言，它将拦截所有以您的域名开头、后接任意字符串，然后是问号 (?)，而后又是任意字符串的网址）。Allow: /*?$ 一行将允许包含任何以 ? 结尾的网址（具体而言，它将允许包含所有以您的域名开头、后接任意字符串，然后是问号 (?)，问号之后没有任何字符的网址）。
robots.txt协议
robots.txt协议robots.txt协议是一种让网站管理员告诉搜索引擎哪些页面可以抓取，哪些页面不可以抓取的协议。
这个协议是通过在网站的根目录下放置一个名为robots.txt的文本文件来实现的。
在这个文件中，网站管理员可以指定搜索引擎爬虫访问的权限，以及哪些页面不希望被搜索引擎收录。
这个协议的存在可以帮助网站管理员更好地控制搜索引擎爬虫的行为，从而更好地保护网站的内容和隐私。
robots.txt协议的作用主要有以下几个方面：1. 控制搜索引擎爬虫的访问范围。
通过robots.txt文件，网站管理员可以指定哪些页面可以被搜索引擎爬虫访问，哪些页面不可以被访问。
这样可以避免搜索引擎爬虫访问一些不希望被公开的页面，比如一些内部管理页面或者一些隐私内容。
2. 优化搜索引擎收录。
通过robots.txt文件，网站管理员可以指定哪些页面可以被搜索引擎收录，哪些页面不希望被收录。
这样可以帮助网站管理员更好地控制搜索引擎对网站内容的收录，从而更好地展现网站的核心内容。
3. 保护网站安全。
通过robots.txt文件，网站管理员可以排除一些敏感信息和目录，避免被搜索引擎爬虫访问，从而保护网站的安全。
在编写robots.txt文件时，网站管理员需要注意以下几点：1. 确保robots.txt文件位于网站的根目录下。
搜索引擎爬虫在访问网站时会首先查找robots.txt文件，因此这个文件必须放置在网站的根目录下，以确保搜索引擎爬虫能够正确地读取到这个文件。
2. 使用正确的语法。
robots.txt文件采用了一种特定的语法规则，网站管理员需要按照这种规则编写文件内容，以确保搜索引擎爬虫能够正确地解析和执行这个文件。
3. 定期更新文件内容。
随着网站内容的更新和变化，robots.txt文件的内容也需要相应地进行更新，以确保搜索引擎爬虫能够正确地访问和收录网站的最新内容。
总之，robots.txt协议是网站管理员在管理搜索引擎爬虫行为方面的重要工具，通过合理地编写和使用robots.txt文件，可以更好地控制搜索引擎对网站内容的访问和收录，从而更好地保护网站的内容和隐私，提升网站的安全性和搜索引擎优化效果。
robots.txt写法
User-agent: googlebot
Disallow: /
6、阻止搜索引擎访问网站中全部的动态页面（动态页面便是URL中任何带有“？”的页面）
User-agent: *
Disallow: /*?*
7、仅仅容许搜索引擎访问某一特定文件后缀形式的网页。
7、要是你不想自己动手写robots.txt文件，那么请Google帮你写。登录Google平台，有生成robots.txt文件的。
8、
User-agent: *
Disallow: /
这种格式不但仅是阻止抓取页面，更主要的是你的网站被收录了，然后又把robots.txt文件修改成以上格局，那么你的网站将在搜索引擎中被删除，整个地删除。
5、robots.txt通常在某个分目录中还可以存在，但是要是与顶级目录中的robots.txt有不同，则以顶级目录中robots.txt为准。
6、仅当您的网站包括不希望被搜索引擎收录的内容时，才要利用robots.txt文件。要是您希望搜索引擎收录网站上全部内容，请勿创建 robots.txt文件，不要创建一个内容为空的robots.txt文件。这一点通常被人们马虎，实际上创建空的robots.txt文件对搜刮引擎非常不友好。
Allow: /
3、要是你网站的某个目录不想被搜索引擎收录，写法如下：
User-agent: *
Disallow: /目录名称1/
Disallow: /目录名称2/
Disallow: /目录名称3/
过细：不能写成Disallow: /目录名称1/ /目录名称2/ 这样的情势，每个目录要单独另起一行特别阐明。
robots.txt写法
robots写法大全，教你巧妙运用robots文件
robots写法大全，教你巧妙运用robots文件robots.txt文件的运用，在SEO技术里面是比较不易懂的知识，但是SEOER的我们又必须要去了解，因为它牵扯到一些代码、URL在内，也许稍微偏差一字，对网站的影响就和本身的效果远远不同了。
robots.txt的功能分很多，我们如果合理运用好，对网站的帮助是起很大作用的。
接下来我们来介绍一些比较常用的功能。
一、利用robots.txt来限制网页快照很多搜索引擎都提供一个网页快照的功能。
但是网页快照功能却有很多的弊端，例如事实内容在网页快照中更新不及时、索引网页快照浪费大量的服务器资源等。
因此，我们有些时候可能并不需要搜索引擎来索引我们某个页面的网页快照。
解决这样问题的办法很简单，只需要在你的网页元标记中（<head>和</head>之间）放置如下的一段代码。
<meta name=”robots”content=”noarchive”>以上的一段代码限制了所有的搜索引擎建立你的网页快照。
如果我们需要仅仅限制一个搜索引擎建立快照的话，就可以像如下这样去写<meta name=”Baiduspider”content=”noarchive”>需要注意的是，这样的标记仅仅是禁止搜索引擎为你的网站建立快照，如果你要禁止搜索引擎索引你的这个页面的话，请参照后面的办法。
二、禁止搜索引擎抓取网页页面在SEO中，禁止搜索引擎抓取本页面或者是允许搜索引擎抓取本页面是经常会用到的。
因为网页有一些是我们不需要用来参加关键词排名的，所以可以屏蔽掉。
为了让搜索引擎禁止抓取本页面，我们一般的做法是在页面的元标记中加入如下的代码：<META NAME=”ROBOTS”CONTENT=”NOINDEX,FOLLO W”><meta content=’***************’ name=deｓｃｒｉｐｔion>在这里，META NAME=”ROBOTS”是泛指所有的搜索引擎的，在这里我们也可以特指某个搜索引擎，例如META NAME=”Googlebot”、META NAME=”Baiduspide”、META NAME=”www.********.com” 等。
Robots协议的写法
Robots协议的写法Robots协议的写法既然⽹络爬⾍在爬取⼀个⽹站之前，要先获取到这个⽂件，然后解析到其中的规则，那么，Robots就必须要有⼀套通⽤的语法规则。
最简单的robots.txt只有两条规则：User-agent：指定对哪些爬⾍⽣效Disallow：指定要屏蔽的⽹址先说User-agent，爬⾍抓取时会声明⾃⼰的⾝份，这就是User-agent，没错，就是http协议⾥的User-agent。
robots.txt利⽤User-agent来区分各个引擎的爬⾍，⽐如说google⽹页搜索爬⾍的User-agent为Googlebot。
可能有读者要问了，我怎么知道爬⾍的User-agent是什么?你还可以查相关搜索引擎的资料得到官⽅的数据，⽐如说百度的爬⾍列表是这样的：Disallow ⾏列出的是要拦截的⽹页，以正斜线 (/) 开头，可以列出特定的⽹址或模式。
要屏蔽整个⽹站，使⽤正斜线即可;要屏蔽某⼀⽬录以及其中的所有内容，在⽬录名后添加正斜线;要屏蔽某个具体的⽹页，就指出这个⽹页。
下⾯我们来看⼀些Robots的具体写法:允许所有的robot访问User-agent: *Disallow:或者也可以建⼀个空⽂件 "/robots.txt" file。
禁⽌爬⾍访问所有⽬录User-agent: *Disallow: /禁⽌爬⾍访问某些⽬录User-agent: *Disallow: /a/Disallow: /b/Disallow: /c/禁⽌某些爬⾍访问User-agent: BadBotDisallow: /只允许某个爬⾍访问User-agent: MangCrawlerDisallow:User-agent: *Disallow: /我们再来结合两个真实的范例来学习⼀下。
先看这个例⼦：User-agent: BaiduspiderDisallow: /User-agent: baiduspiderDisallow: /这个是淘宝⽹的Robots协议内容，相信你已经看出来了，淘宝⽹禁⽌百度的爬⾍访问。
robots.txt的写法
Disallow： /admin/ 《禁止蜘蛛抓取admin目录下所有文件》
3，防止盗链
一般盗链也就几个人，可是一旦被搜索引擎“盗链”那家伙你100M宽带也吃不消，如果你做的不是图片网站，又不想被搜索引擎“盗链”你的网站图片
User-agent： *
Disallow： .jpg$
1，用robots屏蔽网站重复页
很多网站一个内容提供多种浏览版本，虽然很方便用户却对蜘蛛造成了困难，因为它分不清那个是主，那个是次，一旦让它认为你在恶意重复，你就惨了
User-agent： *
Disallow： /sitemap/ 《禁止蜘蛛抓取 文本网页》
2，用robots保护网站安全
很多人纳闷了，robots怎么还和网站安全有关系了？其实关系还很大，不少低级黑客就是通过搜索默认后台登陆，以达到入侵网站的目标
User-agent: Googlebot
Disallow: /*?
要指定与某个网址的结尾字符相匹配，请使用 $。例如，要拦截以 .xls 结尾的所有网址，请使用以下内容： User-agent: Google您可将此模式匹配与 Allow 指令配合使用。例如，如果 ? 代表一个会话 ID，那么您可能希望排除包含 ? 的所有网址，以确保 Googlebot 不会抓取重复网页。但是以 ? 结尾的网址可能是您希望包含
Allow: /*?$ 指令将允许以 ? 结尾的任何网址(具体地说，它将允许所有以您的域名开头、后接任意字符串，然后接 ?，? 之后不接任何字符的网址)。
以上介绍多数都是Google的/support/we … bots.html
4，提交网站地图
现在做优化的都知道做网站地图了，可是却没几个会提交的，绝大多数人是干脆在网页上加个链接，其实robots是支持这个功能的
robots.txt写法完全攻略
为什么对robots.txt文件的调用请求会产生一个二进制文件？只有网络服务器或FTP客户端软件错误设置的情况下才可 能发生这种错误。建议大家定期检查自己的robots.txt文件(http:/ /robo ts.txt)。
服务器/域名“农场”
错误5―指令行前有空格
例如"Disallow:/cgi-bin/"，虽然RES标准并未对这种格式予以特别说明，但我们对这种格式是持极力反对态度的。同样的问题摆在你面前 你冒得起无法被Spiders正确解读的险吗?
错误6--404重定向至另一页面
一般没有robots.txt的网站会将对robots.txt文件的调用请求转至另一页面。这种重定向通常不会产生服务器状态错误或重定向状态信息。然而因为是Spiders自己决定它看到的是robots.txt文件还是一个.html文件。虽然理论上应该不会有什么问题，不过为了保险起见，不妨在你服务器的顶级目录下放一个空的robots.txt文件。在www.go /bot.html下，也提供了相同的建议―“如欲避免网络服务器日志中的出错信息‘找不到文件’，可在其根域下创建一个空的robots.txt文件。”
绝大多数的spiders对上述声明行都无法做出正确的解析，有些Spiders会忽略其空格而解析为/css//cgi-bi n//images/，或只解析/images/或/css/，或者根本不予解析。
正确的语法应为：
Disallow: /css/
Disallow: /cgi-bin/
Disallow: /images/
对RES标准的扩展：
尽管已经提出了一些扩展标准，如Allow行或Robot版本控制(例如应该忽略大小写和版本号)，但尚未得到RES工作组 的正式批准认可。
Wordpress新手Robots.txt文件规范写法
Wordpress新手Robots.txt文件规范写法今日发现，有好多同学开始玩WordPress了，很高兴有些志同道合的朋友加入WP的大家庭。
可是，不管你的水平如何，只要你是站长，就有必要懂的Robots.txt的写法与作用。
近日，小站的?p=XX页面老是出现在百度收录中，虽然有增加收录的作用，但是会对网站权重造成影响。
所以我采取了一系列的措施来避免过多的重复页面抓取。
其实，我从一开始就做了Robot的优化工作，只不过搬空间时候忘了那个Robots文件了……一失足成千古恨，博客收录降了好多……Word Press的优化还是做得很好的，虽然有些地方需要借助自己对Html等小知识的掌握，但这并不妨碍你把WordPress站点打造成优化典范！下面我分享一下自己博客的Robots文件，并简单的说一下作用。
User-agent: *Disallow: /comments/feed/Disallow: /*/trackbackDisallow: /wp-admin/Disallow: /wp-includes/Disallow: /wp-content/plugins/Disallow: /wp-content/themes/Disallow: /*?replytocom=Disallow: /*/comment-page-*Disallow: /?r=*Disallow: /?p=*Disallow: /page/Allow: /wp-content/uploads/Sitemap: http://***.me/sitemap.xmlSitemap: http://***.me/sitemap_baidu.xml上面的User-agent:*意思就是对所有的蜘蛛进行规则，Disallow想必大家英文稍微会一点的都懂。
比如Disallow: /page/意思就是不要抓取/page下面的网页，以免造成降权。
seo如何写robots.txt
Disallow
2、允许所有的robot访问
User-agent
Disallow
或者
User-agent
Allow
注意，最直接的可以建一个空文件 “r-binsee
Allow tmphi
Allow ~joelook
Disallow cgi-bin
Disallow tmp
Disallow ~joe
5、使用””限制访问url
User-agent
Disallow cgi-bin.htm
意为禁止访问cgi-bin目录下的所有以”.htm”为后缀的URL(包含子目录)。
allow
或者： User-agent spider Disallow
disallow：后许访问特定目录中的部分url
User-agent
如何写robots.txt文件
在学习seo的过程中，robots.txt的撰写是不可避免的，但是众多新手并不知道如何写robots.txt，甚至连什么是robots.txt都不知道，我在刚开始的时候也是没有怎么认真写，我们广州seo咨询室就写了一个空的robots.txt文件，现在想想，对它的研究是少了点，毕竟robots.txt文件对一个网站的收录和排名还是有很大的帮助的，写好了，就等于你牵着se的鼻子走。
6、使用”$”限制访问url
User-agent
Allow .htm$
Disallow
意为仅允许访问以”.htm”为后缀的URL
7、禁止访问网站中所有的动态页面
User-agent
Disallow 8、禁止spider抓取网站上所有图片 译过来是不允许，可以写成allow。后面的“”表示所有文件，如果是某个文件夹，则要表示为“文件夹1ser-agent
robots文件的写法
Robots.txt的写法说明这是梦程序的robots文件，打开你的网址：http://www.******.com/robots.txt，应该有以下内容：User-agent: *Disallow: /plus/ad_js.phpDisallow: /plus/advancedsearch.phpDisallow: /plus/car.phpDisallow: /plus/carbuyaction.phpDisallow: /plus/shops_buyaction.phpDisallow: /plus/erraddsave.phpDisallow: /plus/posttocar.phpDisallow: /plus/disdls.phpDisallow: /plus/feedback_js.phpDisallow: /plus/mytag_js.phpDisallow: /plus/rss.phpDisallow: /plus/search.phpDisallow: /plus/recommend.phpDisallow: /plus/stow.phpDisallow: /plus/count.phpDisallow: /includeDisallow: /templetsDisallow: *?*sitemap: http://www.******.com/sitemap.xml说明：User-agent: * 定义搜索引擎，*指所有的搜索引擎。
Disallow: 不允许抓取的内容，注意冒号后面应该有个空格。
Disallow: *?*这样就屏蔽了站内所有的动态地址不被抓取。
有人会问，我设置了可是怎么还有搜索动态网址啊，那是因为搜索引擎需要一段时间做出反应。
过段时间就没不抓取了。
sitemap: 这个是网站地图，用于给搜索引擎看的，指引他找到网站里面所有的网页文件。
注意：可以把网站上的死链接写到这里进行屏蔽。
robots文件的写法
网站robots文件怎么写我们要先了解什么是robots文件，才能来讨论怎么写robots 文件。
那robots究竟是什么呢？robots文件是用来告诉搜索引擎：这个网站上哪些部分可以被访问、哪些不可以，robots文件是存放在网站根目录下的一个纯文本文件。
当搜索引擎访问一个网站时，它首先会检查该网站根目录下是否存在robots文件。
robots文件必须放置在一个网站的根目录下，而且文件名必须全部小写。
我们做的网站肯定希望被收录，因为网站流量的一部分或者是大部分都是来自搜索，所以网站排名对网站来说是很重要的。
问题是：我们有的网站内容不希望杯搜索到，那么怎么办呢？在这种情况下，我们就有必要会用到robots文件，来与搜索引擎沟通。
所有的搜索引擎蜘蛛自动在网站根目录中寻找这个文件，所以你只需创建它并上传，然后等待蜘蛛来阅读。
Robots.txt文件没有任何方式来保护你的内容，只是阻止搜索引擎的索引。
我在这里主要说明下怎么写Robots.txt文件首先，我们来看一个robots文件的范例：/robots.txt访问以上具体地址，我们可以看到robots.txt的具体内容如下：# Robots.txt file from # All robots will spider the domainUser-agent: *Disallow: /admnt88/这些的意思是：允许所有的搜索引擎对网站进行访问，但是不允许所有的引擎来访问名为admnt88的文件夹。
搜索引擎蜘蛛看到之后，就会遵守这个规矩，而不是想搜索什么就搜索什么了。
所以，知道了怎么写robots文件之后，就可以控制蜘蛛读取的内容了。
语法分析：#后面的文字为说明信息；User-agent：后面是要加搜索引擎的名称，如果后面是*，则代表所有的搜索引擎；Disallow：后面为不允许搜索引擎访问的文件目录。
robots文件具体写法：1、允许所有搜索引擎访问User-agent: *Disallow:或者User-agent: *Allow: /在这里大家要注意下，可以最直接的建一个空文件“robots.txt”然后放到网站的根目录。
robots.txt规则
robots.txt规则robots.txt是一种文件，用于告诉搜索引擎爬虫哪些页面可以被访问，哪些不可以被访问。
它通常放置于网站的根目录下，即域名后面的第一个文件。
网站管理员可以通过修改robots.txt来控制搜索引擎爬虫的行为，从而保证网站内容的安全和正确性。
下面是robots.txt规则及其解释。
User-agent:Disallow:这是robots.txt文件中最基本的规则，意思是所有的搜索引擎爬虫都不可以访问网站的任何页面。
这个规则的意思是所有的搜索引擎爬虫都不可以访问网站的任何页面。
这个规则通常比较危险，应该只在特殊情况下使用，比如网站被黑或者正在进行重大维护升级等。
这个规则的意思是只限制Google爬虫（googlebot）不能访问网站的/private/目录下的页面。
其他的搜索引擎爬虫依然可以访问这些页面。
User-agent: *Disallow: /admin/Disallow: /cgi-bin/Disallow: /db/Disallow: /includes/Disallow: /modules/Disallow: /tmp/Disallow: /web_services/Disallow: /xmlrpc/这个规则禁止搜索引擎爬虫访问网站的管理员目录、cgi-bin目录、数据库目录、代码包含目录、模块目录、临时文件目录、Web服务目录和XML-RPC目录。
这些目录通常包含的是网站的敏感信息和业务数据，所以要严格控制访问权限。
这个规则是WordPress网站的标准robots.txt规则。
它禁止了Google爬虫访问网站的说明文件、许可证文件、登录页面、XML-RPC文件以及WordPress的后台目录和核心文件目录。
其他的搜索引擎爬虫也可以根据这个规则进行访问控制。
这个规则禁止搜索引擎爬虫访问网站的压缩文件、PDF文件、Word文件、Excel文件、PPT文件和Flash文件。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
基础课程：robots.txt的正确写法和作用
robots.txt是针对搜索引擎的一个协议，也是搜索引擎在访问网站的时候第一个去访问的文件。
这个文件中的内容可以告知搜索引擎，在网站中，什么文件/页面是可以被查看和收录的，什么样的文件是不允许被查看和收录的。
robots.txt的重要性在于，当我们的网站由于feed,achieve等功能存在的时候，会产生大量的重复页面。
而重复页面会浪费搜索引擎资源，分散网页内容的权重，甚至可能造成降权。
拿本网站举例子：我们东方惠梵的官方网站()是给予wordpress系统搭建的，而这个系统天生就带有以上的一些可能造成重复页面的功能。
所以我们要在robots.txt 中写入内容，让搜索引擎不去抓取这些可能造成重复的也么。
robots.txt的正确写法
错误的robots.txt写法会导致网站对搜索引擎的设置无法生效，甚至可能屏蔽搜索引擎对于正常页面的访问和收录。
以我们东方惠梵为例，写法如下：
User-Agent: *
Disallow: /feed/
Disallow: /trackback
Disallow: /comments/feed
Disallow: /cgi-bin
Disallow: /cache/
Disallow: /wp-content/
Disallow: /wp-includes/
Disallow: /wp-admin/
Disallow: /author/
Disallow: /page/
Disallow: /*.css$
Disallow: /*.js$
这些是什么意思呢？
其中第一句User-Agent是指对哪些搜索引擎生效的。
我们这里用星号对所有遵守robots.txt 协议的搜索引擎生效。
后面的Disallow是我们让搜索引擎不去查看和抓取的文件/网页，其中：
∙/feed/：这里定义是禁止查看和收录feed/目录下面的目录和网页
∙/*.js&：这里定义是禁止查看和收录所有以.js结尾的文件
robots.txt的功能和使用误区
正如上文所说，合理的运用robots.txt可以帮助搜索引擎蜘蛛正确的抓取重要和有价值的页面，从而集中网站权重，使得部分待优化的关键词和网站整体权重提高。
那是不是说，我们
将绝大部分网页都用robots.txt屏蔽，然后只运行抓取和突出首页以及部分权重页面就可以了呢？
当然不是，robots.txt只是一种帮助搜索引擎去了解网站和网页内容。
其作用和sitemap类似，是一种辅助的SEO手段。
过多或过少的设置robots.txt内容，都会造成一种非自然的优化方式，从而影响搜索引擎对网站的正常判断和收录。
更多的关于robots.txt写法，可以参照百度百科中robots.txt这个词条的内容。
大家根据自己网站情况举一反三，写出自己独有的robots.txt文件。
小技巧：sitemap的url也可以写在robots.txt中，其具体的写法是：
Sitemap: /sitemap.xml
小提升：
∙不要忘记robots.txt中的那个s，而写成robot.txt。
这样的文件是对搜索引擎没有任何作用的。
∙有些搜索引擎是不遵守robots.txt的，对于这样的非知名流氓搜索引擎，最有效的办法是从源头屏蔽IP处其访问。
因为这种非知名流氓搜索引擎会大量的占用服务器资源，从而影响其他正常搜索引擎和真实用户的访问和浏览。
关键词：robots.txt写法,robots.txt作用
本文由兰州网站建设及兰州SEO-东方惠梵优化团队杨帆AimarYang原创，转载请保留链接：/blog/robots-txt-correct-format-and-funcation/。