适用于使用Robots.txt搜索引擎中隐藏文件夹和子文件夹的适当语法



我的网站/图片上有一个文件夹。它有许多子文件夹。每个子文件夹都包含文件。我希望隐藏/图片及其子文件夹和子文件夹的文件中的搜索引擎文件。

我使用以下哪项,或者它们是同义词:

Disallow: /pics
Disallow: /pics/
Disallow: /pics/*

,如果它们不是同义词,则它们之间的影响有什么?

它们不是同义词。

Disallow值始终表示URL路径的 。因此,Disallow: /pics/不会阻止https://example.com/pics,并且Disallow: /pics也阻止https://example.com/picsandmore

Disallow: /pics/*是一种特殊情况:在原始robots.txt规范中, *没有特殊的含义,它像其他任何人一样(因此会阻止像 https://example.com/pics/*foo这样的URL)。但是许多搜索引擎扩展了robots.txt规范,并将*解释为任何字符串的占位符(包括空字符串)。但是,这将等于Disallow: /pics/,因此最好在这种情况下不使用*变体。

如果您还想阻止https://example.com/pics(而不落后斜线),则必须使用Disallow: /pics。但是请记住,它还以/pics开头的路径阻止任何其他URL。

如果没有https://example.com/pics,所以总有拖延的斜线,您可以使用更限制的Disallow: /pics/

并且如果要隐藏有一个pics文件夹的事实,则可以使用Disallow: /pDisallow: /pi等。Div>

最新更新