我的网站/图片上有一个文件夹。它有许多子文件夹。每个子文件夹都包含文件。我希望隐藏/图片及其子文件夹和子文件夹的文件中的搜索引擎文件。
我使用以下哪项,或者它们是同义词:
Disallow: /pics
Disallow: /pics/
Disallow: /pics/*
,如果它们不是同义词,则它们之间的影响有什么?
它们不是同义词。
Disallow
值始终表示URL路径的 。因此,Disallow: /pics/
不会阻止https://example.com/pics
,并且Disallow: /pics
也阻止https://example.com/picsandmore
。
Disallow: /pics/*
是一种特殊情况:在原始robots.txt规范中, *
没有特殊的含义,它像其他任何人一样(因此会阻止像 https://example.com/pics/*foo
这样的URL)。但是许多搜索引擎扩展了robots.txt规范,并将*
解释为任何字符串的占位符(包括空字符串)。但是,这将等于Disallow: /pics/
,因此最好在这种情况下不使用*
变体。
如果您还想阻止https://example.com/pics
(而不落后斜线),则必须使用Disallow: /pics
。但是请记住,它还以/pics
开头的路径阻止任何其他URL。
如果没有https://example.com/pics
,所以总有拖延的斜线,您可以使用更限制的Disallow: /pics/
。
并且如果要隐藏有一个pics
文件夹的事实,则可以使用Disallow: /p
或Disallow: /pi
等。Div>