关于robots.txt,不允许参数URL



我有以搜索结束的页面=关键字,我希望谷歌防止抓取这些页面。示例页面如下。我想知道如果我在robots.txt中放了一个Disallow:/search,会起作用吗?

示例URL:

http://www.website.com/search?=neymar
http://www.website.com/search?=ronaldo
http://www.website.com/search?=kobe

所以基本上,我不希望谷歌抓取所有以搜索结束的URL=关键字。非常感谢。

它会工作的。

Disallow: /search?=*

您可以简单地使用;不允许:/";标签以及URL。这将工作

最新更新