下面的列表有什么不同:
<meta name="robots" content="index, follow">
<meta name="robots" content="follow">
<meta name="robots" content="noindex, follow">
<meta name="robots" content="index, nofollow">
<meta name="robots" content="noindex, nofollow">
首先,您可能了解元机器人标签。
元机器人标签是告诉蜘蛛或爬网程序要爬网或不索引哪个页面。
跟随意味着:页面将被爬网。
无关注意味着:页面将不会被爬网。
索引表示:您的页面显示在搜索结果中。
无索引意味着:您的页面不会显示在搜索结果中。
<meta name="robots" content="index, follow">
这个标签告诉网络爬虫所有网页都将被编入索引并对其进行爬网。
<meta name="robots" content="follow">
此标记用于告诉网络爬网程序将对所有页面进行爬网和索引。
<meta name="robots" content="noindex, follow">
此标记用于告诉爬网程序跟踪但不索引数据库中的页面。
<meta name="robots" content="index, nofollow">
告诉网络爬虫不要对页面进行爬网,而是对其进行索引。
<meta name="robots" content="noindex, nofollow">
告诉网络爬网程序既不要索引也不要爬网。
蜘蛛会为您的整个网站建立索引。蜘蛛不仅会为你网站的第一个网页编制索引,还会在从这个页面抓取链接时为你的所有其他网页编制索引。
告诉搜索引擎,它可能会跟踪页面上的链接,以发现其他页面(这两种行为都是默认行为(。
<meta name="robots" content="index, follow">
<meta name="robots" content="follow">
蜘蛛现在会索引你的整个网站。蜘蛛不会索引网页,但它可能会跟随网页上的链接来发现其他页面。
<meta name="robots" content="noindex, follow">
spider将对此页面进行索引,但不会跟随此页面上的链接进入新页面。
<meta name="robots" content="index, nofollow">
蜘蛛根本不会索引此页面,也不会跟随此页面上的链接到任何其他页面。
<meta name="robots" content="noindex, nofollow">
来源:
元名称机器人标签
元机器人标签的终极指南
<meta>:元数据元素
这些标签之间的主要区别是:
noindex:该页面不应该显示在谷歌、雅虎等网站的结果列表中。
索引:表示相反并允许。
nofollow:不允许爬网程序/机器人调用(关注(嵌入(位于(元数据中带有此标志的页面中的链接。
跟随:意思相反并允许。