这篇文章介绍了在网站上禁止搜索引擎收录某些页面的方法。作者提到了使用robots.txt文件或者metarobots标签来实现这一目的。
在文章中,作者解释了metarobots标签的含义和用法。metarobots标签是网页head部分的一个meta标签,用于指令搜索引擎禁止索引本页内容。
作者详细介绍了metarobots标签的写法,包括禁止所有搜索引擎索引本页面和禁止跟踪本页面上的链接的意义。
除了禁止索引页面的方法外,作者还提到了另一种使用metarobots标签的方式,即禁止索引本页面,但允许蜘蛛跟踪页面上的链接,并传递权重。
文章指出,使用了noindex的metarobots标签的页面会被搜索引擎抓取,但不会被索引,即页面URL不会出现在搜索结果中。这与使用robots.txt文件的效果有所不同。
最后,作者总结了metarobots标签的作用,包括禁止搜索引擎索引页面并禁止跟踪链接,以及禁止索引页面但允许蜘蛛跟踪链接并传递权重。
然而,作者也指出,metarobots标签在许多搜索引擎中并不被支持,只有少数搜索引擎能够识别并按给定的值进行抓取。因此,建议使用robots.txt文件来限制抓取,同时建议读者了解有关metarobots标签的知识和写法。
标签: Robots、本文地址: https://yihaiquanyi.com/article/81439a21ff6d2ff6c220.html
上一篇:研究用户需求的三个模型研究用户需求流量新...