这篇文章讨论了在搜索引擎的收录问题中,robots.txt文件的作用以及nofollow属性的作用。
作者介绍了nofollow属性的作用是不传递链接的权重。
。
作者以淘宝为例进行了说明,指出尽管淘宝网站设置了robots.txt文件,但由于存在大量外部链接指向淘宝官网,并且这些外链的权重可能较高,导致淘宝仍然被搜索引擎收录了1亿多条链接。
作者解释了robots.txt文件只是限制搜索引擎抓取网页,而不是禁止搜索引擎将其收录的概念。
接下来,作者提出了如何处理这类收录问题的建议:在正确设置robots.txt文件的同时,不要在任何一个收录的网站上发布外链或友链,并且不要主动向百度提交网站,这样才能保证不被搜索引擎收录。
这篇文章的内容较为简单,主要介绍了robots.txt文件和nofollow属性的作用,并以淘宝为例进行了实际情况的说明。
标签: Robots、本文地址: https://yihaiquanyi.com/article/54f586e5209fca71c83c.html
上一篇:seo整站优化哪家好SEO整站优化值得注意的4...