在这些命令中,可以使用通配符*、$等。
以下是一些示例:- 使用通配符的命令示例: - Indexpage:http://bbs.360safe.com/forum-*-1.html$ - Indexpage:http://ent.sina.com.cn/*/roll.html- 不使用通配符的命令示例: - Indexpage:http://roll.tech.sina.com.cn/internet_all/index.shtml - Indexpage:http://roll.tech.sina.com.cn/it/index.shtml - Indexpage:http://roll.tech.sina.com.cn/tele/index.shtml - Indexpage:http://roll.tech.sina.com.cn/discovery/index.shtml - Indexpage:http://roll.tech.sina.com.cn/elec/index.shtml这些命令的推出将使站长们能够更好地控制搜索引擎爬虫的抓取行为,提高站点新内容的抓取频率,从而提升站点在360搜索结果中的曝光度。
其中首个扩展命令是indexpage,可以用于告知360搜索哪些网页经常更新。
。
360搜索将推出扩展的Robots协议命令,以帮助站长们提高与其爬虫的沟通效率,并减少维护Robots协议文件的技术成本。
根据站长的指示和自身算法,360搜索将智能调整爬虫的抓取频率,从而实现对站点新内容的更高频率抓取。
标签: Robots、本文地址: https://yihaiquanyi.com/article/f29f1ed036348a0bfe45.html
上一篇:百度搜索页面变成了白色百度搜索页面质量标...