360搜索对话 (360搜索对Robots协议的扩展)

文章编号:436 更新时间:2023-12-28 分类:互联网资讯 阅读次数:

资讯内容

在这些命令中,可以使用通配符*、$等。

搜索对话搜索对Robots协议

以下是一些示例:- 使用通配符的命令示例: - Indexpage:http://bbs.360safe.com/forum-*-1.html$ - Indexpage:http://ent.sina.com.cn/*/roll.html- 不使用通配符的命令示例: - Indexpage:http://roll.tech.sina.com.cn/internet_all/index.shtml - Indexpage:http://roll.tech.sina.com.cn/it/index.shtml - Indexpage:http://roll.tech.sina.com.cn/tele/index.shtml - Indexpage:http://roll.tech.sina.com.cn/discovery/index.shtml - Indexpage:http://roll.tech.sina.com.cn/elec/index.shtml这些命令的推出将使站长们能够更好地控制搜索引擎爬虫的抓取行为,提高站点新内容的抓取频率,从而提升站点在360搜索结果中的曝光度。

其中首个扩展命令是indexpage,可以用于告知360搜索哪些网页经常更新

360搜索将推出扩展的Robots协议命令,以帮助站长们提高与其爬虫的沟通效率,并减少维护Robots协议文件的技术成本。

根据站长的指示和自身算法,360搜索将智能调整爬虫的抓取频率,从而实现对站点新内容的更高频率抓取。

标签: Robots

本文地址: https://yihaiquanyi.com/article/f29f1ed036348a0bfe45.html

上一篇:百度搜索页面变成了白色百度搜索页面质量标...
下一篇:地图标注干嘛的地图标注你了解多少零老本守...

发表评论