【硬盘检测工具mhdd介绍】-爱站seo工具之robots检测工具介绍

robots检测工具功能介绍

本工具可以检测指定域名的robots.txt文件配置信息,可以方便快速检测robots文件每一行的含义,检测配置是否正确。

爱站SEO工具包下载:爱站SEO工具包

使用步骤:将需要检测robots的地址输入检测框内,点击“查询”开始检测,系统会自动检测并将检测结果显示在robots检测结果框内。

爱站seo工具之robots检测工具介绍

爱站seo工具之robots检测工具介绍

Robots.txt是存放在站点根目录下的一个纯文本文件。robots文件作用很强大,配置却很简单。它可以指定搜索引擎蜘蛛只抓取指定的内容,或禁止搜索引擎蜘蛛抓取网站的部分或全部内容。