收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| Ahrefs | Ahrefs | SEO分析 | 未知 | — | 无视 | 停用 |
| fuelbot | fuelbot | SEO分析 | 未知 | — | 无视 | 停用 |
| mappydata | mappydata | SEO分析 | 未知 | — | 无视 | 停用 |
| woobot | woobot | SEO分析 | 未知 | — | 无视 | 停用 |
| PrivacyAwareBot | PrivacyAwareBot | SEO分析 | 未知 | — | 无视 | 停用 |
| Multiviewbot | Multiviewbot | SEO分析 | 未知 | — | 无视 | 停用 |
| SWIMGBot | SWIMGBot | SEO分析 | 未知 | — | 无视 | 停用 |
| Grobbot | Grobbot | SEO分析 | 未知 | — | 无视 | 停用 |
| eright | eright | SEO分析 | 未知 | — | 无视 | 停用 |
| Apercite | Apercite | SEO分析 | 未知 | — | 无视 | 停用 |
| semanticbot | semanticbot | SEO分析 | 未知 | — | 无视 | 停用 |
| domaincrawler | domaincrawler | SEO分析 | 未知 | — | 无视 | 停用 |
| summify | summify | SEO分析 | 未知 | — | 无视 | 停用 |
| gslfbot | gslfbot | SEO分析 | 未知 | — | 无视 | 停用 |
| intelium_bot | intelium_bot | SEO分析 | 未知 | — | 无视 | 停用 |
| RetrevoPageAnalyzer | RetrevoPageAnalyzer | SEO分析 | 未知 | — | 无视 | 停用 |
| lssbot | lssbot | SEO分析 | 未知 | — | 无视 | 停用 |
| careerbot | careerbot | SEO分析 | 未知 | — | 无视 | 停用 |
| lssrocketcrawler | lssrocketcrawler | SEO分析 | 未知 | — | 无视 | 停用 |
| drupact | drupact | SEO分析 | 未知 | — | 无视 | 停用 |
| webcompanycrawler | webcompanycrawler | SEO分析 | 未知 | — | 无视 | 停用 |
| gnam | gnam | SEO分析 | 未知 | — | 无视 | 停用 |
| backlinkcrawler | backlinkcrawler | SEO分析 | 未知 | — | 无视 | 停用 |
| content | content | SEO分析 | 未知 | — | 无视 | 停用 |
| toplistbot | toplistbot | SEO分析 | 未知 | — | 无视 | 停用 |
| it2media-domain-crawler | it2media-domain-crawler | SEO分析 | 未知 | — | 无视 | 停用 |
| siteexplorer | siteexplorer | SEO分析 | 未知 | — | 无视 | 停用 |
| elisabot | elisabot | SEO分析 | 未知 | — | 无视 | 停用 |
| niki-bot | niki-bot | SEO分析 | 未知 | — | 无视 | 停用 |
| CrystalSemanticsBot | CrystalSemanticsBot | SEO分析 | 未知 | — | 无视 | 停用 |