收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| htmlyse crawler | htmlyse crawler | 未分类 | — | — | 无视 | 停用 |
| 28logsSpider | 28logsSpider | 未分类 | — | — | 无视 | 停用 |
| uclassify.com | uclassify.com | 未分类 | — | — | 无视 | 停用 |
| Sysomos bot | Sysomos bot | 未分类 | — | — | 无视 | 停用 |
| findl.sk bot | findl.sk bot | 未分类 | — | — | 无视 | 停用 |
| northcutt.com crawler | northcutt.com crawler | 未分类 | — | — | 无视 | 停用 |
| Burf.co | Burf.co | 未分类 | — | — | 无视 | 停用 |
| keyword-hero bot | keyword-hero bot | 未分类 | — | — | 无视 | 停用 |
| iCjobs | iCjobs | 未分类 | — | — | 无视 | 停用 |
| Sitedomain-Bot | Sitedomain-Bot | 未分类 | — | — | 无视 | 停用 |
| Enolyst Crawler | Enolyst Crawler | 未分类 | — | — | 无视 | 停用 |
| Check-Domains.com bot | Check-Domains.com bot | 未分类 | — | — | 无视 | 停用 |
| bot-pge.chlooe.com | bot-pge.chlooe.com | 未分类 | — | — | 无视 | 停用 |
| Page Valet | Page Valet | 未分类 | — | — | 无视 | 停用 |
| FoundSeoTool | FoundSeoTool | 未分类 | — | — | 无视 | 停用 |
| Girafabot | Girafabot | 未分类 | — | — | 无视 | 停用 |
| Rightlander crawler | Rightlander crawler | 未分类 | — | — | 无视 | 停用 |
| basicstate.com | basicstate.com | 未分类 | — | — | 无视 | 停用 |
| LeadCrunch crawler | LeadCrunch crawler | 未分类 | — | — | 无视 | 停用 |
| OttoBot | OttoBot | 未分类 | — | — | 无视 | 停用 |
| i4ds-bot | i4ds-bot | 未分类 | — | — | 无视 | 停用 |
| lsv1_ads.txt_crawler | lsv1_ads.txt_crawler | 未分类 | — | — | 无视 | 停用 |
| SBooksNet | SBooksNet | 未分类 | — | — | 无视 | 停用 |
| Companybook Crawler | Companybook Crawler | 未分类 | — | — | 无视 | 停用 |
| MeWeBot | MeWeBot | 未分类 | — | — | 无视 | 停用 |
| DomainCheck.io Crawler | DomainCheck.io Crawler | 未分类 | — | — | 无视 | 停用 |
| localsearch crawler | localsearch crawler | 未分类 | — | — | 无视 | 停用 |
| RankFlex.com Webspider | RankFlex.com Webspider | 未分类 | — | — | 无视 | 停用 |
| iThemes crawler | iThemes crawler | 未分类 | — | — | 无视 | 停用 |
| Sucuri bot | Sucuri bot | 未分类 | — | — | 无视 | 停用 |