收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| bias-goggles crawler | bias-goggles crawler | 未分类 | — | — | 无视 | 停用 |
| Neustar WPM | Neustar WPM | 未分类 | — | — | 无视 | 停用 |
| BadooBot | BadooBot | 未分类 | — | — | 无视 | 停用 |
| adstxt.com crawler | adstxt.com crawler | 未分类 | — | — | 无视 | 停用 |
| YunSecurityBot | YunSecurityBot | 未分类 | — | — | 无视 | 停用 |
| SetCronJob | SetCronJob | 未分类 | — | — | 无视 | 停用 |
| ScopeContent bot | ScopeContent bot | 未分类 | — | — | 无视 | 停用 |
| hledejLevne.cz | hledejLevne.cz | 未分类 | — | — | 无视 | 停用 |
| Heurekabot | Heurekabot | 未分类 | — | — | 无视 | 停用 |
| HyperZbozi.cz Feeder | HyperZbozi.cz Feeder | 未分类 | — | — | 无视 | 停用 |
| eBot | eBot | 未分类 | — | — | 无视 | 停用 |
| Bitrix crawler | Bitrix crawler | 未分类 | — | — | 无视 | 停用 |
| Promotion_Tools | Promotion_Tools | 未分类 | — | — | 无视 | 停用 |
| JobKereso | JobKereso | 未分类 | — | — | 无视 | 停用 |
| PrivacyScore.org crawler | PrivacyScore.org crawler | 未分类 | — | — | 无视 | 停用 |
| Automation Anywhere internal monitor | Automation Anywhere internal monitor | 未分类 | — | — | 无视 | 停用 |
| Blue Prism Internal Monitor | Blue Prism Internal Monitor | 未分类 | — | — | 无视 | 停用 |
| RyowlEngine | RyowlEngine | 未分类 | — | — | 无视 | 停用 |
| Virusdie crawler | Virusdie crawler | 未分类 | — | — | 无视 | 停用 |
| LinqTo.me | LinqTo.me | 未分类 | — | — | 无视 | 停用 |
| People Data Labs crawler | People Data Labs crawler | 未分类 | — | — | 无视 | 停用 |
| linkgraph.io crawler | linkgraph.io crawler | 未分类 | — | — | 无视 | 停用 |
| Twingly Recon | Twingly Recon | 未分类 | — | — | 无视 | 停用 |
| KeepRight OpenStreetMap Checker | KeepRight OpenStreetMap Checker | 未分类 | — | — | 无视 | 停用 |
| Aspire Web Crawler | Aspire Web Crawler | 未分类 | — | — | 无视 | 停用 |
| CrawlForMe | CrawlForMe | 未分类 | — | — | 无视 | 停用 |
| aylienbot | aylienbot | 未分类 | — | — | 无视 | 停用 |
| leady.com crawler | leady.com crawler | 未分类 | — | — | 无视 | 停用 |
| AddThis.com | AddThis.com | 未分类 | — | — | 无视 | 停用 |
| SvetaBot | SvetaBot | 未分类 | — | — | 无视 | 停用 |