收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| LumtelBot | LumtelBot | 未分类 | — | — | 无视 | 停用 |
| AffiliateLabz crawler | AffiliateLabz crawler | 未分类 | — | — | 无视 | 停用 |
| EPFL cravler | EPFL cravler | 未分类 | — | — | 无视 | 停用 |
| Mappy | Mappy | 未分类 | — | — | 无视 | 停用 |
| Corax | Corax | 未分类 | — | — | 无视 | 停用 |
| blogger.com | blogger.com | 未分类 | — | — | 无视 | 停用 |
| ROR Sitemap Generator | ROR Sitemap Generator | 未分类 | — | — | 无视 | 停用 |
| Runet-Research-Crawler | Runet-Research-Crawler | 未分类 | — | — | 无视 | 停用 |
| iodc crawler | iodc crawler | 未分类 | — | — | 无视 | 停用 |
| Atlas Comm crawler | Atlas Comm crawler | 未分类 | — | — | 无视 | 停用 |
| NameFo | NameFo | 未分类 | — | — | 无视 | 停用 |
| SeopultContentAnalyzer | SeopultContentAnalyzer | 未分类 | — | — | 无视 | 停用 |
| StatvooBot | StatvooBot | 未分类 | — | — | 无视 | 停用 |
| Prlog | Prlog | 未分类 | — | — | 无视 | 停用 |
| bbot | bbot | 未分类 | — | — | 无视 | 停用 |
| brands-bot-logo | brands-bot-logo | 未分类 | — | — | 无视 | 停用 |
| brands-bot | brands-bot | 未分类 | — | — | 无视 | 停用 |
| Owlin | Owlin | 未分类 | — | — | 无视 | 停用 |
| OSZKbot | OSZKbot | 未分类 | — | — | 无视 | 停用 |
| Gluten Free Crawler | Gluten Free Crawler | 未分类 | — | — | 无视 | 停用 |
| oasis.go.kr crawler | oasis.go.kr crawler | 未分类 | — | — | 无视 | 停用 |
| Sideqik crawler | Sideqik crawler | 未分类 | — | — | 无视 | 停用 |
| CouponWCode Bot | CouponWCode Bot | 未分类 | — | — | 无视 | 停用 |
| 2gisbot | 2gisbot | 未分类 | — | — | 无视 | 停用 |
| WebBot | WebBot | 未分类 | — | — | 无视 | 停用 |
| BirilBot | BirilBot | 未分类 | — | — | 无视 | 停用 |
| Fuze_Bot | Fuze_Bot | 未分类 | — | — | 无视 | 停用 |
| AdBot | AdBot | 未分类 | — | — | 无视 | 停用 |
| AppBeat | AppBeat | 未分类 | — | — | 无视 | 停用 |
| DomainSigmaCrawler | DomainSigmaCrawler | 未分类 | — | — | 无视 | 停用 |