收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| AmazonKendraWebCrawler | AmazonKendraWebCrawler | 未分类 | — | — | 无视 | 停用 |
| OnlineOrNot.com_bot | OnlineOrNot.com_bot | 未分类 | — | — | 无视 | 停用 |
| EtaoSpider | EtaoSpider | 未分类 | — | — | 无视 | 停用 |
| Google-Display-Ads-Bot | Google-Display-Ads-Bot | 未分类 | — | — | 无视 | 停用 |
| Baiduspider-smart | Baiduspider-smart | 未分类 | — | — | 无视 | 停用 |
| AppNexusSellersJsonCrawler | AppNexusSellersJsonCrawler | 未分类 | — | — | 无视 | 停用 |
| DomainMacroCrawler | DomainMacroCrawler | 未分类 | — | — | 无视 | 停用 |
| ownCloud News | ownCloud News | 未分类 | — | — | 无视 | 停用 |
| CompanyNewsBot | CompanyNewsBot | 未分类 | — | — | 无视 | 停用 |
| ExB Language Crawler | ExB Language Crawler | 未分类 | — | — | 无视 | 停用 |
| GeliyooBot | GeliyooBot | 未分类 | — | — | 无视 | 停用 |
| WebAlta Crawler | WebAlta Crawler | 未分类 | — | — | 无视 | 停用 |
| elementor | elementor | 未分类 | — | — | 无视 | 停用 |
| January | January | 未分类 | — | — | 无视 | 停用 |
| DomainCodexBot | DomainCodexBot | 未分类 | — | — | 无视 | 停用 |
| OpenWebSearchBot | OpenWebSearchBot | 未分类 | — | — | 无视 | 停用 |
| adstxt-scrapr | adstxt-scrapr | 未分类 | — | — | 无视 | 停用 |
| security-research.org | security-research.org | 未分类 | — | — | 无视 | 停用 |
| prieobot | prieobot | 未分类 | — | — | 无视 | 停用 |
| mercadolibrobot | mercadolibrobot | 未分类 | — | — | 无视 | 停用 |
| YunGuanCe | YunGuanCe | 未分类 | — | — | 无视 | 停用 |
| JikeSpider | JikeSpider | 未分类 | — | — | 无视 | 停用 |
| Sogou Blog Spider | Sogou Blog Spider | 未分类 | — | — | 无视 | 停用 |
| Sogou Zhidao Spider | Sogou Zhidao Spider | 未分类 | — | — | 无视 | 停用 |
| DoCoMo | DoCoMo | 未分类 | — | — | 无视 | 停用 |
| follow.it | follow.it | 未分类 | — | — | 无视 | 停用 |
| CloudWatch-Synthetics | CloudWatch-Synthetics | 未分类 | — | — | 无视 | 停用 |
| CLARIN-VLO-Crawler | CLARIN-VLO-Crawler | 未分类 | — | — | 无视 | 停用 |
| CLARIN-OAI-Harvester | CLARIN-OAI-Harvester | 未分类 | — | — | 无视 | 停用 |
| AppNexus crawler | AppNexus crawler | 未分类 | — | — | 无视 | 停用 |