收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| OptimizationCrawler | OptimizationCrawler | 未分类 | — | — | 无视 | 停用 |
| Mozilla Metadata Service | Mozilla Metadata Service | 未分类 | — | — | 无视 | 停用 |
| HootSuite crawler | HootSuite crawler | 未分类 | — | — | 无视 | 停用 |
| GIDBot | GIDBot | 未分类 | — | — | 无视 | 停用 |
| Brodie | Brodie | 未分类 | — | — | 无视 | 停用 |
| DIY-SEOBot | DIY-SEOBot | 未分类 | — | — | 无视 | 停用 |
| Donuts Content Explorer | Donuts Content Explorer | 未分类 | — | — | 无视 | 停用 |
| RockhallFundingCrawler | RockhallFundingCrawler | 未分类 | — | — | 无视 | 停用 |
| LexxeBot | LexxeBot | 未分类 | — | — | 无视 | 停用 |
| OpenDocumentCrawler | OpenDocumentCrawler | 未分类 | — | — | 无视 | 停用 |
| Netpursual | Netpursual | 未分类 | — | — | 无视 | 停用 |
| Whoiswebsitebot | Whoiswebsitebot | 未分类 | — | — | 无视 | 停用 |
| MailDBBot | MailDBBot | 未分类 | — | — | 无视 | 停用 |
| VSB-TUO | VSB-TUO | 未分类 | — | — | 无视 | 停用 |
| MS Cognitive Services | MS Cognitive Services | 未分类 | — | — | 无视 | 停用 |
| Fetch-Guess | Fetch-Guess | 未分类 | — | — | 无视 | 停用 |
| biNu crawler | biNu crawler | 未分类 | — | — | 无视 | 停用 |
| Avira crawler | Avira crawler | 未分类 | — | — | 无视 | 停用 |
| SalesIntelligent | SalesIntelligent | 未分类 | — | — | 无视 | 停用 |
| Siteliner | Siteliner | 未分类 | — | — | 无视 | 停用 |
| Semiocast crawler | Semiocast crawler | 未分类 | — | — | 无视 | 停用 |
| mbot | mbot | 未分类 | — | — | 无视 | 停用 |
| SBA Research bot | SBA Research bot | 未分类 | — | — | 无视 | 停用 |
| YOOBI.de bot | YOOBI.de bot | 未分类 | — | — | 无视 | 停用 |
| Google-HotelAdsVerifier | Google-HotelAdsVerifier | 未分类 | — | — | 无视 | 停用 |
| BOTW Spider | BOTW Spider | 未分类 | — | — | 无视 | 停用 |
| PagesInventory | PagesInventory | 未分类 | — | — | 无视 | 停用 |
| MixBot | MixBot | 未分类 | — | — | 无视 | 停用 |
| BotRobin | BotRobin | 未分类 | — | — | 无视 | 停用 |
| ImaggaBot | ImaggaBot | 未分类 | — | — | 无视 | 停用 |