收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| MiaDev | MiaDev | 未分类 | — | — | 无视 | 停用 |
| SurcentroBot | SurcentroBot | 未分类 | — | — | 无视 | 停用 |
| MeMoNewsBot | MeMoNewsBot | 未分类 | — | — | 无视 | 停用 |
| AskQuickly | AskQuickly | 未分类 | — | — | 无视 | 停用 |
| Peew | Peew | 未分类 | — | — | 无视 | 停用 |
| Symfony Spider | Symfony Spider | 未分类 | — | — | 无视 | 停用 |
| KrOWLer | KrOWLer | 未分类 | — | — | 无视 | 停用 |
| eCommerceBot | eCommerceBot | 未分类 | — | — | 无视 | 停用 |
| Nuhk | Nuhk | 未分类 | — | — | 无视 | 停用 |
| PercolateCrawler | PercolateCrawler | 未分类 | — | — | 无视 | 停用 |
| Falconsbot | Falconsbot | 未分类 | — | — | 无视 | 停用 |
| IdeelaborPlagiaat | IdeelaborPlagiaat | 未分类 | — | — | 无视 | 停用 |
| MetaHeadersBot | MetaHeadersBot | 未分类 | — | — | 无视 | 停用 |
| suggybot | suggybot | 未分类 | — | — | 无视 | 停用 |
| Jabse.com Crawler | Jabse.com Crawler | 未分类 | — | — | 无视 | 停用 |
| IXEbot | IXEbot | 未分类 | — | — | 无视 | 停用 |
| tldstat.com crawler | tldstat.com crawler | 未分类 | — | — | 无视 | 停用 |
| DCPbot | DCPbot | 未分类 | — | — | 无视 | 停用 |
| QuerySeekerSpider | QuerySeekerSpider | 未分类 | — | — | 无视 | 停用 |
| UnwindFetchor | UnwindFetchor | 未分类 | — | — | 无视 | 停用 |
| Robozilla | Robozilla | 未分类 | — | — | 无视 | 停用 |
| StudioFACA Search | StudioFACA Search | 未分类 | — | — | 无视 | 停用 |
| BizwikiBot | BizwikiBot | 未分类 | — | — | 无视 | 停用 |
| Open Web Analytics Bot | Open Web Analytics Bot | 未分类 | — | — | 无视 | 停用 |
| crawler for netopian | crawler for netopian | 未分类 | — | — | 无视 | 停用 |
| AlexionResearchBot | AlexionResearchBot | 未分类 | — | — | 无视 | 停用 |
| Nekstbot | Nekstbot | 未分类 | — | — | 无视 | 停用 |
| r0.cz crawler | r0.cz crawler | 未分类 | — | — | 无视 | 停用 |
| HuaweiSymantecSpider | HuaweiSymantecSpider | 未分类 | — | — | 无视 | 停用 |
| YP crawler | YP crawler | 未分类 | — | — | 无视 | 停用 |