收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| Yandex.Webmaster | Yandex.Webmaster | 未分类 | — | — | 无视 | 停用 |
| Domains Project bot | Domains Project bot | 未分类 | — | — | 无视 | 停用 |
| Storm-crawler | Storm-crawler | 未分类 | — | — | 无视 | 停用 |
| Spideraf-Bot | Spideraf-Bot | 未分类 | — | — | 无视 | 停用 |
| FCCN crawler | FCCN crawler | 未分类 | — | — | 无视 | 停用 |
| WhatCMS.org bot | WhatCMS.org bot | 未分类 | — | — | 无视 | 停用 |
| DataForSeo bot | DataForSeo bot | 未分类 | — | — | 无视 | 停用 |
| web-crawler | web-crawler | 未分类 | — | — | 无视 | 停用 |
| AccompanyBot | AccompanyBot | 未分类 | — | — | 无视 | 停用 |
| DomCop Bot | DomCop Bot | 未分类 | — | — | 无视 | 停用 |
| ArchiveTeam crawler | ArchiveTeam crawler | 未分类 | — | — | 无视 | 停用 |
| Panscient crawler | Panscient crawler | 未分类 | — | — | 无视 | 停用 |
| NetSystemsResearch crawler | NetSystemsResearch crawler | 未分类 | — | — | 无视 | 停用 |
| RSSMicro.com RSS/Atom Feed Robot | RSSMicro.com RSS/Atom Feed Robot | 未分类 | — | — | 无视 | 停用 |
| GDNP crawler | GDNP crawler | 未分类 | — | — | 无视 | 停用 |
| Nextcloud Crawler | Nextcloud Crawler | 未分类 | — | — | 无视 | 停用 |
| RW_Crawler | RW_Crawler | 未分类 | — | — | 无视 | 停用 |
| Sidetrade crawler | Sidetrade crawler | 未分类 | — | — | 无视 | 停用 |
| KOCMOHABT bot | KOCMOHABT bot | 未分类 | — | — | 无视 | 停用 |
| Hlidam.to robot | Hlidam.to robot | 未分类 | — | — | 无视 | 停用 |
| Chatwork crawler | Chatwork crawler | 未分类 | — | — | 无视 | 停用 |
| CastFeedValidator | CastFeedValidator | 未分类 | — | — | 无视 | 停用 |
| RedHunt Labs bot | RedHunt Labs bot | 未分类 | — | — | 无视 | 停用 |
| SBSearch | SBSearch | 未分类 | — | — | 无视 | 停用 |
| EasyBib crawler | EasyBib crawler | 未分类 | — | — | 无视 | 停用 |
| Pocket bot | Pocket bot | 未分类 | — | — | 无视 | 停用 |
| Keybot Translation | Keybot Translation | 未分类 | — | — | 无视 | 停用 |
| My Nutch Spider | My Nutch Spider | 未分类 | — | — | 无视 | 停用 |
| theoldreader.com | theoldreader.com | 未分类 | — | — | 无视 | 停用 |
| Krzana bot | Krzana bot | 未分类 | — | — | 无视 | 停用 |