收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| Zmap-Bot | Zmap-Bot | 未分类 | — | — | 无视 | 停用 |
| Zgrab2-Bot | Zgrab2-Bot | 未分类 | — | — | 无视 | 停用 |
| Shodan-Bot | Shodan-Bot | 未分类 | — | — | 无视 | 停用 |
| Fofa-Bot | Fofa-Bot | 未分类 | — | — | 无视 | 停用 |
| BinaryEdge-Bot | BinaryEdge-Bot | 未分类 | — | — | 无视 | 停用 |
| CriminalIP-Bot | CriminalIP-Bot | 未分类 | — | — | 无视 | 停用 |
| Netcraft Web Server Survey | Netcraft Web Server Survey | 未分类 | — | — | 无视 | 停用 |
| SecurityTrails-Bot | SecurityTrails-Bot | 未分类 | — | — | 无视 | 停用 |
| Hunter-Bot | Hunter-Bot | 未分类 | — | — | 无视 | 停用 |
| msnbot-media | msnbot-media | 未分类 | — | — | 无视 | 停用 |
| QihooBot | QihooBot | 未分类 | — | — | 无视 | 停用 |
| LingueeBot | LingueeBot | 未分类 | — | — | 无视 | 停用 |
| CCrawler | CCrawler | 未分类 | — | — | 无视 | 停用 |
| WaybackRobot | WaybackRobot | 未分类 | — | — | 无视 | 停用 |
| bingbot-mobile | Bing Mobile | 未分类 | — | — | 无视 | 停用 |
| YandexImagesBot | YandexImagesBot | 未分类 | — | — | 无视 | 停用 |
| YandexVideoBot | YandexVideoBot | 未分类 | — | — | 无视 | 停用 |
| NaverMobileBot | NaverMobileBot | 未分类 | — | — | 无视 | 停用 |
| Baiduspider-mobile | Baiduspider-mobile | 未分类 | — | — | 无视 | 停用 |
| 360Spider-mobile | 360Spider-mobile | 未分类 | — | — | 无视 | 停用 |
| SogouMobileSpider | SogouMobileSpider | 未分类 | — | — | 无视 | 停用 |
| ComscoreBot | ComscoreBot | 未分类 | — | — | 无视 | 停用 |
| AlexaBot | Exalead | 未分类 | — | — | 无视 | 停用 |
| LinkdexBot | LinkdexBot | 未分类 | — | — | 无视 | 停用 |
| WebMeUpBot | WebMeUpBot | 未分类 | — | — | 无视 | 停用 |
| SEOkicksBot | SEOkicksBot | 未分类 | — | — | 无视 | 停用 |
| SISTRIXBot | SISTRIXBot | 未分类 | — | — | 无视 | 停用 |
| SEOPressorBot | SEOPressorBot | 未分类 | — | — | 无视 | 停用 |
| RankActiveBot | RankActiveBot | 未分类 | — | — | 无视 | 停用 |
| MangoolsBot | MangoolsBot | 未分类 | — | — | 无视 | 停用 |