收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| SMRF URL Expander | SMRF URL Expander | 未分类 | — | — | 无视 | 停用 |
| Vulnbusters Meter | Vulnbusters Meter | 未分类 | — | — | 无视 | 停用 |
| WebImageCollector | WebImageCollector | 未分类 | — | — | 无视 | 停用 |
| acebookexternalhit | acebookexternalhit | 未分类 | — | — | 无视 | 停用 |
| BacklinkHttpStatus | BacklinkHttpStatus | 未分类 | — | — | 无视 | 停用 |
| Battleztar Bazinga | Battleztar Bazinga | 未分类 | — | — | 无视 | 停用 |
| Branch Metrics API | Branch Metrics API | 未分类 | — | — | 无视 | 停用 |
| Branch-Passthrough | Branch-Passthrough | 未分类 | — | — | 无视 | 停用 |
| CC Metadata Scaper | CC Metadata Scaper | 未分类 | — | — | 无视 | 停用 |
| CISPA Web Analyser | CISPA Web Analyser | 未分类 | — | — | 无视 | 停用 |
| Commons-HttpClient | Commons-HttpClient | 未分类 | — | — | 无视 | 停用 |
| DynatraceSynthetic | DynatraceSynthetic | 未分类 | — | — | 无视 | 停用 |
| facebookexternalua | facebookexternalua | 未分类 | — | — | 无视 | 停用 |
| Favicon downloader | Favicon downloader | 未分类 | — | — | 无视 | 停用 |
| Fuzz Faster U Fool | Fuzz Faster U Fool | 未分类 | — | — | 无视 | 停用 |
| Google Web Preview | Google Web Preview | 未分类 | — | — | 无视 | 停用 |
| HappyApps-WebCheck | HappyApps-WebCheck | 未分类 | — | — | 无视 | 停用 |
| HeartRails_Capture | HeartRails_Capture | 未分类 | — | — | 无视 | 停用 |
| HonesoSearchEngine | HonesoSearchEngine | 未分类 | — | — | 无视 | 停用 |
| JoinVision Generic | JoinVision Generic | 未分类 | — | — | 无视 | 停用 |
| JungleKeyThumbnail | JungleKeyThumbnail | 未分类 | — | — | 无视 | 停用 |
| mixed-content-scan | mixed-content-scan | 未分类 | — | — | 无视 | 停用 |
| Mojolicious (Perl) | Mojolicious (Perl) | 未分类 | — | — | 无视 | 停用 |
| OxfordCloudService | OxfordCloudService | 未分类 | — | — | 无视 | 停用 |
| Quora Link Preview | Quora Link Preview | 未分类 | — | — | 无视 | 停用 |
| safe-agent-scanner | safe-agent-scanner | 未分类 | — | — | 无视 | 停用 |
| ShortLinkTranslate | ShortLinkTranslate | 未分类 | — | — | 无视 | 停用 |
| Symfony BrowserKit | Symfony BrowserKit | 未分类 | — | — | 无视 | 停用 |
| websitepulse agent | websitepulse agent | 未分类 | — | — | 无视 | 停用 |
| ShopAdvisorBot | ShopAdvisorBot | 未分类 | — | — | 无视 | 停用 |