收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| linkdexbot-mobile | linkdexbot-mobile | 未分类 | — | — | 无视 | 停用 |
| StartPageBot | StartPageBot | 未分类 | — | — | 无视 | 停用 |
| YioopBot | YioopBot | 未分类 | — | — | 无视 | 停用 |
| Y!J-SRD | Y!J-SRD | 未分类 | — | — | 无视 | 停用 |
| FreeFind | FreeFind | 未分类 | — | — | 无视 | 停用 |
| Chrome Lighthouse | Chrome Lighthouse | 未分类 | — | — | 无视 | 停用 |
| k6 | k6 | 未分类 | — | — | 无视 | 停用 |
| CISPA Webcrawler | CISPA Webcrawler | 未分类 | — | — | 无视 | 停用 |
| Kaspersky Lab Bot | Kaspersky Lab Bot | 未分类 | — | — | 无视 | 停用 |
| BackupLand | BackupLand | 未分类 | — | — | 无视 | 停用 |
| wprecon | wprecon | 未分类 | — | — | 无视 | 停用 |
| OpenfosBot | OpenfosBot | 未分类 | — | — | 无视 | 停用 |
| YoleoConsumer | YoleoConsumer | 未分类 | — | — | 无视 | 停用 |
| Zemanta Aggregator | Zemanta Aggregator | 未分类 | — | — | 无视 | 停用 |
| KAZ.KZ_Bot | KAZ.KZ_Bot | 未分类 | — | — | 无视 | 停用 |
| UXCrawlerBot | UXCrawlerBot | 未分类 | — | — | 无视 | 停用 |
| asafaweb-bot | asafaweb-bot | 未分类 | — | — | 无视 | 停用 |
| GomezAgent | GomezAgent | 未分类 | — | — | 无视 | 停用 |
| top100.rambler.ru | top100.rambler.ru | 未分类 | — | — | 无视 | 停用 |
| StackRambler | StackRambler | 未分类 | — | — | 无视 | 停用 |
| QuarkSpider | QuarkSpider | 未分类 | — | — | 无视 | 停用 |
| OpenVAS-VT | OpenVAS-VT | 未分类 | — | — | 无视 | 停用 |
| YandexBot-Belarus | YandexBot-Belarus | 未分类 | — | — | 无视 | 停用 |
| YandexBot-Ukraine | YandexBot-Ukraine | 未分类 | — | — | 无视 | 停用 |
| InfoSpaceBot | InfoSpaceBot | 未分类 | — | — | 无视 | 停用 |
| Sensis Web Crawler | Sensis Web Crawler | 未分类 | — | — | 无视 | 停用 |
| LoadImpactPageAnalyzer | LoadImpactPageAnalyzer | 未分类 | — | — | 无视 | 停用 |
| RobotsTxtParser-VIPnytt | RobotsTxtParser-VIPnytt | 未分类 | — | — | 无视 | 停用 |
| SitemapParser-VIPnytt | SitemapParser-VIPnytt | 未分类 | — | — | 无视 | 停用 |
| SauceNAO | SauceNAO | 未分类 | — | — | 无视 | 停用 |