收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| Dead Link Checker | Dead Link Checker | 未分类 | — | — | 无视 | 停用 |
| MB-SiteCrawler | MB-SiteCrawler | 未分类 | — | — | 无视 | 停用 |
| TMM Crawler | TMM Crawler | 未分类 | — | — | 无视 | 停用 |
| feeder.co | feeder.co | 未分类 | — | — | 无视 | 停用 |
| Google-Lens | Google-Lens | 未分类 | — | — | 无视 | 停用 |
| Google AMP crawler | Google AMP crawler | 未分类 | — | — | 无视 | 停用 |
| COMSYS crawler | COMSYS crawler | 未分类 | — | — | 无视 | 停用 |
| Miniature.io | Miniature.io | 未分类 | — | — | 无视 | 停用 |
| EBID AG Crawler | EBID AG Crawler | 未分类 | — | — | 无视 | 停用 |
| EMDASH bot | EMDASH bot | 未分类 | — | — | 无视 | 停用 |
| CSIRT.CZ crawler | CSIRT.CZ crawler | 未分类 | — | — | 无视 | 停用 |
| Cocolyze bot | Cocolyze bot | 未分类 | — | — | 无视 | 停用 |
| PulnoBot | PulnoBot | 未分类 | — | — | 无视 | 停用 |
| ZoomInfo bot | ZoomInfo bot | 未分类 | — | — | 无视 | 停用 |
| IONOS bot | IONOS bot | 未分类 | — | — | 无视 | 停用 |
| GumGum Bot | GumGum Bot | 未分类 | — | — | 无视 | 停用 |
| webarchiv.cz | webarchiv.cz | 未分类 | — | — | 无视 | 停用 |
| Ryte Bot | Ryte Bot | 未分类 | — | — | 无视 | 停用 |
| HubSpot Crawler | HubSpot Crawler | 未分类 | — | — | 无视 | 停用 |
| Apercite bot | Apercite bot | 未分类 | — | — | 无视 | 停用 |
| Netpeak bot | Netpeak bot | 未分类 | — | — | 无视 | 停用 |
| SEOdiver | SEOdiver | 未分类 | — | — | 无视 | 停用 |
| SEOkicks-Robot | SEOkicks-Robot | 未分类 | — | — | 无视 | 停用 |
| Yandex.Metrica | Yandex.Metrica | 未分类 | — | — | 无视 | 停用 |
| netEstate Crawler | netEstate Crawler | 未分类 | — | — | 无视 | 停用 |
| polite-crawler | polite-crawler | 未分类 | — | — | 无视 | 停用 |
| SnapBot | SnapBot | 未分类 | — | — | 无视 | 停用 |
| Adbeat bot | Adbeat bot | 未分类 | — | — | 无视 | 停用 |
| PhantomJsCloud.com | PhantomJsCloud.com | 未分类 | — | — | 无视 | 停用 |
| Google StoreBot | Google StoreBot | 未分类 | — | — | 无视 | 停用 |