收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| Centro | Centro | 服务爬虫 | 未知 | — | 无视 | 停用 |
| Impact | Impact | 服务爬虫 | 未知 | — | 无视 | 停用 |
| peer39_crawler | peer39_crawler | 服务爬虫 | 未知 | — | 无视 | 停用 |
| Pixalate | Pixalate | 服务爬虫 | 未知 | — | 无视 | 停用 |
| PulsePoint-Crawler | PulsePoint-Crawler | 服务爬虫 | 未知 | — | 无视 | 停用 |
| SpringserveBot | SpringserveBot | 服务爬虫 | 未知 | — | 无视 | 停用 |
| adbeat | adbeat | 服务爬虫 | 未知 | — | 无视 | 停用 |
| AmazonAdBot | AmazonAdBot | 服务爬虫 | 未知 | — | 无视 | 停用 |
| tracking-quality-spider | tracking-quality-spider | 服务爬虫 | 未知 | — | 无视 | 停用 |
| BaiduAdsBot | BaiduAdsBot | 服务爬虫 | 未知 | — | 无视 | 停用 |
| GroovinaAdsbot | GroovinaAdsbot | 服务爬虫 | 未知 | — | 无视 | 停用 |
| Verity | Verity | 服务爬虫 | 未知 | — | 无视 | 停用 |
| AdsBot-IAB | AdsBot-IAB | 服务爬虫 | 未知 | — | 无视 | 停用 |
| KargoBot-Artemis | KargoBot-Artemis | 服务爬虫 | 未知 | — | 无视 | 停用 |
| MediavineMetadataParser | MediavineMetadataParser | 服务爬虫 | 未知 | — | 无视 | 停用 |
| MgidBot | MgidBot | 服务爬虫 | 未知 | — | 无视 | 停用 |
| NetShelter | NetShelter | 服务爬虫 | 未知 | — | 无视 | 停用 |
| Quantcastbot | Quantcastbot | 服务爬虫 | 未知 | — | 无视 | 停用 |
| SmartologyBot | SmartologyBot | 服务爬虫 | 未知 | — | 无视 | 停用 |
| SnapchatAds | SnapchatAds | 服务爬虫 | 未知 | — | 无视 | 停用 |
| TTD-Content | TTD-Content | 服务爬虫 | 未知 | — | 无视 | 停用 |
| webgains-bot | webgains-bot | 服务爬虫 | 未知 | — | 无视 | 停用 |
| Google-AdWords-Express | Google-AdWords-Express | 服务爬虫 | 未知 | — | 无视 | 停用 |