收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| seegnifybot | seegnifybot | 未分类 | — | — | 无视 | 停用 |
| linguatools | linguatools | 未分类 | — | — | 无视 | 停用 |
| forensiq | forensiq | 未分类 | — | — | 无视 | 停用 |
| DWDS-crawler | DWDS-crawler | 未分类 | — | — | 无视 | 停用 |
| fastbot crawler | fastbot crawler | 未分类 | — | — | 无视 | 停用 |
| RankSonicSiteAuditor | RankSonicSiteAuditor | 未分类 | — | — | 无视 | 停用 |
| ProductoDownloadUrlBot | ProductoDownloadUrlBot | 未分类 | — | — | 无视 | 停用 |
| ExactSeek | ExactSeek | 未分类 | — | — | 无视 | 停用 |
| htrix | htrix | 未分类 | — | — | 无视 | 停用 |
| WeViKaBot | WeViKaBot | 未分类 | — | — | 无视 | 停用 |
| stq_bot | stq_bot | 未分类 | — | — | 无视 | 停用 |
| Vorboss Web Crawler | Vorboss Web Crawler | 未分类 | — | — | 无视 | 停用 |
| CukBot | CukBot | 未分类 | — | — | 无视 | 停用 |
| EuripBot | EuripBot | 未分类 | — | — | 无视 | 停用 |
| CoinCornerBot | CoinCornerBot | 未分类 | — | — | 无视 | 停用 |
| Willow Internet Crawler | Willow Internet Crawler | 未分类 | — | — | 无视 | 停用 |
| ScreenerBot Crawler | ScreenerBot Crawler | 未分类 | — | — | 无视 | 停用 |
| ZeerchBot | ZeerchBot | 未分类 | — | — | 无视 | 停用 |
| WorldBrewBot | WorldBrewBot | 未分类 | — | — | 无视 | 停用 |
| AboutUsBot | AboutUsBot | 未分类 | — | — | 无视 | 停用 |
| JobdiggerSpider | JobdiggerSpider | 未分类 | — | — | 无视 | 停用 |
| sukibot_heritrix | sukibot_heritrix | 未分类 | — | — | 无视 | 停用 |
| bixocrawler | bixocrawler | 未分类 | — | — | 无视 | 停用 |
| OpenWebSpider | OpenWebSpider | 未分类 | — | — | 无视 | 停用 |
| Qirina Hurdler | Qirina Hurdler | 未分类 | — | — | 无视 | 停用 |
| MergeFlow-PageReader | MergeFlow-PageReader | 未分类 | — | — | 无视 | 停用 |
| MarketBrewBot | MarketBrewBot | 未分类 | — | — | 无视 | 停用 |
| OpenCalaisSemanticProxy | OpenCalaisSemanticProxy | 未分类 | — | — | 无视 | 停用 |
| Accelobot | Accelobot | 未分类 | — | — | 无视 | 停用 |
| TomTom places company search | TomTom places company search | 未分类 | — | — | 无视 | 停用 |