收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| Y!J | Y!J | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Domain | Domain | SEO分析 | 未知 | — | 无视 | 停用 |
| AddThis | AddThis | 链接预览 | 未知 | — | 无视 | 停用 |
| Screaming | Screaming | SEO分析 | 未知 | — | 无视 | 停用 |
| MetaURI | MetaURI | SEO分析 | 未知 | — | 无视 | 停用 |
| Livelap | Livelap | SEO分析 | 未知 | — | 无视 | 停用 |
| OpenHoseBot | OpenHoseBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| CapsuleChecker | CapsuleChecker | 网站监测 | 未知 | — | 无视 | 停用 |
| collection@infegy | collection@infegy | SEO分析 | 未知 | — | 无视 | 停用 |
| IstellaBot | IstellaBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| DeuSu | DeuSu | 搜索引擎 | 未知 | — | 无视 | 停用 |
| betaBot | betaBot | SEO分析 | 未知 | — | 无视 | 停用 |
| Cliqzbot | Cliqzbot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| netEstate | netEstate | SEO分析 | 未知 | — | 无视 | 停用 |
| SafeSearch | SafeSearch | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Gluten | Gluten | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Sonic | Sonic | SEO分析 | 未知 | — | 无视 | 停用 |
| Sysomos | Sysomos | SEO分析 | 未知 | — | 无视 | 停用 |
| Trove | Trove | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| deadlinkchecker | deadlinkchecker | SEO分析 | 未知 | — | 无视 | 停用 |
| RankActiveLinkBot | RankActiveLinkBot | SEO分析 | 未知 | — | 无视 | 停用 |
| iskanie | iskanie | SEO分析 | 未知 | — | 无视 | 停用 |
| SafeDNSBot | SafeDNSBot | 安全检测 | 未知 | — | 无视 | 停用 |
| Veoozbot | Veoozbot | SEO分析 | 未知 | — | 无视 | 停用 |
| redditbot | redditbot | 链接预览 | 未知 | — | 无视 | 停用 |
| datagnionbot | datagnionbot | SEO分析 | 未知 | — | 无视 | 停用 |
| Google-Adwords-Instant | Google-Adwords-Instant | 服务爬虫 | 未知 | — | 无视 | 停用 |
| adbeat_bot | adbeat_bot | 服务爬虫 | 未知 | — | 无视 | 停用 |
| contxbot | contxbot | SEO分析 | 未知 | — | 无视 | 停用 |
| 链接预览 | 未知 | — | 无视 | 停用 |