收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| PhxBot | PhxBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Expanse | Expanse | 安全检测 | 未知 | — | 无视 | 停用 |
| GeedoBot | GeedoBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Audisto | Audisto | SEO分析 | 未知 | — | 无视 | 停用 |
| Monsidobot | Monsidobot | 网站监测 | 未知 | — | 无视 | 停用 |
| GroupMeBot | GroupMeBot | 链接预览 | 未知 | — | 无视 | 停用 |
| Vercelbot | Vercelbot | SEO分析 | 未知 | — | 无视 | 停用 |
| vercel-screenshot | vercel-screenshot | SEO分析 | 未知 | — | 无视 | 停用 |
| facebookcatalog | facebookcatalog | 服务爬虫 | 未知 | — | 无视 | 停用 |
| meta-externalads | meta-externalads | 服务爬虫 | 未知 | — | 无视 | 停用 |
| AcademicBotRTU | AcademicBotRTU | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| KeybaseBot | KeybaseBot | 链接预览 | 未知 | — | 无视 | 停用 |
| Lemmy | Lemmy | 链接预览 | 未知 | — | 无视 | 停用 |
| CookieHubScan | CookieHubScan | 安全检测 | 未知 | — | 无视 | 停用 |
| Hydrozen | Hydrozen | 网站监测 | 未知 | — | 无视 | 停用 |
| HTTP | HTTP | 安全检测 | 未知 | — | 无视 | 停用 |
| SummalyBot | SummalyBot | 链接预览 | 未知 | — | 无视 | 停用 |
| MicrosoftPreview | MicrosoftPreview | 链接预览 | 未知 | — | 无视 | 停用 |
| GeedoProductSearch | GeedoProductSearch | 搜索引擎 | 未知 | — | 无视 | 停用 |
| OnCrawl | OnCrawl | SEO分析 | 未知 | — | 无视 | 停用 |
| sindresorhus | sindresorhus | 通用工具 | 未知 | — | 无视 | 停用 |
| sitebulb | Sitebulb | SEO分析 | 未知 | — | 无视 | 停用 |
| YextBot | YextBot | SEO分析 | 未知 | — | 无视 | 停用 |
| DatadogSynthetics | DatadogSynthetics | 网站监测 | 未知 | — | 无视 | 停用 |
| Google-Ads-Conversions | Google-Ads-Conversions | 服务爬虫 | 未知 | — | 无视 | 停用 |
| ObservePoint | ObservePoint | 网站监测 | 未知 | — | 无视 | 停用 |
| Checkly | Checkly | 网站监测 | 未知 | — | 无视 | 停用 |
| ALittle | ALittle | 通用工具 | 未知 | — | 无视 | 停用 |
| CMSChecker | CMSChecker | SEO分析 | 未知 | — | 无视 | 停用 |
| Wayback | Wayback | 学术蜘蛛 | 未知 | — | 无视 | 停用 |