收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| Butterfly | Butterfly | SEO分析 | 未知 | — | 无视 | 停用 |
| rss-parser | rss-parser | 内容预览 | 未知 | — | 无视 | 停用 |
| CaliberBot | CaliberBot | SEO分析 | 未知 | — | 无视 | 停用 |
| CapitalOneShopping | CapitalOneShopping | SEO分析 | 未知 | — | 无视 | 停用 |
| Catchpoint | Catchpoint | 网站监测 | 未知 | — | 无视 | 停用 |
| centuryb | centuryb | SEO分析 | 未知 | — | 无视 | 停用 |
| CERT | CERT | 安全检测 | 未知 | — | 无视 | 停用 |
| certytags | certytags | SEO分析 | 未知 | — | 无视 | 停用 |
| ChargeBeeBot | ChargeBeeBot | SEO分析 | 未知 | — | 无视 | 停用 |
| Chatwork | Chatwork | 链接预览 | 未知 | — | 无视 | 停用 |
| CheckHost | CheckHost | 网站监测 | 未知 | — | 无视 | 停用 |
| Goodzer | Goodzer | SEO分析 | 未知 | — | 无视 | 停用 |
| Chrome | Chrome | SEO分析 | 未知 | — | 无视 | 停用 |
| CirrusExplorer | CirrusExplorer | SEO分析 | 未知 | — | 无视 | 停用 |
| CLASSLA-web | CLASSLA-web | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| Clearscopebot | Clearscopebot | SEO分析 | 未知 | — | 无视 | 停用 |
| WorldBot | WorldBot | SEO分析 | 未知 | — | 无视 | 停用 |
| Cloudflare-Validator | Cloudflare-Validator | 网站监测 | 未知 | — | 无视 | 停用 |
| cloudflare-csup | cloudflare-csup | 网站监测 | 未知 | — | 无视 | 停用 |
| Cloudflare-Custom-Error-Page-Crawler | Cloudflare-Custom-Error-Page-Crawler | 网站监测 | 未知 | — | 无视 | 停用 |
| Cloudflare-Radar-Scanner | Cloudflare-Radar-Scanner | 安全检测 | 未知 | — | 无视 | 停用 |
| Cloudflare-SpeedTest | Cloudflare-SpeedTest | 网站监测 | 未知 | — | 无视 | 停用 |
| Cloudflare-Stream-Hook | Cloudflare-Stream-Hook | SEO分析 | 未知 | — | 无视 | 停用 |
| CommaFeed | CommaFeed | 内容预览 | 未知 | — | 无视 | 停用 |
| researchscan | researchscan | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| contentkingapp | contentkingapp | SEO分析 | 未知 | — | 无视 | 停用 |
| CookieHub | CookieHub | 安全检测 | 未知 | — | 无视 | 停用 |
| Coveobot | Coveobot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| RepoLookoutBot | RepoLookoutBot | SEO分析 | 未知 | — | 无视 | 停用 |
| Criticalcss | Criticalcss | SEO分析 | 未知 | — | 无视 | 停用 |