收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| Bravebot | Brave Search | 搜索引擎 | 中 | 深 | 遵守 | 活跃 |
| OAI-SearchBot | OAI-SearchBot | AI数据 | 中 | 定向 | 遵守 | 活跃 |
| ChatGPT-User | ChatGPT-User | AI数据 | 按需(用户触发) | 定向 | 遵守 | 活跃 |
| Claude-User | Claude-User | AI数据 | 按需(用户触发) | 定向 | 遵守 | 活跃 |
| Claude-SearchBot | Claude-SearchBot | AI数据 | 中 | 定向 | 遵守 | 活跃 |
| PerplexityBot | Perplexity | AI数据 | 高 | 深(全量抓取) | 遵守 | 活跃 |
| Perplexity-User | Perplexity-User | AI数据 | 按需 | 定向 | 遵守 | 活跃 |
| cohere-ai | Cohere | AI数据 | 中 | 深 | 遵守 | 活跃 |
| MistralAI-User | MistralAI-User | AI数据 | 按需 | 定向 | 遵守 | 活跃 |
| Diffbot | Diffbot | AI数据 | 中 | 深(结构化解析) | 遵守 | 活跃 |
| FacebookBot | FacebookBot | AI数据 | 中 | 深 | 遵守 | 活跃 |
| CCBot | Common Crawl | AI数据 | 低(每月一次) | 深(全量抓取) | 遵守 | 活跃 |
| PanguBot | 华为 | AI数据 | 中 | 深 | 遵守 | 活跃 |
| Timpibot | Timpi | AI数据 | 中 | 深 | 遵守 | 活跃 |
| Kangaroo Bot | Kangaroo Bot | AI数据 | 中 | 深 | 遵守 | 活跃 |
| ImageSift | ImageSift | AI数据 | 中 | 定向(图片) | 遵守 | 活跃 |
| rogerbot | rogerbot | SEO分析 | 中 | 中 | 遵守 | 活跃 |
| SerpstatBot | SerpstatBot | SEO分析 | 中 | 深 | 遵守 | 活跃 |
| LinkpadBot | Linkpad | SEO分析 | 中 | 深 | 遵守 | 活跃 |
| SolomonoBot | Solomono | SEO分析 | 中 | 深 | 遵守 | 活跃 |
| SEOkicks | SEOkicks | SEO分析 | 中 | 深 | 遵守 | 活跃 |
| Sistrix | Sistrix | SEO分析 | 中 | 深 | 遵守 | 活跃 |
| DeepCrawl | DeepCrawl(Lumar) | SEO分析 | 按需(任务触发) | 深(全站抓取) | 遵守 | 活跃 |
| Screaming Frog SEO Spider | Screaming Frog | SEO分析 | 按需(手动触发) | 深(全站抓取) | 遵守 | 活跃 |
| Meta-ExternalFetcher | Meta-ExternalFetcher | 链接预览 | 按需(分享触发) | 定向 | 遵守 | 活跃 |
| Twitterbot | X(Twitter) | 链接预览 | 按需(分享触发) | 定向 | 遵守 | 活跃 |
| LinkedInBot | 链接预览 | 按需(分享触发) | 定向 | 遵守 | 活跃 | |
| Slackbot | Slackbot | 链接预览 | 按需 | 定向 | 遵守 | 活跃 |
| Slack-ImgProxy | Slack-ImgProxy | 链接预览 | 按需 | 定向(图片) | 遵守 | 活跃 |
| Discordbot | Discord | 链接预览 | 按需 | 定向 | 遵守 | 活跃 |