收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| Twisted PageGetter | Twisted PageGetter | 网络爬虫 | 按需 | 定向 | 无视 | 停用 |
| ZoominfoBot | ZoominfoBot | 服务爬虫 | 中(每日) | 定向(企业页) | 遵守 | 活跃 |
| Filestack | Filestack | 服务爬虫 | 按需 | 定向 | 遵守 | 活跃 |
| Quark | 阿里巴巴·夸克 | 浏览器爬虫 | 高(实时/用户触发) | 中(浏览页面) | 遵守 | 活跃 |
| Barkrowler | Babbar Barkrowler | SEO分析 | 中(每日) | 深 | 遵守 | 活跃 |
| mshots | Automattic(WordPress.com) | 内容预览 | 按需 | 定向(单页截图) | 无视 | 活跃 |
| Pandalytics | Pandalytics | 服务爬虫 | 低(每周) | 定向 | 遵守 | 活跃 |
| SERankingBot | SERankingBot | SEO分析 | 中(每日) | 定向 | 遵守 | 活跃 |
| Teoma | Ask.com(IAC) | 搜索引擎 | 已停止 | — | 遵守 | 活跃 |
| CATExplorador | 待核实(西班牙语区) | 网络爬虫 | 未知 | 未知 | 无视 | 停用 |
| AliyunSecScanner | 阿里云 | 安全检测 | 按需(触发扫描时) | 定向(漏洞探测) | 无视 | 活跃 |
| Generic Bot / Generic Spider | 各类自研程序 | 通用工具 | 未知 | 未知 | 无视 | 停用 |
| node-fetch / undici | Node.js生态(开源HTTP库) | 通用工具 | 按需 | 定向 | 无视 | 停用 |
| AddSearchBot | AddSearchBot | 搜索引擎 | Unclear at this time. | — | 无视 | 停用 |
| AgentDataBot | AgentDataBot | AI数据 | Unclear at this time. | — | 无视 | 停用 |
| AgentTimes | AgentTimes | AI数据 | Requests RSS feed every 5-6 minutes. | — | 无视 | 停用 |
| AGI Agent | AGI, Inc | AI数据 | Unclear at this time. | — | 无视 | 停用 |
| AI2Bot | AI2Bot | AI数据 | No information provided. | — | 遵守 | 停用 |
| AI2Bot-DeepResearchEval | Ai2, a non-profit AI research institute | AI数据 | Unclear at this time. | — | 无视 | 停用 |
| Ai2Bot-Dolma | Ai2Bot-Dolma | AI数据 | No information provided. | — | 遵守 | 停用 |
| aiHitBot | aiHitBot | AI数据 | No information provided. | — | 遵守 | 停用 |
| AIWebIndex | AIWebIndex | 搜索引擎 | At most one request per domain every 2 s | — | 遵守 | 停用 |
| amazon-kendra | amazon-kendra | 搜索引擎 | No information provided. | — | 遵守 | 停用 |
| amazon-QBusiness | amazon-QBusiness | AI数据 | Unclear at this time. | — | 无视 | 停用 |
| AmazonBuyForMe | AmazonBuyForMe | AI数据 | No information provided. | — | 无视 | 停用 |
| Amzn-SearchBot | Amzn-SearchBot | 搜索引擎 | Unclear at this time. | — | 无视 | 停用 |
| Amzn-User | Amazon, used for fetching web content to answer user queries | AI数据 | Unclear at this time. | — | 无视 | 停用 |
| Andibot | Andibot | 搜索引擎 | No information provided. | — | 无视 | 停用 |
| Anomura | Anomura | 搜索引擎 | No information provided. | — | 遵守 | 停用 |
| ApifyBot | ApifyBot | AI数据 | Unclear at this time. | — | 无视 | 停用 |