收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| KendraBot | KendraBot | AI数据 | 未知 | — | 无视 | 停用 |
| AppSiteAssociation | AppSiteAssociation | SEO分析 | 未知 | — | 无视 | 停用 |
| Aragog | Aragog | SEO分析 | 未知 | — | 无视 | 停用 |
| Aranea | Aranea | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| ArchiveBox | ArchiveBox | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| ArquivoBot | ArquivoBot | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| Arquivo-web-crawler | Arquivo-web-crawler | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| ArtemisBot | ArtemisBot | 安全检测 | 未知 | — | 无视 | 停用 |
| Asana | Asana | SEO分析 | 未知 | — | 无视 | 停用 |
| AudistoBot | AudistoBot | SEO分析 | 未知 | — | 无视 | 停用 |
| Autoconfig | Autoconfig | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| tracking-quality-spider | tracking-quality-spider | 服务爬虫 | 未知 | — | 无视 | 停用 |
| Bad | Bad | 安全检测 | 未知 | — | 无视 | 停用 |
| BaiduAdsBot | BaiduAdsBot | 服务爬虫 | 未知 | — | 无视 | 停用 |
| BDBot | BDBot | SEO分析 | 未知 | — | 无视 | 停用 |
| BeeperBot | BeeperBot | SEO分析 | 未知 | — | 无视 | 停用 |
| BetterUptimeBot | BetterUptimeBot | 网站监测 | 未知 | — | 无视 | 停用 |
| BnFBot | BnFBot | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| BigUpDataBot | BigUpDataBot | SEO分析 | 未知 | — | 无视 | 停用 |
| BinaryCanary | BinaryCanary | 网站监测 | 未知 | — | 无视 | 停用 |
| Bitbucket-Webhooks | Bitbucket-Webhooks | SEO分析 | 未知 | — | 无视 | 停用 |
| BlackDuck-FD | BlackDuck-FD | 安全检测 | 未知 | — | 无视 | 停用 |
| Blogtrottr | Blogtrottr | 内容预览 | 未知 | — | 无视 | 停用 |
| BlueskyPreviewBot | BlueskyPreviewBot | 链接预览 | 未知 | — | 无视 | 停用 |
| BoardGamePricesBot | BoardGamePricesBot | SEO分析 | 未知 | — | 无视 | 停用 |
| BotPoke | BotPoke | SEO分析 | 未知 | — | 无视 | 停用 |
| BDFetch | BDFetch | SEO分析 | 未知 | — | 无视 | 停用 |
| Brandwatch | Brandwatch | SEO分析 | 未知 | — | 无视 | 停用 |
| brokenlinkcheck | brokenlinkcheck | SEO分析 | 未知 | — | 无视 | 停用 |
| Bushbaby | Bushbaby | SEO分析 | 未知 | — | 无视 | 停用 |