收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| Twingly | Twingly | SEO分析 | 未知 | — | 无视 | 停用 |
| Rivva | Rivva | SEO分析 | 未知 | — | 无视 | 停用 |
| Experibot | Experibot | 网站监测 | 未知 | — | 无视 | 停用 |
| awesomecrawler | awesomecrawler | SEO分析 | 未知 | — | 无视 | 停用 |
| Dataprovider | Dataprovider | SEO分析 | 未知 | — | 无视 | 停用 |
| GroupHigh | GroupHigh | SEO分析 | 未知 | — | 无视 | 停用 |
| theoldreader | theoldreader | 内容预览 | 未知 | — | 无视 | 停用 |
| AnyEvent | AnyEvent | 通用工具 | 未知 | — | 无视 | 停用 |
| Uptimebot | Uptimebot | 网站监测 | 未知 | — | 无视 | 停用 |
| Nmap | Nmap | 安全检测 | 未知 | — | 无视 | 停用 |
| 2ip | 2ip | SEO分析 | 未知 | — | 无视 | 停用 |
| Clickagy | Clickagy | 服务爬虫 | 未知 | — | 无视 | 停用 |
| Caliperbot | Caliperbot | SEO分析 | 未知 | — | 无视 | 停用 |
| MBCrawler | MBCrawler | SEO分析 | 未知 | — | 无视 | 停用 |
| online-webceo-bot | online-webceo-bot | SEO分析 | 未知 | — | 无视 | 停用 |
| B2B | B2B | SEO分析 | 未知 | — | 无视 | 停用 |
| HubSpot | HubSpot | SEO分析 | 未知 | — | 无视 | 停用 |
| Chrome-Lighthouse | Chrome-Lighthouse | 网站监测 | 未知 | — | 无视 | 停用 |
| CheckMarkNetwork | CheckMarkNetwork | 网站监测 | 未知 | — | 无视 | 停用 |
| www | www | 网站监测 | 未知 | — | 无视 | 停用 |
| Streamline3Bot | Streamline3Bot | 网站监测 | 未知 | — | 无视 | 停用 |
| MixnodeCache | MixnodeCache | SEO分析 | 未知 | — | 无视 | 停用 |
| SimpleScraper | SimpleScraper | SEO分析 | 未知 | — | 无视 | 停用 |
| RSSingBot | RSSingBot | 内容预览 | 未知 | — | 无视 | 停用 |
| Jooblebot | Jooblebot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| fedoraplanet | fedoraplanet | 内容预览 | 未知 | — | 无视 | 停用 |
| Friendica | Friendica | 链接预览 | 未知 | — | 无视 | 停用 |
| NextCloud | NextCloud | 内容预览 | 未知 | — | 无视 | 停用 |
| Tiny | Tiny | 内容预览 | 未知 | — | 无视 | 停用 |
| RegionStuttgartBot | RegionStuttgartBot | SEO分析 | 未知 | — | 无视 | 停用 |