收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| TombaPublicWebCrawler | TombaPublicWebCrawler | SEO分析 | 未知 | — | 无视 | 停用 |
| CrawlyProjectCrawler | CrawlyProjectCrawler | SEO分析 | 未知 | — | 无视 | 停用 |
| KomodiaBot | KomodiaBot | SEO分析 | 未知 | — | 无视 | 停用 |
| KStandBot | KStandBot | SEO分析 | 未知 | — | 无视 | 停用 |
| CISPA | CISPA | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| MTRobot | MTRobot | SEO分析 | 未知 | — | 无视 | 停用 |
| hyscore | hyscore | SEO分析 | 未知 | — | 无视 | 停用 |
| AlexandriaOrgBot | AlexandriaOrgBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Yellowbrandprotectionbot | Yellowbrandprotectionbot | SEO分析 | 未知 | — | 无视 | 停用 |
| SEOlizer | SEOlizer | SEO分析 | 未知 | — | 无视 | 停用 |
| vuhuvBot | vuhuvBot | SEO分析 | 未知 | — | 无视 | 停用 |
| Synapse | Synapse | 链接预览 | 未知 | — | 无视 | 停用 |
| t3versionsBot | t3versionsBot | SEO分析 | 未知 | — | 无视 | 停用 |
| Cocolyzebot | Cocolyzebot | SEO分析 | 未知 | — | 无视 | 停用 |
| hypestat | hypestat | SEO分析 | 未知 | — | 无视 | 停用 |
| ReverseEngineeringBot | ReverseEngineeringBot | 安全检测 | 未知 | — | 无视 | 停用 |
| sempi | sempi | SEO分析 | 未知 | — | 无视 | 停用 |
| MetaInspector | MetaInspector | SEO分析 | 未知 | — | 无视 | 停用 |
| node-fetch | Node.js fetch | 通用工具 | 未知 | — | 无视 | 停用 |
| l9explore | l9explore | 安全检测 | 未知 | — | 无视 | 停用 |
| python-opengraph | python-opengraph | 通用工具 | 未知 | — | 无视 | 停用 |
| OpenGraphCheck | OpenGraphCheck | SEO分析 | 未知 | — | 无视 | 停用 |
| developers | developers | 搜索引擎 | 未知 | — | 无视 | 停用 |
| SenutoBot | SenutoBot | SEO分析 | 未知 | — | 无视 | 停用 |
| MaCoCu | MaCoCu | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| NewsBlur | NewsBlur | 内容预览 | 未知 | — | 无视 | 停用 |
| inoreader | inoreader | 内容预览 | 未知 | — | 无视 | 停用 |
| NetSystemsResearch | NetSystemsResearch | 安全检测 | 未知 | — | 无视 | 停用 |
| PageThing | PageThing | SEO分析 | 未知 | — | 无视 | 停用 |
| WordPress | WordPress | SEO分析 | 未知 | — | 无视 | 停用 |