收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| SitesOverPagesBot | SitesOverPagesBot | SEO分析 | 未知 | — | 无视 | 停用 |
| SleepBot | SleepBot | 网站监测 | 未知 | — | 无视 | 停用 |
| Sosospider | Sosospider | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Termly | Termly | 网站监测 | 未知 | — | 无视 | 停用 |
| TLS | TLS | 安全检测 | 未知 | — | 无视 | 停用 |
| trafilatura | trafilatura | 通用工具 | 未知 | — | 无视 | 停用 |
| UrlBeeBot | UrlBeeBot | 安全检测 | 未知 | — | 无视 | 停用 |
| videootv | videootv | 网站监测 | 未知 | — | 无视 | 停用 |
| vmcrawl | vmcrawl | 网站监测 | 未知 | — | 无视 | 停用 |
| WadooBot | WadooBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Website-info | Website-info | SEO分析 | 未知 | — | 无视 | 停用 |
| WikiDo | WikiDo | 搜索引擎 | 未知 | — | 无视 | 停用 |
| WOVN | WOVN | 网站监测 | 未知 | — | 无视 | 停用 |
| YoudaoBot | YoudaoBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| ZyBorg | ZyBorg | 搜索引擎 | 未知 | — | 无视 | 停用 |
| ABEvalBot | ABEvalBot | 网站监测 | 未知 | — | 无视 | 停用 |
| br-crawler | br-crawler | 搜索引擎 | 未知 | — | 无视 | 停用 |
| CapterraBot | CapterraBot | 网站监测 | 未知 | — | 无视 | 停用 |
| carbon-umbrella-bot | carbon-umbrella-bot | 网站监测 | 未知 | — | 无视 | 停用 |
| caveman-hunter | caveman-hunter | 网站监测 | 未知 | — | 无视 | 停用 |
| Centro | Centro | 服务爬虫 | 未知 | — | 无视 | 停用 |
| WISEbot | WISEbot | 网站监测 | 未知 | — | 无视 | 停用 |
| CodaBot | CodaBot | 链接预览 | 未知 | — | 无视 | 停用 |
| Corporama | Corporama | 网站监测 | 未知 | — | 无视 | 停用 |
| CyotekWebCopy | CyotekWebCopy | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| Datadog | Datadog | 网站监测 | 未知 | — | 无视 | 停用 |
| Dazzle | Dazzle | 链接预览 | 未知 | — | 无视 | 停用 |
| DominicBot | DominicBot | 网站监测 | 未知 | — | 无视 | 停用 |
| Dow | Dow | 网站监测 | 未知 | — | 无视 | 停用 |
| Download | Download | 通用工具 | 未知 | — | 无视 | 停用 |