收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| RIPE | RIPE | 未分类 | — | — | 无视 | 停用 |
| APNIC | APNIC | 未分类 | — | — | 无视 | 停用 |
| LACNIC | LACNIC | 未分类 | — | — | 无视 | 停用 |
| AFRINIC | AFRINIC | 未分类 | — | — | 无视 | 停用 |
| DNS-Checker | DNS-Checker | 未分类 | — | — | 无视 | 停用 |
| DNS-Goodies | DNS-Goodies | 未分类 | — | — | 无视 | 停用 |
| WhatIsMyIP | WhatIsMyIP | 未分类 | — | — | 无视 | 停用 |
| IP-Tracker | IP-Tracker | 未分类 | — | — | 无视 | 停用 |
| DomainTools | DomainTools | 未分类 | — | — | 无视 | 停用 |
| WhoisXML | WhoisXML | 未分类 | — | — | 无视 | 停用 |
| ViewDNS | ViewDNS | 未分类 | — | — | 无视 | 停用 |
| DNSlytics | DNSlytics | 未分类 | — | — | 无视 | 停用 |
| ZoomEye | ZoomEye | 未分类 | — | — | 无视 | 停用 |
| WorldWideWebWanderer | WorldWideWebWanderer | 未分类 | — | — | 无视 | 停用 |
| Wanderer | Wanderer | 未分类 | — | — | 无视 | 停用 |
| JumpStation | JumpStation | 未分类 | — | — | 无视 | 停用 |
| JumpStationBot | JumpStationBot | 未分类 | — | — | 无视 | 停用 |
| WWW-Worm | WWW-Worm | 未分类 | — | — | 无视 | 停用 |
| WWW-WormBot | WWW-WormBot | 未分类 | — | — | 无视 | 停用 |
| RBSE-Spider | RBSE-Spider | 未分类 | — | — | 无视 | 停用 |
| RBSEBot | RBSEBot | 未分类 | — | — | 无视 | 停用 |
| WebCrawler | WebCrawler | 未分类 | — | — | 无视 | 停用 |
| WebCrawlerBot | WebCrawlerBot | 未分类 | — | — | 无视 | 停用 |
| MOMspider | MOMspider | 未分类 | — | — | 无视 | 停用 |
| MOMBot | MOMBot | 未分类 | — | — | 无视 | 停用 |
| AltaVista | AltaVista | 未分类 | — | — | 无视 | 停用 |
| AltaVistaBot | AltaVistaBot | 未分类 | — | — | 无视 | 停用 |
| BackRub | BackRub | 未分类 | — | — | 无视 | 停用 |
| Copyright-Check | Copyright-Check | 未分类 | — | — | 无视 | 停用 |
| Content-Scout | Content-Scout | 未分类 | — | — | 无视 | 停用 |