收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| Qualys-Bot | Qualys-Bot | 未分类 | — | — | 无视 | 停用 |
| Nucleus | Nucleus | 未分类 | — | — | 无视 | 停用 |
| Rapid7 | Rapid7 | 未分类 | — | — | 无视 | 停用 |
| ShodanBot | ShodanBot | 未分类 | — | — | 无视 | 停用 |
| Censys-Bot | Censys-Bot | 未分类 | — | — | 无视 | 停用 |
| Norton-SafeWeb | Norton-SafeWeb | 未分类 | — | — | 无视 | 停用 |
| McAfee-SiteAdvisor | McAfee-SiteAdvisor | 未分类 | — | — | 无视 | 停用 |
| Phishtank-Bot | Phishtank-Bot | 未分类 | — | — | 无视 | 停用 |
| StopBadware-Bot | StopBadware-Bot | 未分类 | — | — | 无视 | 停用 |
| Cloudflare-Security | Cloudflare-Security | 未分类 | — | — | 无视 | 停用 |
| Cloudflare-SSL-Check | Cloudflare-SSL-Check | 未分类 | — | — | 无视 | 停用 |
| Akamai-Security | Akamai-Security | 未分类 | — | — | 无视 | 停用 |
| Imperva-Security | Imperva-Security | 未分类 | — | — | 无视 | 停用 |
| Fortinet-Bot | Fortinet-Bot | 未分类 | — | — | 无视 | 停用 |
| PaloAltoNetworks-Bot | PaloAltoNetworks-Bot | 未分类 | — | — | 无视 | 停用 |
| Symantec-Bot | Symantec-Bot | 未分类 | — | — | 无视 | 停用 |
| Kaspersky-Bot | Kaspersky-Bot | 未分类 | — | — | 无视 | 停用 |
| ESET-Bot | ESET-Bot | 未分类 | — | — | 无视 | 停用 |
| Avast-Bot | Avast-Bot | 未分类 | — | — | 无视 | 停用 |
| AVG-Bot | AVG-Bot | 未分类 | — | — | 无视 | 停用 |
| Bitdefender-Bot | Bitdefender-Bot | 未分类 | — | — | 无视 | 停用 |
| Sucuri-Bot | Sucuri-Bot | 未分类 | — | — | 无视 | 停用 |
| Wordfence-Bot | Wordfence-Bot | 未分类 | — | — | 无视 | 停用 |
| iThemes-Security-Bot | iThemes-Security-Bot | 未分类 | — | — | 无视 | 停用 |
| Malwarebytes-Bot | Malwarebytes-Bot | 未分类 | — | — | 无视 | 停用 |
| HackerOne-Bot | HackerOne-Bot | 未分类 | — | — | 无视 | 停用 |
| Bugcrowd-Bot | Bugcrowd-Bot | 未分类 | — | — | 无视 | 停用 |
| Nmap-Script | Nmap-Script | 未分类 | — | — | 无视 | 停用 |
| WebInspect | WebInspect | 未分类 | — | — | 无视 | 停用 |
| AppScan | AppScan | 未分类 | — | — | 无视 | 停用 |