收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| igdeSpyder | igdeSpyder | 未分类 | — | — | 无视 | 停用 |
| InfoTekies | InfoTekies | 未分类 | — | — | 无视 | 停用 |
| intraVnews | intraVnews | 未分类 | — | — | 无视 | 停用 |
| isitup.org | isitup.org | 未分类 | — | — | 无视 | 停用 |
| javelin.io | javelin.io | 未分类 | — | — | 无视 | 停用 |
| JolokiaPwn | JolokiaPwn | 未分类 | — | — | 无视 | 停用 |
| Kml-Google | Kml-Google | 未分类 | — | — | 无视 | 停用 |
| krawler.dk | krawler.dk | 未分类 | — | — | 无视 | 停用 |
| kube-probe | kube-probe | 未分类 | — | — | 无视 | 停用 |
| kulturarw3 | kulturarw3 | 未分类 | — | — | 无视 | 停用 |
| leakix.net | leakix.net | 未分类 | — | — | 无视 | 停用 |
| Libwhisker | Libwhisker | 未分类 | — | — | 无视 | 停用 |
| Lighthouse | Lighthouse | 未分类 | — | — | 无视 | 停用 |
| link-check | link-check | 未分类 | — | — | 无视 | 停用 |
| mabontland | mabontland | 未分类 | — | — | 无视 | 停用 |
| MacOutlook | MacOutlook | 未分类 | — | — | 无视 | 停用 |
| Majestic12 | Majestic12 | 未分类 | — | — | 无视 | 停用 |
| mediawords | mediawords | 未分类 | — | — | 无视 | 停用 |
| Mister PiX | Mister PiX | 未分类 | — | — | 无视 | 停用 |
| nominet.uk | nominet.uk | 未分类 | — | — | 无视 | 停用 |
| PageScorer | PageScorer | 未分类 | — | — | 无视 | 停用 |
| PECL::HTTP | PECL::HTTP | 未分类 | — | — | 无视 | 停用 |
| PowerPoint | PowerPoint | 未分类 | — | — | 无视 | 停用 |
| QQDownload | QQDownload | 未分类 | — | — | 无视 | 停用 |
| QrafterPro | QrafterPro | 未分类 | — | — | 无视 | 停用 |
| RebelMouse | RebelMouse | 未分类 | — | — | 无视 | 停用 |
| RepoMonkey | RepoMonkey | 未分类 | — | — | 无视 | 停用 |
| request.js | request.js | 未分类 | — | — | 无视 | 停用 |
| ROI Hunter | ROI Hunter | 未分类 | — | — | 无视 | 停用 |
| Sendsay.Ru | Sendsay.Ru | 未分类 | — | — | 无视 | 停用 |