收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| URLEmacs | URLEmacs | 未分类 | — | — | 无视 | 停用 |
| w3af.org | w3af.org | 未分类 | — | — | 无视 | 停用 |
| wangling | wangling | 未分类 | — | — | 无视 | 停用 |
| Web Auto | Web Auto | 未分类 | — | — | 无视 | 停用 |
| Web Fuck | Web Fuck | 未分类 | — | — | 无视 | 停用 |
| WebFetch | WebFetch | 未分类 | — | — | 无视 | 停用 |
| WebGo IS | WebGo IS | 未分类 | — | — | 无视 | 停用 |
| WebIndex | WebIndex | 未分类 | — | — | 无视 | 停用 |
| wkhtmlto | wkhtmlto | 未分类 | — | — | 无视 | 停用 |
| WWWOFFLE | WWWOFFLE | 未分类 | — | — | 无视 | 停用 |
| YoYs.net | YoYs.net | 未分类 | — | — | 无视 | 停用 |
| Zoom.Mac | Zoom.Mac | 未分类 | — | — | 无视 | 停用 |
| YodaoBot | YodaoBot | 未分类 | — | — | 无视 | 停用 |
| WebWatch | WebWatch | 未分类 | — | — | 无视 | 停用 |
| url_test | url_test | 未分类 | — | — | 无视 | 停用 |
| Symfony2 | Symfony2 | 未分类 | — | — | 无视 | 停用 |
| Surphace | Surphace | 未分类 | — | — | 无视 | 停用 |
| SklikBot | SklikBot | 未分类 | — | — | 无视 | 停用 |
| shortURL | shortURL | 未分类 | — | — | 无视 | 停用 |
| Searchie | Searchie | 未分类 | — | — | 无视 | 停用 |
| resolver | resolver | 未分类 | — | — | 无视 | 停用 |
| ownCloud | ownCloud | 未分类 | — | — | 无视 | 停用 |
| OffByOne | OffByOne | 未分类 | — | — | 无视 | 停用 |
| NutchCVS | NutchCVS | 未分类 | — | — | 无视 | 停用 |
| NG[0-9.] | NG[0-9.] | 未分类 | — | — | 无视 | 停用 |
| netopian | netopian | 未分类 | — | — | 无视 | 停用 |
| Naver Blog Rssbot | Naver Blog Rssbot | 未分类 | — | — | 无视 | 停用 |
| MaxPoint | MaxPoint | 未分类 | — | — | 无视 | 停用 |
| livedoor | livedoor | 未分类 | — | — | 无视 | 停用 |
| Keywords | Keywords | 未分类 | — | — | 无视 | 停用 |