收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| NotifyNinja | NotifyNinja | 未分类 | — | — | 无视 | 停用 |
| pmoz.info ODP link checker | pmoz.info ODP link checker | 未分类 | — | — | 无视 | 停用 |
| InternetSeer | InternetSeer | 未分类 | — | — | 无视 | 停用 |
| uptm.io | uptm.io | 未分类 | — | — | 无视 | 停用 |
| GetLinkInfo.com | GetLinkInfo.com | 未分类 | — | — | 无视 | 停用 |
| 2bone | 2bone | 未分类 | — | — | 无视 | 停用 |
| DataparkSearch | DataparkSearch | 未分类 | — | — | 无视 | 停用 |
| URLitor.com | URLitor.com | 未分类 | — | — | 无视 | 停用 |
| w3dt.net crawler | w3dt.net crawler | 未分类 | — | — | 无视 | 停用 |
| CronDroid | CronDroid | 未分类 | — | — | 无视 | 停用 |
| findlinks | findlinks | 未分类 | — | — | 无视 | 停用 |
| librabot | librabot | 未分类 | — | — | 无视 | 停用 |
| RUB crawler | RUB crawler | 未分类 | — | — | 无视 | 停用 |
| Web Manifest Validator | Web Manifest Validator | 未分类 | — | — | 无视 | 停用 |
| ArhpostBot | ArhpostBot | 未分类 | — | — | 无视 | 停用 |
| looid.com crawler | looid.com crawler | 未分类 | — | — | 无视 | 停用 |
| backlink-check.de | backlink-check.de | 未分类 | — | — | 无视 | 停用 |
| WhizeBot | WhizeBot | 未分类 | — | — | 无视 | 停用 |
| FeedBunch | FeedBunch | 未分类 | — | — | 无视 | 停用 |
| 3w24bot | 3w24bot | 未分类 | — | — | 无视 | 停用 |
| WebCookies | WebCookies | 未分类 | — | — | 无视 | 停用 |
| Curious George | Curious George | 未分类 | — | — | 无视 | 停用 |
| Statusoid | Statusoid | 未分类 | — | — | 无视 | 停用 |
| CompSpyBot | CompSpyBot | 未分类 | — | — | 无视 | 停用 |
| eCairn-Grabber | eCairn-Grabber | 未分类 | — | — | 无视 | 停用 |
| Cula | Cula | 未分类 | — | — | 无视 | 停用 |
| showsite crawler | showsite crawler | 未分类 | — | — | 无视 | 停用 |
| Clarabot | Clarabot | 未分类 | — | — | 无视 | 停用 |
| Elefent | Elefent | 未分类 | — | — | 无视 | 停用 |
| discoverybot | discoverybot | 未分类 | — | — | 无视 | 停用 |