收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| awin | awin | 未分类 | — | — | 无视 | 停用 |
| cf-uc | cf-uc | 未分类 | — | — | 无视 | 停用 |
| nettle | nettle | 未分类 | — | — | 无视 | 停用 |
| dow jones | dow jones | 未分类 | — | — | 无视 | 停用 |
| tinybot | tinybot | 未分类 | — | — | 无视 | 停用 |
| mailkit | mailkit | 未分类 | — | — | 无视 | 停用 |
| pingability | pingability | 未分类 | — | — | 无视 | 停用 |
| meridi.am | meridi.am | 未分类 | — | — | 无视 | 停用 |
| nimbostratus | nimbostratus | 未分类 | — | — | 无视 | 停用 |
| licorne | licorne | 未分类 | — | — | 无视 | 停用 |
| statically | statically | 未分类 | — | — | 无视 | 停用 |
| demandbase | demandbase | 未分类 | — | — | 无视 | 停用 |
| plazoo | plazoo | 未分类 | — | — | 无视 | 停用 |
| meltwater | meltwater | 未分类 | — | — | 无视 | 停用 |
| boardreader | boardreader | 未分类 | — | — | 无视 | 停用 |
| sitetruth | sitetruth | 未分类 | — | — | 无视 | 停用 |
| umich.edu | umich.edu | 未分类 | — | — | 无视 | 停用 |
| loc.gov | loc.gov | 未分类 | — | — | 无视 | 停用 |
| snap url preview | snap url preview | 未分类 | — | — | 无视 | 停用 |
| florkz | florkz | 未分类 | — | — | 无视 | 停用 |
| conductor | conductor | 未分类 | — | — | 无视 | 停用 |
| isup.li | isup.li | 未分类 | — | — | 无视 | 停用 |
| serviceuptime | serviceuptime | 未分类 | — | — | 无视 | 停用 |
| kb.dk | kb.dk | 未分类 | — | — | 无视 | 停用 |
| aream | aream | 未分类 | — | — | 无视 | 停用 |
| kansalliskirjasto | kansalliskirjasto | 未分类 | — | — | 无视 | 停用 |
| weborama | weborama | 未分类 | — | — | 无视 | 停用 |
| primis | primis | 未分类 | — | — | 无视 | 停用 |
| ddline.cn | ddline.cn | 未分类 | — | — | 无视 | 停用 |
| lead inspector | lead inspector | 未分类 | — | — | 无视 | 停用 |