收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| alyze.info | alyze.info | 未分类 | — | — | 无视 | 停用 |
| AngleSharp | AngleSharp | 未分类 | — | — | 无视 | 停用 |
| Apache Ant | Apache Ant | 未分类 | — | — | 无视 | 停用 |
| a.pr-cy.ru | a.pr-cy.ru | 未分类 | — | — | 无视 | 停用 |
| BackStreet | BackStreet | 未分类 | — | — | 无视 | 停用 |
| Black Hole | Black Hole | 未分类 | — | — | 无视 | 停用 |
| BlackWidow | BlackWidow | 未分类 | — | — | 无视 | 停用 |
| BlogBridge | BlogBridge | 未分类 | — | — | 无视 | 停用 |
| BlogSearch | BlogSearch | 未分类 | — | — | 无视 | 停用 |
| Clarsentia | Clarsentia | 未分类 | — | — | 无视 | 停用 |
| ColdFusion | ColdFusion | 未分类 | — | — | 无视 | 停用 |
| commonscan | commonscan | 未分类 | — | — | 无视 | 停用 |
| DAPNetHTTP | DAPNetHTTP | 未分类 | — | — | 无视 | 停用 |
| dBpoweramp | dBpoweramp | 未分类 | — | — | 无视 | 停用 |
| DebugBear$ | DebugBear$ | 未分类 | — | — | 无视 | 停用 |
| DomainLabz | DomainLabz | 未分类 | — | — | 无视 | 停用 |
| EirGrabber | EirGrabber | 未分类 | — | — | 无视 | 停用 |
| EMail Wolf | EMail Wolf | 未分类 | — | — | 无视 | 停用 |
| FeedViewer | FeedViewer | 未分类 | — | — | 无视 | 停用 |
| feeltiptop | feeltiptop | 未分类 | — | — | 无视 | 停用 |
| g00g1e.net | g00g1e.net | 未分类 | — | — | 无视 | 停用 |
| GetURLInfo | GetURLInfo | 未分类 | — | — | 无视 | 停用 |
| Google-Ads | Google-Ads | 未分类 | — | — | 无视 | 停用 |
| GuzzleHttp | GuzzleHttp | 未分类 | — | — | 无视 | 停用 |
| Hadi Agent | Hadi Agent | 未分类 | — | — | 无视 | 停用 |
| HTMLparser | HTMLparser | 未分类 | — | — | 无视 | 停用 |
| HTTP::Lite | HTTP::Lite | 未分类 | — | — | 无视 | 停用 |
| httpscheck | httpscheck | 未分类 | — | — | 无视 | 停用 |
| Humanlinks | Humanlinks | 未分类 | — | — | 无视 | 停用 |
| i2kconnect | i2kconnect | 未分类 | — | — | 无视 | 停用 |