收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| NZBot | NZBot | 未分类 | — | — | 无视 | 停用 |
| DuckDuckBot-Https | DuckDuckBot-Https | 未分类 | — | — | 无视 | 停用 |
| Naver Newsbot | Naver Newsbot | 未分类 | — | — | 无视 | 停用 |
| InfoWizards Link Checker | InfoWizards Link Checker | 未分类 | — | — | 无视 | 停用 |
| Wolfram HTTPClient | Wolfram HTTPClient | 未分类 | — | — | 无视 | 停用 |
| Pulp | Pulp | 未分类 | — | — | 无视 | 停用 |
| adressendeutschland | adressendeutschland | 未分类 | — | — | 无视 | 停用 |
| Bitrix link preview | Bitrix link preview | 未分类 | — | — | 无视 | 停用 |
| Nexgate Ruby Client | Nexgate Ruby Client | 未分类 | — | — | 无视 | 停用 |
| Online Domain Tools | Online Domain Tools | 未分类 | — | — | 无视 | 停用 |
| T-H-U-N-D-E-R-S-T-O-N-E | T-H-U-N-D-E-R-S-T-O-N-E | 未分类 | — | — | 无视 | 停用 |
| UniversalFeedParser | UniversalFeedParser | 未分类 | — | — | 无视 | 停用 |
| Visual Rights Group | Visual Rights Group | 未分类 | — | — | 无视 | 停用 |
| WakeletLinkExpander | WakeletLinkExpander | 未分类 | — | — | 无视 | 停用 |
| affilimate-puppeteer | affilimate-puppeteer | 未分类 | — | — | 无视 | 停用 |
| AWS Security Scanner | AWS Security Scanner | 未分类 | — | — | 无视 | 停用 |
| Bewica-security-scan | Bewica-security-scan | 未分类 | — | — | 无视 | 停用 |
| PRTG Network Monitor | PRTG Network Monitor | 未分类 | — | — | 无视 | 停用 |
| pshtt https scanning | pshtt https scanning | 未分类 | — | — | 无视 | 停用 |
| Scamadviser-Frontend | Scamadviser-Frontend | 未分类 | — | — | 无视 | 停用 |
| Windows-RSS-Platform | Windows-RSS-Platform | 未分类 | — | — | 无视 | 停用 |
| Blackboard Safeassign | Blackboard Safeassign | 未分类 | — | — | 无视 | 停用 |
| gosquared-thumbnailer | gosquared-thumbnailer | 未分类 | — | — | 无视 | 停用 |
| HootSuite Image proxy | HootSuite Image proxy | 未分类 | — | — | 无视 | 停用 |
| HubSpot Single Page link check | HubSpot Single Page link check | 未分类 | — | — | 无视 | 停用 |
| Semiocast HTTP client | Semiocast HTTP client | 未分类 | — | — | 无视 | 停用 |
| Everwall Link Expander | Everwall Link Expander | 未分类 | — | — | 无视 | 停用 |
| Extreme Picture Finder | Extreme Picture Finder | 未分类 | — | — | 无视 | 停用 |
| ScrapeBox Page Scanner | ScrapeBox Page Scanner | 未分类 | — | — | 无视 | 停用 |
| Barracuda Sentinel | Barracuda Sentinel | 未分类 | — | — | 无视 | 停用 |