收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| OrangeBot | OrangeBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Y!J | Y!J | 搜索引擎 | 未知 | — | 无视 | 停用 |
| OpenHoseBot | OpenHoseBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| IstellaBot | IstellaBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| DeuSu | DeuSu | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Cliqzbot | Cliqzbot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| SafeSearch | SafeSearch | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Gluten | Gluten | 搜索引擎 | 未知 | — | 无视 | 停用 |
| FemtosearchBot | FemtosearchBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| DuckDuckGo-Favicons-Bot | DuckDuckGo-Favicons-Bot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| ToutiaoSpider | ToutiaoSpider | 搜索引擎 | 未知 | — | 无视 | 停用 |
| AppEngine-Google | AppEngine-Google | 搜索引擎 | 未知 | — | 无视 | 停用 |
| ZumBot | ZumBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Bot | Bot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Flamingo_SearchEngine | Flamingo_SearchEngine | 搜索引擎 | 未知 | — | 无视 | 停用 |
| google-xrawler | google-xrawler | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Google-Structured-Data-Testing-Tool | Google-Structured-Data-Testing-Tool | 搜索引擎 | 未知 | — | 无视 | 停用 |
| WordupInfoSearch | WordupInfoSearch | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Google-PhysicalWeb | Google-PhysicalWeb | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Jooblebot | Jooblebot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Google-Site-Verification | Google-Site-Verification | 搜索引擎 | 未知 | — | 无视 | 停用 |
| NTENTbot | NTENTbot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| AmazonProductDiscovery | AmazonProductDiscovery | 搜索引擎 | 未知 | — | 无视 | 停用 |
| AmazonSellerInitiatedListing | AmazonSellerInitiatedListing | 搜索引擎 | 未知 | — | 无视 | 停用 |
| officestorebot | officestorebot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| AspiegelBot | AspiegelBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| JobboerseBot | JobboerseBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Google-Certificates-Bridge | Google-Certificates-Bridge | 搜索引擎 | 未知 | — | 无视 | 停用 |
| trovitBot | trovitBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Seekport | Seekport | 搜索引擎 | 未知 | — | 无视 | 停用 |