收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| Sosospider | Sosospider | 搜索引擎 | 未知 | — | 无视 | 停用 |
| WadooBot | WadooBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| WikiDo | WikiDo | 搜索引擎 | 未知 | — | 无视 | 停用 |
| YoudaoBot | YoudaoBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| ZyBorg | ZyBorg | 搜索引擎 | 未知 | — | 无视 | 停用 |
| br-crawler | br-crawler | 搜索引擎 | 未知 | — | 无视 | 停用 |
| gsa-crawler | gsa-crawler | 搜索引擎 | 未知 | — | 无视 | 停用 |
| OpenTheBoxBot | OpenTheBoxBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Swiftbot | Swiftbot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Zealbot | Zealbot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Algolia | Algolia | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Coveobot | Coveobot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Freespoke | Freespoke | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Funnelback | Funnelback | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Gabanzabot | Gabanzabot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| GlobalWebSearch | GlobalWebSearch | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Golfe | Golfe | 搜索引擎 | 未知 | — | 无视 | 停用 |
| GoogleProducer | GoogleProducer | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Googlebot-IA | Googlebot-IA | 搜索引擎 | 未知 | — | 无视 | 停用 |
| intelx | intelx | 搜索引擎 | 未知 | — | 无视 | 停用 |
| jobswithgptcom-bot | jobswithgptcom-bot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Kagibot | Kagibot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Level9SearchBot | Level9SearchBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Owler | Owler | 搜索引擎 | 未知 | — | 无视 | 停用 |
| PlayStore-Google | PlayStore-Google | 搜索引擎 | 未知 | — | 无视 | 停用 |
| top100 | top100 | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Searcherweb | Searcherweb | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Searcherxweb | Searcherxweb | 搜索引擎 | 未知 | — | 无视 | 停用 |
| SearchExpress | SearchExpress | 搜索引擎 | 未知 | — | 无视 | 停用 |
| SeznamHomepageCrawler | SeznamHomepageCrawler | 搜索引擎 | 未知 | — | 无视 | 停用 |