收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| speedy | speedy | 搜索引擎 | 未知 | — | 无视 | 停用 |
| fluffy | fluffy | 搜索引擎 | 未知 | — | 无视 | 停用 |
| msrbot | msrbot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| tagoobot | tagoobot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| woriobot | woriobot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| yanga | yanga | 搜索引擎 | 未知 | — | 无视 | 停用 |
| yandex | yandex2 | 搜索引擎 | 未知 | — | 无视 | 停用 |
| purebot | purebot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Linguee | Linguee | 搜索引擎 | 未知 | — | 无视 | 停用 |
| voilabot | voilabot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| scribdbot | scribdbot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| 搜索引擎 | 未知 | — | 无视 | 停用 | ||
| discobot | discobot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| findthatfile | findthatfile | 搜索引擎 | 未知 | — | 无视 | 停用 |
| IndeedBot | IndeedBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Aboundex | Aboundex | 搜索引擎 | 未知 | — | 无视 | 停用 |
| wbsearchbot | wbsearchbot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| edisterbot | edisterbot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| lb-spider | lb-spider | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Sogou | Sogou | 搜索引擎 | 未知 | — | 无视 | 停用 |
| wotbox | wotbox | 搜索引擎 | 未知 | — | 无视 | 停用 |
| wocbot | wocbot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| ichiro | ichiro | 搜索引擎 | 未知 | — | 无视 | 停用 |
| acoonbot | acoonbot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| openindexspider | openindexspider | 搜索引擎 | 未知 | — | 无视 | 停用 |
| coccoc | coccoc | 搜索引擎 | 未知 | — | 无视 | 停用 |
| arabot | arabot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| WeSEE:Search | WeSEE:Search | 搜索引擎 | 未知 | — | 无视 | 停用 |
| fr-crawler | fr-crawler | 搜索引擎 | 未知 | — | 无视 | 停用 |
| A6-Indexer | A6-Indexer | 搜索引擎 | 未知 | — | 无视 | 停用 |