收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| Outlook-Express | Outlook-Express | 未分类 | — | — | 无视 | 停用 |
| Python-httplib2 | Python-httplib2 | 未分类 | — | — | 无视 | 停用 |
| ScoutURLMonitor | ScoutURLMonitor | 未分类 | — | — | 无视 | 停用 |
| Siteshooter B0t | Siteshooter B0t | 未分类 | — | — | 无视 | 停用 |
| Stratagems Kumo | Stratagems Kumo | 未分类 | — | — | 无视 | 停用 |
| techiaith.cymru | techiaith.cymru | 未分类 | — | — | 无视 | 停用 |
| The Drop Reaper | The Drop Reaper | 未分类 | — | — | 无视 | 停用 |
| Website Quester | Website Quester | 未分类 | — | — | 无视 | 停用 |
| WhoRunsCoinHive | WhoRunsCoinHive | 未分类 | — | — | 无视 | 停用 |
| WWW-Collector-E | WWW-Collector-E | 未分类 | — | — | 无视 | 停用 |
| Accoona-AI-Agent | Accoona-AI-Agent | 未分类 | — | — | 无视 | 停用 |
| Adyen HttpClient | Adyen HttpClient | 未分类 | — | — | 无视 | 停用 |
| alexa site audit | alexa site audit | 未分类 | — | — | 无视 | 停用 |
| AppleSyndication | AppleSyndication | 未分类 | — | — | 无视 | 停用 |
| CJNetworkQuality | CJNetworkQuality | 未分类 | — | — | 无视 | 停用 |
| contactbigdatafr | contactbigdatafr | 未分类 | — | — | 无视 | 停用 |
| DNSPod-reporting | DNSPod-reporting | 未分类 | — | — | 无视 | 停用 |
| DuplexWeb-Google | DuplexWeb-Google | 未分类 | — | — | 无视 | 停用 |
| europarchive.org | europarchive.org | 未分类 | — | — | 无视 | 停用 |
| ExaleadCloudview | ExaleadCloudview | 未分类 | — | — | 无视 | 停用 |
| facebookplatform | facebookplatform | 未分类 | — | — | 无视 | 停用 |
| httpssites_power | httpssites_power | 未分类 | — | — | 无视 | 停用 |
| internet_archive | internet_archive | 未分类 | — | — | 无视 | 停用 |
| Lush Http Client | Lush Http Client | 未分类 | — | — | 无视 | 停用 |
| Microsoft Office | Microsoft Office | 未分类 | — | — | 无视 | 停用 |
| nationalarchives | nationalarchives | 未分类 | — | — | 无视 | 停用 |
| Offline Explorer | Offline Explorer | 未分类 | — | — | 无视 | 停用 |
| OpenLinkProfiler | OpenLinkProfiler | 未分类 | — | — | 无视 | 停用 |
| PDF24 URL To PDF | PDF24 URL To PDF | 未分类 | — | — | 无视 | 停用 |
| PocketImageCache | PocketImageCache | 未分类 | — | — | 无视 | 停用 |