收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| AdsBot-Google | AdsBot-Google | 测试工具 | 中高(广告优化周期) | 中(广告相关页面) | 遵守 | 活跃 |
| AdsBot-Google-Mobile | Google Ads 移动版 | 测试工具 | 未知 | 深层(抓取首页及三级以上页面) | 遵守 | 活跃 |
| AdsBot-Google-Mobile-Apps | Google Ads 应用版 | 测试工具 | 中(每日1次) | 深(全页面内容+链接+多媒体资源) | 遵守 | 活跃 |
| Google-InspectionTool | Google-InspectionTool | 测试工具 | 低(按需) | 定向 | 遵守 | 活跃 |
| adidxbot | adidxbot | 测试工具 | 中 | 定向 | 遵守 | 活跃 |
| YandexDirect | YandexDirect | 测试工具 | 中 | 定向 | 遵守 | 活跃 |
| YandexPageChecker | YandexPageChecker | 测试工具 | 低(按需) | 定向 | 遵守 | 活跃 |
| Baiduspider-cpro | Baiduspider-cpro | 测试工具 | 中 | 定向 | 遵守 | 活跃 |
| Baiduspider-ads | Baiduspider-ads | 测试工具 | 中 | 定向 | 遵守 | 活跃 |
| Sogou-Test-Spider | Sogou-Test-Spider | 测试工具 | 低 | 定向 | 遵守 | 活跃 |
| Jbrofuzz | OWASP | 测试工具 | 按需 | 定向 | 无视 | 活跃 |
| HeadlessChrome | Chromium | 测试工具 | 按需 | 中 | 遵守 | 活跃 |
| PhantomJS | PhantomJS | 测试工具 | 未知 | — | 无视 | 停用 |
| Playwright | Playwright | 测试工具 | 未知 | — | 无视 | 停用 |
| Puppeteer | Puppeteer | 测试工具 | 未知 | — | 无视 | 停用 |
| Selenium | Selenium | 测试工具 | 未知 | — | 无视 | 停用 |
| Amazon-Bedrock-AgentCore-Browser | Amazon-Bedrock-AgentCore-Browser | 测试工具 | 未知 | — | 无视 | 停用 |
| Anchor | Anchor | 测试工具 | 未知 | — | 无视 | 停用 |
| opencode-smartfetch | opencode-smartfetch | 测试工具 | 未知 | — | 无视 | 停用 |
| Fluid | Fluid | 测试工具 | 未知 | — | 无视 | 停用 |
| Ghost | Ghost | 测试工具 | 未知 | — | 无视 | 停用 |
| splash | splash | 测试工具 | 未知 | — | 无视 | 停用 |
| TestLocally | TestLocally | 测试工具 | 未知 | — | 无视 | 停用 |