椒椒图蜘蛛信息查询
JIAOTU · SPIDER DATABASE

椒图 · 蜘蛛信息数据库

收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。

7,269已收录爬虫
23覆盖类型
1近7天蜘蛛样本更新
数据检索 支持 UA / 名称 / 类型 / 介绍 / 抓取频率 / 抓取深度 模糊搜索
爬虫数据 仅展示已审核数据 · 共 179 条 · 类型「AI数据」
User-Agent 爬虫名称 类型 抓取频率 抓取深度 遵守 Robots 是否活跃
GPTBot OpenAI AI数据 中(定向抓取) 中(筛选抓取) 遵守 活跃
Amazonbot Amazon AI数据 中(定向抓取) 中(特定领域) 遵守 活跃
facebookexternalhit Facebook AI数据 低(按需抓取) 浅(仅抓取元数据) 遵守 活跃
meta-webindexer Meta Web Indexer AI数据 中(定向抓取) 中(筛选抓取) 遵守 活跃
ClaudeBot Anthropic AI数据 中(地质数据更新) 中(地质报告页面) 遵守 活跃
Meta-ExternalAgent Meta External Agent AI数据 中(每周1次) 浅(服务页面) 遵守 活跃
YouBot YouBot AI数据 中(每周1次) 浅(服务信息+订阅内容+民生数据) 遵守 活跃
DuckAssistBot DuckAssist AI数据 中(每周1次) 浅(服务信息+订阅内容+民生数据) 遵守 活跃
anthropic-ai anthropic-ai AI数据 低(1-6小时/次) 中层(抓取首页及二级页面) 遵守 活跃
Google-Extended Google-Extended AI数据 中 深(全量抓取) 遵守 活跃
Applebot-Extended Applebot-Extended AI数据 中 深(全量抓取) 遵守 活跃
OAI-SearchBot OAI-SearchBot AI数据 中 定向 遵守 活跃
ChatGPT-User ChatGPT-User AI数据 按需(用户触发) 定向 遵守 活跃
Claude-User Claude-User AI数据 按需(用户触发) 定向 遵守 活跃
Claude-SearchBot Claude-SearchBot AI数据 中 定向 遵守 活跃
PerplexityBot Perplexity AI数据 高 深(全量抓取) 遵守 活跃
Perplexity-User Perplexity-User AI数据 按需 定向 遵守 活跃
cohere-ai Cohere AI数据 中 深 遵守 活跃
MistralAI-User MistralAI-User AI数据 按需 定向 遵守 活跃
Diffbot Diffbot AI数据 中 深(结构化解析) 遵守 活跃
FacebookBot FacebookBot AI数据 中 深 遵守 活跃
CCBot Common Crawl AI数据 低(每月一次) 深(全量抓取) 遵守 活跃
PanguBot 华为 AI数据 中 深 遵守 活跃
Timpibot Timpi AI数据 中 深 遵守 活跃
Kangaroo Bot Kangaroo Bot AI数据 中 深 遵守 活跃
ImageSift ImageSift AI数据 中 定向(图片) 遵守 活跃
AgentDataBot AgentDataBot AI数据 Unclear at this time. — 无视 停用
AgentTimes AgentTimes AI数据 Requests RSS feed every 5-6 minutes. — 无视 停用
AGI Agent AGI, Inc AI数据 Unclear at this time. — 无视 停用
AI2Bot AI2Bot AI数据 No information provided. — 遵守 停用
第 1 / 6 页
首页 上一页 1 2 3 4 下一页 尾页
椒图(Jiaotu)蜘蛛信息查询平台 · 数据持续更新中 IP查询API · 使用手册