椒椒图蜘蛛信息查询
WbSrch · 基础档案
爬虫名称
WbSrch
活跃状态
停用
Robots 协议
遵守
爬虫价值
1
能力评估 六维评分由档案字段映射生成,仅供参考
能力雷达图加载中...

爬虫介绍

WbSrch 是个人开发者 Xangis 开源的通用搜索引擎爬虫,配套同名开源搜索引擎项目,2013 年秋上线、2016 年夏停止运营。核心用于全网文本文档抓取,构建多语言(14 种)独立搜索索引,基于 Django+PostgreSQL 开发,仅静态抓取、不支持 JS 渲染,严格遵循 robots.txt,是早期开源轻量爬虫的典型代表。

细节参数 请求头与抓取行为完整档案
名称
WbSrch
User-Agent
WbSrch
版本号
1
爬虫类型
网络爬虫
抓取频率
暂停(24小时以上)
抓取深度
定向(仅抓取指定页面)
渲染能力
支持基础JavaScript渲染
Accept 请求头
text/html,application/xml;q=0.9,image/webp,*/*;q=0.8
Accept-Language
en-US,en;q=0.9,zh-CN;q=0.8,zh;q=0.7
Connection
keep-alive
Accept-Encoding
gzip, deflate, br
联系邮箱
暂无
首次出现
2013年
创建时间
2026-03-03 18:12:16
来路 IP 信息 来自椒图采集网络的实测记录
暂无相关IP访问记录
拦截 WbSrch 的方法 五种方案按拦截强度与部署成本选择

1. robots.txt 禁止(标准方式,仅对合规爬虫有效)

通过网站根目录的 robots.txt 声明禁止该爬虫访问,简单标准;恶意爬虫会无视该规则。

2. Nginx / Apache 根据 UA 拉黑(服务器级拦截,效率高)

在服务器配置中直接匹配爬虫 UA 返回 403,不消耗应用资源;需修改服务器配置。

3. .htaccess 禁止(Apache 专属,虚拟主机常用)

通过 .htaccess 规则拦截指定 UA,无需修改主配置;仅适用于 Apache 服务器。

4. PHP / 后端判断 UA 拦截(灵活定制,适配所有环境)

在 PHP 代码中判断访问者 UA,命中后返回 403,灵活可定制;会消耗应用服务器资源。

5. JS 屏蔽(前端拦截,仅挡普通爬虫)

前端 JavaScript 检测 UA 并跳转 403 页面,简单易实现;高级爬虫可绕过(不执行 JS)。

同类爬虫 同类型已审核数据 · 最多展示30条
椒图(Jiaotu)蜘蛛信息查询平台 · 数据持续更新中 返回爬虫大全