椒椒图蜘蛛信息查询
Gulliver · 基础档案
爬虫名称
Gulliver
活跃状态
停用
Robots 协议
遵守
爬虫价值
1
能力评估 六维评分由档案字段映射生成,仅供参考
能力雷达图加载中...

爬虫介绍

Gulliver 是老牌搜索引擎 Northern Light 的专属网页爬虫,1997 年上线,主打学术文献、新闻资讯、商业内容的合规抓取与索引构建。爬虫标识清晰,严格遵守 Robots 协议,抓取行为克制友好,曾是早期互联网重要的内容索引工具,2002 年 Northern Light 关闭搜索业务后,该爬虫停止抓取,现已完全不活跃。

细节参数 请求头与抓取行为完整档案
名称
Gulliver
User-Agent
Gulliver
版本号
1.2
爬虫类型
搜索引擎
抓取频率
单域名 1-2 次 / 分钟
抓取深度
默认 3 层,最大 5 层
渲染能力
仅静态 HTML 解析,无 JS 渲染
Accept 请求头
text/html,application/xhtml+xml,application/xml;q=0.9,/;q=0.8
Accept-Language
en-US,en;q=0.9
Connection
keep-alive
Accept-Encoding
gzip, deflate
联系邮箱
webmaster@northernlight.com
首次出现
1997
创建时间
2026-04-18 13:18:14
来路 IP 信息 来自椒图采集网络的实测记录
暂无相关IP访问记录
拦截 Gulliver 的方法 五种方案按拦截强度与部署成本选择

1. robots.txt 禁止(标准方式,仅对合规爬虫有效)

通过网站根目录的 robots.txt 声明禁止该爬虫访问,简单标准;恶意爬虫会无视该规则。

2. Nginx / Apache 根据 UA 拉黑(服务器级拦截,效率高)

在服务器配置中直接匹配爬虫 UA 返回 403,不消耗应用资源;需修改服务器配置。

3. .htaccess 禁止(Apache 专属,虚拟主机常用)

通过 .htaccess 规则拦截指定 UA,无需修改主配置;仅适用于 Apache 服务器。

4. PHP / 后端判断 UA 拦截(灵活定制,适配所有环境)

在 PHP 代码中判断访问者 UA,命中后返回 403,灵活可定制;会消耗应用服务器资源。

5. JS 屏蔽(前端拦截,仅挡普通爬虫)

前端 JavaScript 检测 UA 并跳转 403 页面,简单易实现;高级爬虫可绕过(不执行 JS)。

同类爬虫 同类型已审核数据 · 最多展示30条
椒图(Jiaotu)蜘蛛信息查询平台 · 数据持续更新中 返回爬虫大全