JIAOTU · MANUAL V1.2
蜘蛛监控与维护系统 使用说明书
版本:V1.2(内部版本号 20261026) · 环境:PHP 5.4+ / MySQL 5.5+ · 独立部署于站长网站
一、系统简介
「椒图」取传统文化“镇守门户”之意:性好闭,饰于门户以求平安,镇守邪妖,忠于职守。我们愿如椒图一般,为你的网站守好“大门”,守护网站爬虫访问的安宁与秩序。椒图整合 spiderbots(蜘蛛信息抓取)、pivot(数据可视化分析)、robots(智能生成 robots.txt)三大核心模块,以可视化操作、全量蜘蛛样本覆盖为核心特点,帮助开发者与运营者高效管理网站爬虫访问策略。
椒图蜘蛛监控是一套部署在你自己网站上的蜘蛛访问采集与管理工具:自动识别来访搜索引擎蜘蛛与真人访客,记录 IP、URL、系统、浏览器与来源;支持将采集到的蜘蛛 IP 一键推送至椒图生态(jiaotu.wanyouhui.com),与全网站长共建共享蜘蛛样本库。
spiderbots蜘蛛信息抓取
pivot数据可视化分析
robots智能生成 robots.txt
生态共享样本回馈椒图生态
二、文件清单
| 文件 | 说明 |
spiderbots_setup.php | 一键安装向导:配置数据库与管理密码、自动建表、生成配置文件(安装完成后建议删除) |
spiderbots_conn.php | 配置文件(由安装向导自动生成:数据库连接、管理密码、内部版本号;推送地址已固定为椒图生态) |
spiderbots.php | PHP 采集端:站长在页面尾部 include 引入,抓取蜘蛛/真人访问写入 robots 表 |
spiderbots_collect.php | JS 埋点采集端:接收 spiderbots.js 的 beacon 请求,与 PHP 方式等效 |
spiderbots.js | JS 埋点脚本:以图片 beacon 方式上报,无跨域限制、不阻塞页面 |
spiderbots_identify.php | 识别共享库 · 冷热双层调度器(热表优先 → 浏览器快速通道 → 冷表按需加载) |
spiderbots_identify_hot.php | 热表:400 条主流蜘蛛映射(每请求加载) |
spiderbots_identify_low.php | 冷表:6600+ 条冷门蜘蛛关键词(热表未命中时才加载,长词优先匹配) |
spiderbots_keep.json | 保底蜘蛛列表(预设 166 条热门蜘蛛;清空数据时自动把抓到的新蜘蛛并入,永不丢失) |
spiderbots_robots.php | 数据管理:访问记录列表 + robots.txt 生成器(蜘蛛勾选列表来自保底数据,保存前自动备份,可恢复) |
spiderbots_pivot.php | 数据透视:多维统计 + CSV 导出 + 按天数清除(清除前自动执行「数据保留」)+ 表空间超限提醒 + 新版本检测 |
spiderbots_push.php | 数据推送:单条推送 / 批量分波推送(每批 10 个自动连续推送,进度条显示成功/失败计数) |
spiderbots_style.css | 暗色科技风样式表(套件自带,独立运行) |
spiderbots_verify.php | 登录守卫(各管理页 include,48 小时有效) |
spiderbots_login.php | 登录页(账号 jiaotu + 安装时设置的管理密码) |
spiderbots_manual.html | 套件内置说明书(与本文档同步) |
三、安装部署
① 上传 将整套文件上传到网站根目录(生成 robots.txt 需写入根目录才对全站生效;子目录部署时只能生成该目录下的 robots.txt),确保目录可写(用于生成配置与备份)
② 安装 浏览器访问 http://你的域名/spiderbots_setup.php,填写数据库信息与管理密码,点击「开始安装」(推送地址已内置固定,无需填写)
③ 接入 安装完成页提供两种接入代码(PHP include / JS 嵌入),复制到你需要监控的页面尾部
④ 登录 访问 spiderbots_login.php,账号 jiaotu + 安装时设置的管理密码,登录后台(48 小时会话有效)
⑤ 收尾 安装器在生成配置后会自动锁定;建议确认后台可正常访问后删除 spiderbots_setup.php
部署验证
- 访问嵌入了采集代码的页面,然后打开「数据管理」(spiderbots_robots.php)查看访问记录是否产生
- 打开「数据透视」(spiderbots_pivot.php)确认统计卡有数据
- 打开「数据推送」(spiderbots_push.php),先单条推送测试生态端连通,再批量推送
识别规则:识别为蜘蛛的访问 push 标记为 1(待推送);带来源页(referer)的访问判定为真人,不会被推送;同一 IP 历史上出现过真人记录后,后续访问也标记为真人。
四、两种接入方式
方式 A:PHP include(推荐,准确率最高)
<?php include('spiderbots.php'); ?>
方式 B:JS 埋点(适合静态页 / 无法改 PHP 的场景)
<script src="/spiderbots.js"></script>
JS 方式以图片 beacon 请求 spiderbots_collect.php,无跨域限制、不阻塞页面;访客 IP 与 User-Agent 由服务端获取,识别逻辑与 PHP 方式完全一致。
五、功能说明
数据管理(spiderbots_robots.php)
- 访问记录:四维筛选(IP / 蜘蛛 / 系统 / 浏览器)+ 分页浏览,推送状态标签一目了然
- robots.txt 生成器:蜘蛛勾选列表来自保底数据(预设 166 条 + 自动保留的新蜘蛛),支持禁止路径、宽松/基础/严格模板、实时预览
- 真实保存:写入服务器 robots.txt 前自动备份为
robots.时间戳.txt,支持一键恢复或删除备份
数据透视(spiderbots_pivot.php)
- 统计卡:总记录 / 蜘蛛种类 / 真人独立 IP / 今日访问 / 表占用空间
- 多维统计:Top 爬虫 / 热门 IP / 系统 / 浏览器 / 24 小时访问分布,支持导出 CSV(带 BOM,Excel 直开)
- 按天数清除:清除前自动执行「数据保留」——把抓到的新蜘蛛并入保底列表,蜘蛛名单越清越全
- 表占用超过 5MB 自动红色提醒并直达清理区域
- 新版本检测:官网 version.txt 版本号更高时弹层提示前往 jiaotu.wanyouhui.com 升级
数据推送(spiderbots_push.php)
- 列出待推送蜘蛛 IP(按 IP 去重),每行可单独推送
- 批量推送:每批 10 个自动连续推送下一波,进度条实时显示已推送数量与成功/失败计数(不展示具体明细)
- 回馈数据累计:实时显示生态端反馈——接收(入库成功)/ 重复(IP 已存在)/ 其他(格式错误等)
- 单条推送失败时按钮变红显示「失败 · 重试」,可点击重试;无论结果如何均标记为已推送,避免重复
- 页面每 100 秒自动刷新(推送进行中暂停刷新)
六、界面展示
椒图系统核心界面展示:
1. 蜘蛛拦截系统主界面
2. 数据透视分析界面
3. 数据记录汇总界面
3. 数据推送回馈界面
七、程序下载
下载数据
程序更新
- 20260127 1.00 版本正式上线
- 20260217 1.01 版本更新上线 添加了 67 个国家级小语种搜索引擎蜘蛛或爬虫
- 20261026 1.2 版本更新上线 一键安装向导 / 冷热双层识别库(7000+ 蜘蛛)/ 保底蜘蛛数据 / 批量分波推送与回馈统计 / robots.txt 备份恢复 / 表空间提醒与版本升级检测 / PHP 5.4 全面兼容
注意事项
- 安全提示:下载后请先检查文件完整性,安装后及时删除 spiderbots_setup.php
- 版本更新:数据透视页会自动检测官网新版本并弹层提醒,也可定期检查下载地址
八、常见问题
- 推送地址是什么?已内置固定为椒图生态(jiaotu.wanyouhui.com/insert.php),无需修改;生态端异常时推送会计为失败但不影响本站数据
- robots 表太大?在数据透视页按天数清除历史数据(表占用超 5MB 会红色提醒),建议保留 30 天;清除不会丢失蜘蛛名单(自动保底)
- 生成器里没有我要的蜘蛛?勾选列表来自保底数据与实际抓取记录,抓到新蜘蛛后可通过数据保留自动并入保底
- 登录状态多久有效?48 小时,超时后重新登录即可
- 支持什么 PHP 版本?PHP 5.4 及以上全部兼容,无需额外扩展(mbstring 缺失自动兜底)
九、重要注意事项
⚠️ 安全与使用提醒
- 安全防护:spiderbots_conn.php 含数据库与管理密码信息,不要将其暴露于可被下载的路径;安装完成后删除 spiderbots_setup.php
- 数据备份:清除数据前会自动导出 CSV(可勾选),建议定期备份 robots 表与 spiderbots_keep.json
- 性能优化:网站访问量大时建议定期清理老旧访问数据(表占用超 5MB 会红色提醒)