M09Ic
|
98b67cf53c
|
修复--timeout实际没生效的bug
|
2023-06-30 17:29:49 +08:00 |
|
M09Ic
|
6387e2b22f
|
feat. 新增--index --random 支持自定义index与random目录
|
2023-06-03 22:24:52 +08:00 |
|
M09Ic
|
76c2cbab38
|
修复bytes类型转换错误的bug
|
2023-06-03 21:09:01 +08:00 |
|
M09Ic
|
7434a4129d
|
新增--retry插件
|
2023-05-04 12:04:59 +08:00 |
|
M09Ic
|
9f18eef135
|
添加url错误是的报错信息
|
2023-04-25 17:33:07 +08:00 |
|
M09Ic
|
e0f4c79665
|
修复派生的url可能导致部分插件出错的bug. 现在一旦url出现错误, 判定该请求无效
|
2023-04-25 17:28:08 +08:00 |
|
M09Ic
|
64246a5a7a
|
添加--scope与--no-scope参数, 用来指定爬虫的作用范围
修复recursive中的多个bug
|
2023-04-14 20:05:21 +08:00 |
|
M09Ic
|
5a29139f68
|
修复url解析错误的bug
修复redirect的wg计算错误的bug
|
2023-04-06 21:20:24 +08:00 |
|
M09Ic
|
49c1b8256e
|
关闭check-only的kepp-alive.
新增checkonly的--match指定过滤器
|
2023-04-04 01:21:31 +08:00 |
|
M09Ic
|
6876958ca8
|
修复多个可能导致报错的bug.
checkonly支持upgrade与redirect
|
2023-04-04 00:47:33 +08:00 |
|
M09Ic
|
650a49c160
|
适配gogo v2.11.0
|
2023-04-04 00:47:33 +08:00 |
|
M09Ic
|
105628e338
|
实装random useragent
|
2023-03-24 14:20:31 +08:00 |
|
M09Ic
|
2b8f015210
|
修复部分情况下url不合法导致出现报错的bug
|
2023-02-21 17:58:16 +08:00 |
|
M09Ic
|
500e73ef4b
|
调整指纹收集的逻辑
|
2023-02-19 22:27:16 +08:00 |
|
M09Ic
|
07216e2530
|
修复check-only失效的bug
|
2023-02-19 16:14:51 +08:00 |
|
M09Ic
|
344b5a8695
|
跳过二进制的返回数据读取
|
2023-02-08 19:18:33 +08:00 |
|
M09Ic
|
6faec1756a
|
调整extract格式
|
2023-02-08 15:30:40 +08:00 |
|
M09Ic
|
0dd9c17ad8
|
新增一种特殊的过滤模式--unique 或指定状态码的--unique-status 200
|
2023-02-08 12:58:56 +08:00 |
|
M09Ic
|
3197ab6388
|
优化location的处理, 某些应用可能会使用小写
|
2023-02-07 18:37:19 +08:00 |
|
M09Ic
|
7577a8fe88
|
多处性能与代码优化, 能更好的支持不同的fuzz了
|
2023-02-04 19:44:37 +08:00 |
|
M09Ic
|
7eea77ee91
|
spray输出相关的代码整合到spray中
|
2023-02-01 18:31:50 +08:00 |
|
M09Ic
|
5e3df6f80a
|
修复在优化stat时一个线程安全问题导致程序阻塞的bug
|
2023-01-29 18:23:55 +08:00 |
|
M09Ic
|
3abc250ab6
|
适配新版本gogo
|
2023-01-28 15:56:21 +08:00 |
|
M09Ic
|
8d61235a37
|
update mod
|
2023-01-28 14:53:02 +08:00 |
|
M09Ic
|
cf08e5cc1d
|
完成对extract相关功能的重构
|
2023-01-28 13:15:49 +08:00 |
|
M09Ic
|
9ffc86c5d7
|
优化了输出中的number字段, 现在能正确判断了, 并且addition中的number会是当前的wordoffset, 可以用来判断错误发生的位置.
|
2023-01-12 19:21:35 +08:00 |
|
M09Ic
|
cf763b5861
|
优化统计模块, 现在check失败的任务也会在stat中保留了
|
2023-01-12 18:17:53 +08:00 |
|
M09Ic
|
7f11bd8489
|
新增--rate-limit, 用来限制单个pool请求速率
|
2023-01-12 17:41:44 +08:00 |
|
M09Ic
|
581bd56796
|
添加了多处错误与日志描述
|
2023-01-12 16:35:34 +08:00 |
|
M09Ic
|
db8130651b
|
调整多条正则
|
2023-01-11 12:04:03 +08:00 |
|
M09Ic
|
ef9b50fdc1
|
优化stat输出配色
|
2023-01-11 12:03:54 +08:00 |
|
M09Ic
|
583f1f8d64
|
调整多条爬虫的正则
|
2023-01-11 11:40:38 +08:00 |
|
M09Ic
|
64afdcc13a
|
调整全局的去重列表以及日志输出
|
2023-01-11 11:26:03 +08:00 |
|
M09Ic
|
2e88cdc071
|
调整爬虫的正则
|
2023-01-11 11:12:40 +08:00 |
|
M09Ic
|
1b8fa8d0ed
|
优化stat, 添加了source的相关统计
|
2023-01-10 23:54:46 +08:00 |
|
M09Ic
|
b54a94241a
|
重写了目录拼接的所有逻辑, 发现做到安全的目录拼接有些困难, 只能做到尽可能安全
|
2023-01-10 23:44:03 +08:00 |
|
M09Ic
|
d2722d8fd5
|
优化body读取的逻辑, 0byte的body将会自动跳过读取
|
2023-01-10 11:59:43 +08:00 |
|
M09Ic
|
b82bf06d31
|
优化body为0bytes情况下EOF报错显示
|
2023-01-10 02:06:02 +08:00 |
|
M09Ic
|
1c294cbc0a
|
优化crawl的正则表达式
|
2023-01-10 01:30:05 +08:00 |
|
M09Ic
|
9600d6fe3e
|
修复host输出不适当的bug
|
2023-01-10 01:08:42 +08:00 |
|
M09Ic
|
4d338f18c2
|
进一步优化crawl的正则与特殊情况处理
|
2023-01-10 00:58:16 +08:00 |
|
M09Ic
|
f9e4ab902f
|
实装-c参数, 可以自定义client
|
2023-01-10 00:57:55 +08:00 |
|
M09Ic
|
7184891338
|
进一步优化crawl的正则与特殊情况
|
2023-01-09 22:41:05 +08:00 |
|
M09Ic
|
75106db917
|
优化正则, 适配go的正则规则
|
2023-01-09 22:23:51 +08:00 |
|
M09Ic
|
b8a31be639
|
新增--read-all参数, 用来取消body max read限制
|
2023-01-09 21:47:06 +08:00 |
|
M09Ic
|
55ab5b79f2
|
对爬虫进行大量优化, 包括优化性能, 去重, 优化目录拼接, 适配"./"相对目录
fuzzy会在开启debug时自动启用.
|
2023-01-09 21:33:05 +08:00 |
|
M09Ic
|
48484d9b68
|
优化命令行参数, 当-w与-d都为空的时候自动添加"/"防止报错
|
2023-01-09 15:45:17 +08:00 |
|
M09Ic
|
5d3843e342
|
优化相似度判断, 并添加了distance/sim字段用来获取.
优化fuzzybaseline的逻辑, 移动到处理线程中.
优化expr的性能
修复--fuzzy没启用也会生效的bug
|
2023-01-09 14:47:58 +08:00 |
|
M09Ic
|
82934f7d6c
|
适配了favicon的指纹识别
添加了基于contenttype的一些优化
index现在发送的是空数据, 而非添加了"/"之后的
|
2023-01-09 13:43:00 +08:00 |
|
M09Ic
|
a81a5cb63b
|
修复程序并发调度失败的bug
|
2023-01-09 11:55:27 +08:00 |
|