61 Commits

Author SHA1 Message Date
M09Ic
806f6355d0 misc update 2023-01-06 03:31:28 +08:00
M09Ic
010447c8f2 更加安全的目录拼接, 在不改变/数量的情况下, 实现安全且正确的拼接path 2023-01-06 01:28:09 +08:00
M09Ic
bb92c994cd 实现--bak, 自动生成字典爆破备份文件 2023-01-06 00:48:13 +08:00
M09Ic
26cc384de0 新增--file-bak参数, 开启有效结果的备份文件爆破, 可以使用-a同时开启三个 2023-01-05 23:26:14 +08:00
M09Ic
9750f819cd 新增--append-rule, 用来对valid的结果进行二次基于规则的爆破.
添加了规则表: filebak.txt
2023-01-05 22:42:07 +08:00
M09Ic
da714a1fcc 调整client中并发池的大小为-t的1.5倍, 优化性能 2023-01-05 15:01:08 +08:00
M09Ic
679b0a129d 调整client中并发池的大小为-t的1.5倍, 优化性能 2023-01-05 14:58:14 +08:00
M09Ic
45f325e02b probe中添加source. 2023-01-04 13:52:03 +08:00
M09Ic
5dc8f7107f 优化content-length输出, 现在超过max的结果也会正确的获取, 但添加了(exceed)标记 2023-01-04 11:31:31 +08:00
M09Ic
4ab500c049 统一crawl与extract的输出 2023-01-04 11:18:03 +08:00
M09Ic
c83838e1ba 统一extract与crawl的输出 2023-01-04 11:07:18 +08:00
M09Ic
5142012ceb 实装--cookie --user-agent, --header参数 2023-01-03 18:43:12 +08:00
M09Ic
e6aabe44c5 baseline添加source字段 2023-01-03 18:27:06 +08:00
M09Ic
835d4663dd 调整爬虫的逻辑, 优化输出颜色 2023-01-03 18:22:13 +08:00
M09Ic
900dca32cb 新增--max-length参数, 允许手动调整最大读取的body 2023-01-03 17:30:14 +08:00
M09Ic
77d4e25c9e 初步实现主动指纹识别 2023-01-03 17:16:55 +08:00
M09Ic
9e9b0de039 初步实现简易爬虫 2023-01-03 17:09:32 +08:00
M09Ic
a55397eaea 优化resume在因为错误退出时的逻辑 2022-12-16 11:56:27 +08:00
M09Ic
073cf2a095 给全局的输出添加配色, 可以使用--no-color或-q关闭 2022-12-15 00:19:06 +08:00
M09Ic
c9f7620aed 展示删掉根据waf指纹判断waf, 因为可能会有大量误报 2022-12-12 18:01:14 +08:00
M09Ic
b3f297c847 适配gogo2.10.1以及最新的templates 2022-12-12 17:26:07 +08:00
M09Ic
0d81491d5a 大量优化, 实装断点续传, 添加ctrl+c的后续处理 2022-12-12 17:05:44 +08:00
M09Ic
faf0812858 优化statistor, 现在是线程安全的 2022-12-11 04:21:42 +08:00
M09Ic
71393bfeb4 修复一个严重的闭包的线程安全问题 2022-12-11 03:52:06 +08:00
M09Ic
6d03910049 修复hash计算时的传入值为body导致多处判断出错的bug 2022-12-11 01:21:05 +08:00
M09Ic
155d0d981b 调整默认check-period为200, 减少check发包.
优化check报错的输出
优化title输出, 转义换行符
2022-12-11 00:50:03 +08:00
M09Ic
af687701a7 初步实现了递归 2022-12-11 00:24:28 +08:00
M09Ic
b94a4c3137 实装rulebase 字典生成器 2022-12-06 21:45:14 +08:00
M09Ic
f9c5a71258 实现断点续传 2022-12-02 19:59:15 +08:00
M09Ic
023e316518 实装耗时功能, 现在可以看到每个任务与每个请求的耗时 2022-12-02 18:29:26 +08:00
M09Ic
a780f002bf 修复闭包的线程安全bug 2022-12-02 18:05:33 +08:00
M09Ic
38e654913d 实装extractor
多处小优化
2022-12-02 15:21:17 +08:00
M09Ic
f05fd498be 优化client, 关闭path与header的normalizing 2022-11-29 22:00:40 +08:00
M09Ic
fed6fbb3ae 支持跟随重定向 2022-11-29 21:55:27 +08:00
M09Ic
0233c3017b 自动判断协议升级 2022-11-29 20:50:00 +08:00
M09Ic
cc512829ec 新增statistor, 用作统计请求概览与断点续传 2022-11-21 23:56:27 +08:00
M09Ic
cd0ede7e1c 新增--filter与--match参数, 可以自定义过滤与匹配函数 2022-11-21 20:44:02 +08:00
M09Ic
5dddf1933c 优化日志输出, 新增总的命令行进度条 2022-11-21 11:35:38 +08:00
M09Ic
be0fc35cab 实装--check-only参数, 实现类似httpx的批量请求的功能 2022-11-18 20:27:29 +08:00
M09Ic
1895496e0b 修复某些情况下statuscode无法正确读取的bug 2022-11-17 16:33:56 +08:00
M09Ic
32bf598c28 优化--force的逻辑, 开启--force时将关闭check 2022-11-17 05:40:02 +08:00
M09Ic
b0ee744971 优化force的逻辑, force将忽略所有错误强制扫完字典 2022-11-11 14:50:59 +08:00
M09Ic
3534a7b668 优化check逻辑, 减少check发包.
添加相关接口, 为后续的通过dsl自定义过滤规则做准备
2022-11-11 10:20:32 +08:00
M09Ic
2c135f2b06 优化compare逻辑, bodylength之差小于16, 即有可能判断为0或1 2022-11-11 01:12:35 +08:00
M09Ic
9b99c2a0b2 新增--distance参数, 控制simhash阈值 2022-11-10 21:26:07 +08:00
M09Ic
5fdbd5e05d 实装fuzzy compare 2022-11-10 21:18:26 +08:00
M09Ic
6f1ca49408 实装了fuzzy-compare
优化输出与输出逻辑
极大的优化了compare性能
2022-11-10 21:03:07 +08:00
M09Ic
4981ab326b 实装-U,-L, --remove-extensions, -extensions, --exclude-extension 2022-11-10 04:22:42 +08:00
M09Ic
2bd7af7d98 实装指纹识别 2022-10-28 00:46:54 +08:00
M09Ic
6cc0a71dae 优化初始化判断 2022-10-27 23:40:15 +08:00