文件名称:od-get:一种Rust工具,用于从打开的目录中递归地爬网和下载数据
文件大小:33KB
文件格式:ZIP
更新时间:2024-02-28 20:37:51
rust cli crawler open-directory open-directory-downloader
单发 用于从递归地爬网和下载数据的Rust工具 过滤(正则表达式)支持 排除文件模式 包括文件格式 排除文件夹模式 包括文件夹模式 可定制的输出 目标目录 细度 元数据-JSON文件生成 日志文件/动态终端输出 可定制的限制 递归深度限制 文件数限制 文件计数偏移量(跳过n文件) 多线程(使用rayon ) 恢复错误(避免重新下载文件) 多级递归 禁用下载(仅爬网至JSON) (正在进行中,一层递归工作) 许可和版权 版权所有(c)2021 Bernd-L。 版权所有。 od-get是免费软件:您可以根据*软件基金会发布的的条款(许可证的版本3)或(可选)任何更高版本来重新分发和/或修改它。 。 分发od-get的目的是希望它会有用,但没有任何担保; 甚至没有对适销性或特定用途适用性的暗示保证。 有关更多详细信息,请参见。 您应该已经收到了的
【文件预览】:
od-get-main
----Cargo.toml(872B)
----Cargo.lock(32KB)
----src()
--------main.rs(6KB)
--------download()
--------cli.rs(5KB)
--------constants.rs(705B)
----.vscode()
--------launch.example.json(895B)
--------settings.json(113B)
----LICENSE.md(33KB)
----README.md(2KB)
----.gitignore(38B)