通过案例精通parallel并行命令 利用多核CPU来加速你的Linux命令

时间:2019-09-14 06:32:48
【文件属性】:

文件名称:通过案例精通parallel并行命令 利用多核CPU来加速你的Linux命令

文件大小:1.23MB

文件格式:PDF

更新时间:2019-09-14 06:32:48

parallel 并行命令

你是否曾经有过要计算一个非常大的数据(几百GB)的需求?或在里面搜索,或其它操作——一些无法并行的操作。数据专家们,我是在对你们说。你可能有一个16核或更多核的CPU,但我们合适的工具,例如 grep, bzip2, wc, awk, sed等等,都是单线程的,只能使用一个CPU内核。我们需要用到GNU Parallel命令,它让我们所有的CPU核心在单机内做神奇的map-reduce操作,当然,这还要借助很少用到的–pipes 参数(也叫做–spreadstdin)。这样,你的负载就会平均分配到各CPU上,真的。


网友评论