百摩网
当前位置: 首页 生活百科

关于压缩文件的操作(神奇的pv命令--直观查看压缩和解压文件时的进度)

时间:2023-07-06 作者: 小编 阅读量: 4 栏目名: 生活百科

root@iZmfgnjkehk13uZ:/opt#pv-n-i0.5-L5kpvtest.tar.gz|grepseconds利用grep命令搜索文件内容,-N标记经由pv的管道流名称。后面会分享更多关于运维方面内容,感兴趣的朋友可以关注下!

概述

在处理Linux系统上的大文件时, 特别是拷贝/备份/压缩这些操作, 可能想要了解这些大文件的处理进度, 然而在管道中工作的终端工具可能并没有提供查看进度信息的功能, 此时就需要称为'pv'或者Pipe Viewer的工具监控通过管道的数据的进度信息, 已消耗的时间, 进度条显示的完成百分比, 当前管道的吞吐量, 已传输的数据量, 预计完成的时间等.

简介

语法:

pv [OPTION] [FILE] pv [-h|-V]

不带任何选项时, 默认自带-p --progress(带进度条的完成比例), -t --timer(已消耗时间), -e --eta(预估剩余时间), -r --rate(已传输总量), -b --bytes(数据量总量)

Pipe Viewer用于监视通过管道的数据进度信息. pv使用户能够看到数据通过管道的进度, 并提供例如耗时,完成比例,吞吐量,传输量和ETA等这些信息. 为了实现上述功能需要将该命令插入到两个进程之间的管道中, 并佐以合适的选项. 它的标准输入经由它到达其标准输出, 同时进度信息会显示在标准错误上. pv依次拷贝FILE中的数据到其标准输出( - 表示标准输入), 如果FILE未提供仅仅拷贝标准输入. 该命令行的行为与cat类似.

注意:如果输入数据量无法计算, 并且输出是一个块设备, 那么块设备的大小会用来作为输出总量, 即使指定了-S --stop-at-size选项, pv也会停在该位置.


1、监视打开/拷贝文件进度

利用pv打开一个文件, 标准输出可以重定向到一个新文件或者/dev/null. -L 选项表示限速, 控制通过pv的数据流速, 便于查看进度信息. 默认显示进度信息包括: 传输的数据量, 已消耗时间, 数据传输速率, 进度条和完成比率, 预估剩余时间.

#apt-get install pv# pv -L 50k BTRobot_v2.2.6.zip 1>/dev/null

2、监视压缩文件进度

利用pv打开一个数据通道, 并将pv的标准输出作为zip的标准输入.

'-' 表示zip命令压缩当前标准输入的数据.

为了清除zip程序的标准错误输出, 将其中定向到Null设备, 此时输出信息就只剩下pv的标准错误输出信息.

# pv -L 50k BTRobot_v2.2.6.zip | zip 1>/dev/null # pv -L 50k BTRobot_v2.2.6.zip |(zip 1>cups.zip 2>/dev/null)

gzip直接压缩文件和通过pv显示进度信息的执行过程比较

root@iZmfgnjkehk13uZ:/opt# gzip -c ftp_down.sh >pvtest.tar.gzroot@iZmfgnjkehk13uZ:/opt# du -sb pvtest.tar.gz root@iZmfgnjkehk13uZ:/opt# pv -L 10k ftp_down.sh|gzip > pvtest.tar.gz

3、监视数据内容搜索进度

利用wc命令计算文件的行数/词数/字节数, wc没有进度信息的功能, 通过pv来监视数据传输量就可以很容易得到当前文件的完成比例。

root@iZmfgnjkehk13uZ:/opt# pv -L 5k pvtest.tar.gz |wc

利用grep命令搜索文件内容, -n命令以整数显示数据量的完成比例, -i设置进度更新间隔时间(可以是小数), 可以很容易看出完成的比例。

root@iZmfgnjkehk13uZ:/opt# pv -n -i 0.5 -L 5k pvtest.tar.gz |grep seconds

利用grep命令搜索文件内容, -N 标记经由pv的管道流名称。

root@iZmfgnjkehk13uZ:/opt# pv -N GrepRate -i 0.1 -L 5k pvtest.tar.gz| grep seconds

4、监视tar的备份进度

tar命令中的第一个'-'写备份文件到标准输出, 备份文件通过管道作为pv的标准输入, 经由pv后作为标准输出写入文件down.tgz.

pv显示选项中的部分长短选项-t --timer, -r --rate, -b --bytes.

由于数据总量无法后去, 完成比例的进度条显示就无法明确显示, 同时-e --eta亦-p --propress也是无法显示.

root@iZmfgnjkehk13uZ:/opt# tar -czf - ./nginx/ | (pv -L 1000k -p --timer --rate --bytes > nginx.tar.gz)

5、配置dialog显示进度条

通过-s参数指定数据总量, 进度条的显示应该就会先正确. dialog只接受标准输入的数字, 所以pv要使用-n参数输出数字比例, 同时pv的标准错误要重定向到标准输出中, dialog才能从标准输入接收到数据. gauge是进度条类型, 后续参数是描述信息, 进度条高度终端比率和长度终端比例.

root@iZmfgnjkehk13uZ:/opt# tar -czf - ./nginx/ | (pv -L 10k -s 69705 -n > nginx.tgz) 2>&1 | dialog --gauge "Progress" 10 70

6、大量数据网络传输

假设有机器A, 地址128.160.171.181; 机器B, 地址128.160.64.115

首先要在机器B上面制造数据, 数据都处于同一个目录内, 利用tar和pv拷贝/usr/lib中的所有文件到upload目录, 可以通过这种方式看到进度信息.

root@iZmfgnjkehk13uZ:/opt# cd /tmp/root@iZmfgnjkehk13uZ:/tmp# mkdir uploadroot@iZmfgnjkehk13uZ:/tmp# cd upload/root@iZmfgnjkehk13uZ:/tmp/upload# tar -C /usr/lib -cf - . | pv | tar -xf -

在机器B上面发布nc命令并启动侦听端口6666, 然后会发现nc开始挂起, 等待连接.

在机器A开始发布命令时, 机器B也可以显示进度条, 显示数据的传输.

如果在机器A上面要看到进度条的完成比例, 可以使用du -sb upload计算数据总量.

[root]tar -cf - upload | pv | nc -l -p 66661.27GB 0:00:11 [ 110MB/s] [ <=> ][root]tar -cf - upload | pv -s $(du -sb upload | awk '{print $1}') | nc -l -p 6666 1.27GiB 0:00:25 [51.3MiB/s] [====================================>] 101%

在机器A上面通过nc命令访问机器B和指定端口并通过tar解压缩文件, 可以看到此时数据开始传输并显示进度条.

[root]nc 128.160.171.181 6666 | pv | tar -xf -1.27GB 0:00:11 [ 110MB/s] [ <=> ]


篇幅有限,关于pv的命令就演示到这了,实际上我还是比较多用来看压缩或者解压时的进度,大家也可以根据需要去做对应的参数调整。

后面会分享更多关于运维方面内容,感兴趣的朋友可以关注下!

    推荐阅读
  • 水果能美容护肤吗(吃黑色水果有利于美容)

    桑葚可增强免疫力。桑葚中含有多种氨基酸、有机酸、胡萝卜素等营养物质,矿物质的含量也比其他水果高出许多,具有增强免疫力、促进造血红细胞生长、防止人体动脉及骨骼关节硬化、促进新陈代谢的功能。但中医认为桑葚是寒性食物,女性生理期和胃肠不好的人要少吃,以防寒气过大导致腹痛。

  • 胡萝卜怎么做小孩子喜欢吃(胡萝卜这么炒太好吃了)

    孩子大多不喜欢吃胡萝卜,除了切碎烙饼之外,切成小丁和肉末一起炒也是很不错的做法,用勺子挖着吃,或者拌饭里面,不仅营养更加丰富,孩子也喜欢吃了。胡萝卜半根,豆角1小把,猪肉适量,葱、姜、植物油、盐、糖、鸡精适量。

  • 洛克王国斩断杂念怎么玩(洛克王国斩断杂念怎么玩视频)

    洛克王国斩断杂念是游戏中的玩法,这个是最新上线的。洛克王国斩断杂念攻略一览1.洛克王国斩断杂念活动一共有五颗星星,需要小洛克们找到哪些会干扰修行的杂念星星。立冬首发斩杀,成功一次试一次;魔武依旧上,老规矩挑战,送走就换上:武义呱呱、末日,这俩限伤加克制,相对会好打一点。

  • 吃的西瓜子是西瓜的籽吗(西瓜)

    西瓜是一年生蔓生藤本;茎、枝粗壮,具明显的棱。雌、雄花均单生于叶腋。果实大型,近于球形或椭圆形,肉质,多汁,果皮光滑,色泽及纹饰各式。中国各地栽培,品种甚多,外果皮、果肉及种子形式多样,以新疆、甘肃兰州、山东德州、江苏东台等地最为有名。其原种可能来自非洲,广泛栽培于世界热带到温带,后传入中国。西瓜为夏季之水果,果肉味甜,能降温去暑;种子含油,可作消遣食品;果皮药用,有清热、利尿、降血压之效。

  • 翡翠的保养(正确的翡翠保养方法)

    翡翠的保养远离油烟场合。人体汗液对于翡翠有清洗作用。有人认为夏天出汗多的时候最好不要佩戴,他们的理由是翡翠不能接触油脂,油脂会沿翡翠的天然缝隙渗翡翠,影响翡翠的光泽。只有经常佩戴翡翠手镯,它才能与手腕部的内关节摩擦,才可以起到保健的作用。

  • 丰田雷凌家用车推荐(12.28万拿下丰田雷凌)

    我是辽宁车主,提车价格为12.28万,目前已经行驶2100公里,接下来给大家谈谈我的真实驾驶感受。

  • 腾讯深耕游戏领域(腾讯平台与内容事业群)

    腾讯深耕游戏领域11月2日,2018腾讯全球合作伙伴大会“共生·游戏”分论坛现场,腾讯内容与平台事业群副总裁侯晓楠表示,在腾讯内部架构调整变革下,新成立平台与内容事业群,将应用宝与社交平台、内容平台、流量平台打通整合,助力平台在内容侧和流量侧的双向升级,更好的助力游戏开发者实现流量新增。除了流量升级外,腾讯游戏业务将与企鹅号的内容业务进行更多联动,包括为游戏业务定制专门的短视频内容和产品。

  • 为什么王莽被称为穿越的人(为什么王莽总被称为)

    然而此时的王莽趁机窃取了大权,建立了新朝。而之后的土改和王莽这一手本质上没什么区别,只是当时的世家门阀纷纷反对王莽这一超前的制度。并且对货币管控十分严格,在王莽时期私铸钱就是死罪一条,一家私铸,五家连坐,全部贬为奴隶。而关于王莽时期的卡尺那和现在的卡尺十分的相似,比西方早了1000多年。

  • 曲阜聚源热力公司缴费地点及方式(曲阜聚源热力公司缴费地点及方式有哪些)

    曲阜聚源热力缴费地点及方式供热客户服务中心:天华路中段路西、鲁城街道春秋社区服务中心院内。

  • 王勃的滕王阁序全文意思翻译(王勃的滕王阁序的全文)

    都督阎公,享有崇高的名望,远道来到洪州坐镇,宇文州牧,是美德的楷模,赴任途中在此暂留。苍天高远,大地寥廓,令人感到宇宙的无穷无尽。冯唐容易衰老,李广立功无数却难得封侯。遭遇穷困而意志更加坚定,在任何情况下也不放弃自己的凌云之志。都督阎公之雅望,棨戟遥临;宇文新州之懿范,襜帷暂驻。鹤汀凫渚,穷岛屿之萦回;桂殿兰宫,即冈峦之体势。四美具,二难并。