操作系统 
首页 > 操作系统 > 浏览文章

让gzip压缩速度加快的解决方案:使用支持多核CPU多线程并发压缩的pigz

(编辑:jimmy 日期: 2025/10/14 浏览:3 次 )

pig是个啥东东?
官网:http://zlib.net/pigz
一句话简介:

复制代码代码如下:
A parallel implementation of gzip for modernmulti-processor, multi-core machines。
简单的说,就是支持并行的gzip。废话不多说,开始测试。

pig默认用当前逻辑cpu个数来并发压缩,无法检测个数的话,则并发8个线程。

一、测试压缩包文件1

复制代码代码如下:
压缩前
-rw-r--r-- 1 root root 2474772480 Dec 3 19:54 dbs.tar</p> <p>1、gzip测试
压缩耗时,CPU最高:101.6%
real 2m18.042s
user 2m10.204s
sys 0m6.876s</p> <p>解压缩耗时,CPU最高:101.6%
real 0m26.756s
user 0m20.175s
sys 0m6.580s</p> <p>压缩后
-rw-r--r-- 1 root root 2349563863 Dec 3 19:54 dbs.tar.gz</p> <p>2、pigz测试
并发8线程(默认):
压缩耗时,CPU最高:832%
real 0m21.710s
user 2m31.229s
sys 0m9.101s</p> <p>解压缩耗时,CPU最高:199%
real 0m13.239s
user 0m11.791s
sys 0m12.426s</p> <p>并发4线程:
压缩耗时,CPU最高:427.6%
real 0m38.299s
user 2m30.701s
sys 0m8.369s</p> <p>解压缩耗时,CPU最高:202%
real 0m13.294s
user 0m12.154s
sys 0m11.862s</p> <p>压缩后
-rw-r--r-- 1 root root 2350161547 Dec 3 19:54 dbs.tar.gz</p> <p>二、测试压缩包文件2
压缩前
-rw-r--r-- 1 root root 5248890880 Dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar</p> <p>1、gzip测试
压缩耗时,CPU最高:101%
real 6m20.524s
user 6m2.466s
sys 0m7.410s</p> <p>解压缩耗时,CPU最高: 101%
real 0m58.893s
user 0m46.258s
sys 0m11.944s</p> <p>压缩后
-rw-r--r-- 1 root root 1410045513 Dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar.gz</p> <p>2、pigz测试
并发8线程(默认):
压缩耗时,CPU最高: 799%
real 1m11.908s
user 6m36.717s
sys 0m9.860s</p> <p>解压缩耗时,CPU最高:179%
real 0m33.188s
user 0m38.069s
sys 0m16.728s</p> <p>并发4线程:
压缩耗时,CPU最高: 418%
real 1m41.547s
user 6m36.782s
sys 0m9.806s</p> <p>解压缩耗时,CPU最高: 179%
real 0m33.120s
user 0m37.500s
sys 0m16.956s</p> <p>压缩后
-rw-r--r-- 1 root root 1406061442 Dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar.gz

结论:

1、pigz默认用法(默认并发线程是逻辑cpu个数)可比gzip快5.3倍,CPU消耗则是gzip的8倍,压缩比则相当;
2、并发8线程对比4线程提升:41.2%,16线程对比8线程提升:27.9%,32线程对比16线程提升:3%;
3、在对压缩效率要求较高、但对短时间内CPU消耗较高不受影响的场景,使用pigz非常合适。

上一篇:Linux下配置rdate时间服务器的方法
下一篇:linux清理swap和buffer/cache的方法
一句话新闻
一文看懂荣耀MagicBook Pro 16
荣耀猎人回归!七大亮点看懂不只是轻薄本,更是游戏本的MagicBook Pro 16.
人们对于笔记本电脑有一个固有印象:要么轻薄但性能一般,要么性能强劲但笨重臃肿。然而,今年荣耀新推出的MagicBook Pro 16刷新了人们的认知——发布会上,荣耀宣布猎人游戏本正式回归,称其继承了荣耀 HUNTER 基因,并自信地为其打出“轻薄本,更是游戏本”的口号。
众所周知,寻求轻薄本的用户普遍更看重便携性、外观造型、静谧性和打字办公等用机体验,而寻求游戏本的用户则普遍更看重硬件配置、性能释放等硬核指标。把两个看似难以相干的产品融合到一起,我们不禁对它产生了强烈的好奇:作为代表荣耀猎人游戏本的跨界新物种,它究竟做了哪些平衡以兼顾不同人群的各类需求呢?