先说明SequnceFile的压缩类型（Compression Type）分为三种NONE，RECORD，BLOCK，通过配置项io.seqfile.compression.type指定：

NONE, Do not compress records  即不压缩

RECORD, Compress values only, each separately.   每条记录都对value进行一次压缩

BLOCK, Compress sequences of records together in blocks.   块压缩，当缓存的key和value字节大小达到指定的阈值，则进行压缩，阈值由配置项io.seqfile.compress.blocksize指定，默认值为1000000字节

RECORD，BLOCK使用的压缩算法是由创建SequnceFile.Writer 时指定的CompressionOption决定的, CompressionOption中CompressionCodec codec属性即为压缩编码器,  不指定时默认为org.apache.hadoop.io.compress.DefaultCodec 对应的底层压缩库为zlib， 除了DefaultCodec还有几个其他的CompressionCodec：GzipCodec  Lz4Codec  SnappyCodec   BZip2Codec 这里不做比较

DefaultCodec在实现zlib压缩的时候，可以指定使用libhadoop.so（hadoop 框架提供的native库）或java.util.zip库。下面了解下如何开启hadoop native库或java zip库：

SequnceFile 默认使用的是org.apache.hadoop.io.compress.DefaultCodec 压缩方式，使用的是Deflate的压缩算法

DefaultCodec在创建压缩器时会执行类ZlibFactory.getZlibCompressor(conf)方法，实现代码片段：

    return (isNativeZlibLoaded(conf)) ?new ZlibCompressor(conf) :new BuiltInZlibDeflater(ZlibFactory.getCompressionLevel(conf).compressionLevel());

当加载本地Zlib库时，使用的是ZlibCompressor压缩器类，否则使用BuiltInZlibDeflater类，BuiltInZlibDeflater类是调用java的java.util.zip.Inflater类实现；

其中isNativeZlibLoaded是根据NativeCodeLoader类是否已经加载hadoop native库来判断的，代码如下：

// Try to load native hadoop library and set fallback flag appropriatelyif(LOG.isDebugEnabled()) {LOG.debug("Trying to load the custom-built native-hadoop library...");}try {System.loadLibrary("hadoop");LOG.debug("Loaded the native-hadoop library");nativeCodeLoaded = true;} catch (Throwable t) {// Ignore failure to loadif(LOG.isDebugEnabled()) {LOG.debug("Failed to load native-hadoop with error: " + t);LOG.debug("java.library.path=" +System.getProperty("java.library.path"));}}if (!nativeCodeLoaded) {LOG.warn("Unable to load native-hadoop library for your platform... " +"using builtin-java classes where applicable");}

其中System.loadLibrary("hadoop"); 在linux上查找的就是libhadoop.so。

总结：当无法加载本地的hadoop库，hadoop会使用java.util.zip.Inflater类来对SequnceFile进行压缩；当可以加载到本地hadoop库，则使用本地的库。

下面来比较实用native hadoop库和不使用native hadoop的性能区别。

不使用native hadoop即在jvm运行参数java.library.path中不包含native库的路径：

java.library.path=/usr/java/packages/lib/amd64:/usr/lib64:/lib64:/lib:/usr/lib

使用则在后面加上hadoop的native库路径:

java.library.path=/usr/java/packages/lib/amd64:/usr/lib64:/lib64:/lib:/usr/lib:$HADOOP_HOME/lib/native

虚拟机集群:

50w 数据，sequnceFile压缩模式为RECORD, key为随机的10字节，value为随机200字节：

native lib disabled:    32689ms         after compression 114.07 MB

native lib enabled：   30625ms        after compression 114.07 MB

50w 数据，sequnceFile压缩模式为BLOCK, key为随机的10字节，value为随机200字节：

native lib disabled：   11354ms       after compression 101.17 MB

native lib enabled:    10699ms       after compression 101.17 MB

物理机集群:

50w 数据，sequnceFile压缩模式为RECORD, key为随机的10字节，value为随机200字节：

native lib disabled:    21953ms         after compression 114.07 MB

native lib enabled：   24742ms        after compression 114.07 MB

100w 数据，sequnceFile压缩模式为RECORD, key为随机的10字节，value为随机200字节：

native lib disabled:    48555ms         after compression 228.14 MB

native lib enabled：   45770ms        after compression 228.14 MB

100w 数据，sequnceFile压缩模式为RECORD, key为随机的10字节，value为随机200字节, 设置zlib压缩级别为BEST_SPEED：

native lib disabled:    44872ms         after compression 228.14 MB

native lib enabled：  51582ms        after compression 228.14 MB

100w 数据，sequnceFile压缩模式为BLOCK, key为随机的10字节，value为随机200字节, 设置zlib压缩级别为BEST_SPEED：

native lib disabled:    14374ms         after compression  203.54 MB

native lib enabled：  14639ms        after compression   203.54 MB

100w 数据，sequnceFile压缩模式为BLOCK, key为随机的10字节，value为随机200字节, 设置zlib压缩级别为DEFAULT_COMPRESSION：

native lib disabled:    15397ms         after compression  203.54 MB

native lib enabled：  13669ms        after compression   203.54 MB

分析测试结果，总结如下：

当在不同的压缩模式，或不同的数据量，以及不同的zlib压缩级别时，使用hadoop native库压缩和使用java zip库之间没有太大差别

后续再尝试其他的native压缩编码方式： GzipCodec  Lz4Codec  SnappyCodec   BZip2Codec