GitHub代码地址:点击这里


上下文自适应的变长编码(Context-based Adaptive Variable Length Coding, CAVLC)

1. 引言

在前述的几章节的博文/视频中,我们已经了解到熵编码是利用信息的统计冗余进行数据压缩的无损编码方法,并且已经讨论过了熵编码的基本原理、H.264中使用的语法元素解析算法“指数哥伦布编码”的算法与实践:

  • 【H.264/AVC视频编解码技术详解】七、 熵编码算法(1):基础知识
  • 【H.264/AVC视频编解码技术详解】八、 熵编码算法(2):H.264中的熵编码基本方法、指数哥伦布编码

在我们已经实现的H.264码流结构(如NAL Unit、Slice Header等)的解析中,大多使用定长编码或者指数哥伦布编码实现。而例如预测残差等占据码流大量体积的数据则必须使用压缩率更高的算法,如CAVLC和CABAC等。前者是我们将在本文中讨论的内容,后者将在后续内容中详述。

2. CAVLC的基本原理

我们知道,CAVLC的全称叫做“上下文自适应的变长编码Context-based Adaptive Variable Length Coding”。所谓“上下文自适应”,说明了CAVLC算法不是像指数哥伦布编码那样采用固定的码流-码字映射的编码,而是一种动态编码的算法,因而压缩比远远超过固定变长编码UVLC等算法。

在H.264标准中,CAVLC主要用于预测残差的编码。在本系列第二篇博文中我们给出了H.264的编码流图,其中可知,熵编码的输入为帧内/帧间预测残差经过变换-量化后的系数矩阵。以4×4大小的系数矩阵为例,经过变换-量化后,矩阵通常呈现以下特性:

  1. 经过变换量化后的矩阵通常具有稀疏的特性,即矩阵中大多数的数据已0为主。CAVLC可以通过游程编码高效压缩连续的0系数串;
  2. 经过zig-zag扫描的系数矩阵的最高频非0系数通常是值为±1的数据串。CAVLC可以通过传递连续的+1或-1的长度来高效编码高频分量;
  3. 非零系数的幅值通常在靠近DC(即直流分量)部分较大,而在高频部分较小;
  4. 矩阵内非0系数的个数同相邻块相关;

鉴于上述的特性3和4,针对待编码的系数在系数矩阵中不同的位置,以及相邻块的有关信息,在编码时采用不同的码表进行编码。CAVLC的这种特性,体现了命名中的“上下文自适应”的方法。

3. CAVLC的编码流程

在CAVLC中,熵编码不是像哈夫曼编码等算法一样针对某一个码元进行编码,而是针对一个系数矩阵进行。假设我们希望对一个如下变换系数块进行CAVLC编码:

{3,  2, -1,  0,1,  0,  1,  0,-1, 0,  0,  0,0,  0,  0,  0,
}

对于一个4×4大小的变换系数矩阵进行CAVLC编码,首先需要对其进行扫描,将二维矩阵转化为一维数组。如前一节所讲,扫描按照zig-zag顺序进行,即按照如下顺序:

因此,扫描之后变换系数将进行重新排列,得到的结果为:

[3, 2, 1, -1, 0, -1, 0, 1, 0, 0, 0, 0, 0, 0, 0, 0]

在编码过程中需要注意以下重要的语法元素:

  • 非零系数的个数(TotalCoeffs):取值范围为[0, 16],即当前系数矩阵中包括多少个非0值的元素;
  • 拖尾系数的个数(TrailingOnes):取值范围为[0, 3],表示最高频的几个值为±1的系数的个数。拖尾系数最多不超过3个,若超出则只有最后3个被认为是拖尾系数,其他被作为普通的非0系数;
  • 拖尾系数的符号:以1 bit表示,0表示+,1表示-;
  • 当前块值(numberCurrent):用于选择编码码表,由上方和左侧的相邻块的非零系数个数计算得到。设当前块值为nC,上方相邻块非零系数个数为nA,左侧相邻块非零系数个数为nB,计算公式为nC = round((nA + nB)/2);对于色度的直流系数,nC = -1;
  • 普通非0系数的幅值(level):幅值的编码分为prefix和suffix两个部分进行编码。编码过程按照反序编码,即从最高频率非零系数开始。
  • 最后一个非0系数之前的0的个数(TotalZeros);
  • 每个非0系数之前0的个数(RunBefore):按照反序编码,即从最高频非零系数开始;对于最后一个非零系数(即最低频的非零系数)前的0的个数,以及没有剩余的0系数需要编码时,不需要再继续进行编码。

在上述各类型数据中,编码非零系数的level相对最为复杂。其主要过程为:

  1. 确定suffixLength的值:

    • suffixLength初始化:通常情况下初始化为0;当TotalCoeffs大于10且TrailingOnes小于3时,初始化为1;
    • 若已经编码好的非零系数大于阈值,则suffixLength加1;该阈值定义为3 << ( suffixLength − 1 );编码第一个level后,suffixLength应加1;
  2. 将有符号的Level值转换为无符号的levelCode: 
    • 若level > 0,levelCode = (level << 1) - 2;
    • 若level < 0,levelCode = -(level << 1) - 1;
  3. 编码level_prefix:level_prefix的计算方法为:level_prefix = levelCode/(1 << suffixLength);level_prefix到码流的对应关系由9-6表示;
  4. 确定后缀的长度:后缀的长度levelSuffixSize通常情况下等于suffixLength,例外情况有: 
    • level_prefix = 14时,suffixLength = 0, levelSuffixSize = 4;
    • level_prefix = 15时,levelSuffixSize = 12;
  5. 计算level_suffix的值:level_suffix = levelCode%(1 << suffixLength);
  6. 按照levelSuffixSize的长度编码level_suffix;

在上述的系数矩阵中,非零系数个数TotalCoeffs=6,拖尾系数个数TrailingOnes=2,最后一个非零系数之前0的个数TotalZeros=2;假设nC=0。

  1. 在H.264标准协议文档的表9-5中查得,coeff_token的值为0x00000100;
  2. 编码拖尾系数的符号,从高频到低频,拖尾系数符号为+、-、-,因此符号的码流为011;
  3. 编码非零系数的幅值,三个普通非零系数分别为1、2、3; 
    1. 编码1:suffixLength初始化为0;levelCode=0;level_prefix=0,查表得对应的码流为1;suffixLength=0,因此不对后缀编码;
    2. 编码2:suffixLength自增1等于1;levelCode=2;level_prefix=1,查表可知对应的码流为01;suffixLength=1,level_suffix=0,因此后缀码流为0;
    3. 编码3:suffixLength不满足自增条件,依然为1;levelCode=4;level_prefix=2,查表可知对应的码流为001;suffixLength=1,level_suffix=0,因此后缀码流为0;
    4. 综上所述,非零系数的幅值部分的码流为10100010;
  4. 编码最后非零系数之前0的个数TotalZeros: TotalCoeffs=6,TotalZeros=2时,在表9-7中可知码流为111;
  5. 编码每个非零系数前0的个数:从高频到低频,每个非零系数前0的总个数(zerosLeft)分别为2、1、0、0、0、0,每个非0系数前连续0的个数(run_before)分别为1、1、0、0、0、0。根据标准文档表9-10可得: 
    • run_before=1,zerosLeft=2,对应码流为01;
    • run_before=1,zerosLeft=1,对应码流为0;
    • 所有的0系数都已经编码完成,无需再继续进行编码;

综上所述,整个4×4系数矩阵经过CAVLC编码之后,输出码流为:0000010001110100010111010。

十三、熵编码算法(3):CAVLC原理相关推荐

  1. 熵编码算法Range encoding工程原理和实现

    在压缩算法中,熵编码是其中重要的无损压缩步骤.熵编码算法根据香农定理,对出现概率大的源符号用较少的编码符号进行编码,对概率小的源符号用较多的编码符号进行编码,尽可能地逼近压缩的极限. 目前各类压缩工具 ...

  2. 【H.264/AVC视频编解码技术详解】十九:熵编码算法(5)——H.264的CABAC(上):语法元素的二值化方法...

    <H.264/AVC视频编解码技术详解>视频教程已经在"CSDN学院"上线,视频中详述了H.264的背景.标准协议和实现,并通过一个实战工程的形式对H.264的标准进行 ...

  3. 八、 熵编码算法(2):H.264中的熵编码基本方法、指数哥伦布编码

    由于种种问题,哈夫曼编码并没有作为一种实际应用的技术使用到实际编码算法中:本节看下H.264中实际使用的熵编码算法:指数哥伦布编码 在H264官方标准文档的第九章由说明 一.H.264中熵编码基本方法 ...

  4. DL之CNN:卷积神经网络算法简介之原理简介——CNN网络的3D可视化(LeNet-5为例可视化)

    DL之CNN:卷积神经网络算法简介之原理简介--CNN网络的3D可视化(LeNet-5为例可视化) CNN网络的3D可视化 3D可视化地址:http://scs.ryerson.ca/~aharley ...

  5. Algorithm:C++语言实现之SimHash和倒排索引算法相关(抽屉原理、倒排索、建立查找树、处理Hash冲突、Hash查找)

    Algorithm:C++语言实现之SimHash和倒排索引算法相关(抽屉原理.倒排索.建立查找树.处理Hash冲突.Hash查找) 目录 一.SimHash算法 1.SimHash算法五个步骤 2. ...

  6. DL之CNN:卷积神经网络算法简介之原理简介(步幅/填充/特征图)、七大层级结构(动态图详解卷积/池化+方块法理解卷积运算)、CNN各层作用及其可视化等之详细攻略

    DL之CNN:卷积神经网络算法简介之原理简介(步幅/填充/特征图).七大层级结构(动态图详解卷积/池化+方块法理解卷积运算).CNN各层作用及其可视化等之详细攻略 目录 CNN 的层级结构及相关概念 ...

  7. DL之LSTM:LSTM算法论文简介(原理、关键步骤、RNN/LSTM/GRU比较、单层和多层的LSTM)、案例应用之详细攻略

    DL之LSTM:LSTM算法论文简介(原理.关键步骤.RNN/LSTM/GRU比较.单层和多层的LSTM).案例应用之详细攻略 目录 LSTM算法简介 1.LSTM算法论文 1.1.LSTM算法相关论 ...

  8. 操作系统:基于页面置换算法的缓存原理详解(下)

    概述: 在上一篇<操作系统:基于页面置换算法的缓存原理详解(上)>中,我们主要阐述了FIFO.LRU和Clock页面置换算法.接着上一篇说到的,本文也有三个核心算法要讲解.分别是LFU(L ...

  9. 数据结构与算法--B树原理及实现

    B树 前几篇文中讨论的数据结构我们都是假设所有的数据都存储在计算机的主存中.可说总要那么海量的数据需要通过个中数据结构去存储,我们不可能有这么多内存区存放这些数据.那么意味着我们需要将他们放磁盘.所以 ...

最新文章

  1. 2021年广东省高考英语听说成绩查询,广东2021年高考准考证今起自行打印 成绩及分数线6月24日左右公布...
  2. 为什么 AI 工程师要懂一点架构?
  3. 牛客题霸 NC11 将升序数组转化为平衡二叉搜索树
  4. Go语言基础:method
  5. android代码设置全屏
  6. 编写一个Zipkin Server
  7. 《人人都可以创业》连载1:创业很简单,从心开始
  8. MySQL 基数的定义
  9. ARTS打卡计划第二周-Algorithm
  10. dataframe在最后新增一行_【TOOLS】python中对Excel进行写入操作,写入一列或者一行(openpyxl)...
  11. [Luogu] 程序自动分析
  12. CES 2022|Mobileye推出为自动驾驶汽车打造的全新EyeQ Ultra系统集成芯片
  13. java整人代码大全_整人代码大全.doc
  14. (模拟)HDU - 5857 Median
  15. c语言结构体编程时钟,c语言简单数学时钟(结构体,指针),求大佬帮助
  16. GO string 转map_go 学习笔记之数组还是切片都没什么不一样
  17. 计算机库里怎样添加桌面,小编教你win7中如何在库中添加桌面
  18. uva 10158 War
  19. 复数四则运算java_用java怎么实现复数的四则运算?需要从键盘上输入两个复数...
  20. 视频教程-怎么架构生产数据库--生产数据库优化的一种方式-MySQL

热门文章

  1. 5号发工资和25号发工资,真能看出公司是否靠谱?
  2. Spring Boot 2.4 对多环境配置的支持更改
  3. cheat.sh 在手,天下我有
  4. 每日一皮:小公司搞中台的真实写照..
  5. 上银伺服驱动器接线图_伺服驱动器实际接线方法详解
  6. wxDrawjs循环添加图形后增加标识记录点击的是哪个的另类方法
  7. 海康sdk返回yv12
  8. c/c++ max/min 4种实现方法
  9. torch topk
  10. ncnn tensorrt