HM编码器代码阅读(14)——帧间预测之AMVP模式（二）predInterSearch函数

简介

predInterSearch主要的工作是ME（运动估计）和MC（运动补偿）。

函数中有一个bTestNormalMC变量，它表示是否进行正常的MC过程，正常的MC过程就是进行ME再进行MC。
正常的MC流程是，遍历所有的参考帧，进行ME（运动估计：xEstimateMvPredAMVP和xMotionEstimation）,然后记录MVP或者MV的信息，进行MC（运动补偿，目的是选出最优的参数），然后更新最优的参数，遍历完所有的参考帧之后，就选出了最优的参数了；然后循环结束，接着进行正式的MC（运动补偿）。

广义B帧技术

在高效的预测模式下，HEVC仍然采用了H.264中的B预测方式，同时还增加了广义B(Generalized P and B picture，GPB)预测方式取代低时延应用场景中的P预测方式。GPB预测结构是指对传统P帧采取类似于B帧的双向预测方式进行预测。在这种预测方式下，前向和后向参考列表中的参考图像都必须为当前图像之前的图像，且两个参考列表完全一致。对P帧采取B帧的运动预测方式增加了运动估计的准确度，提高了编码效率，同时也有利于编码流程的统一。具体细节可以参考博客：点击打开链接

函数流程

TEncSearch::predInterSearch的详解：
1、有个GPB_SIMPLE_UNI宏，表示广义B帧技术GPB，MvdL1ZeroFlag是一个和GPB技术相关的标志，如果它为true，那么表示使用GPB技术
2、对于CU下的每一个PU，遍历参考列表中的每一个图像，进行运动估计，找出最合适的参考帧以及对应的MV
3、如果是B类型的slice，因为他有两个MV，我们需要对后向参考的预测块进行运动补偿，motionCompensation( pcCU, pcYuvPred, REF_PIC_LIST_1, iPartIdx );在运动补偿之后，重新进行运动估计，找出合适的MV
4、保存MV的一些相关信息
5、如果分割类型不是2Nx2N，即一个CU会被划分成为多个PU，那么应该计算并合并它们的运动估计代价
6、进行运动补偿motionCompensation(cu, pu, *predYuv, true, bChromaMC);这是通用的，无论是P类型还是B类型的slice

下面的代码为了方便理解，删除了定义ZERO_MVD_EST宏才会生效的代码，以及其他的无关的代码

#if AMP_MRG
Void TEncSearch::predInterSearch( TComDataCU* pcCU, TComYuv* pcOrgYuv, TComYuv*& rpcPredYuv, TComYuv*& rpcResiYuv, TComYuv*& rpcRecoYuv, Bool bUseRes, Bool bUseMRG )
#else
Void TEncSearch::predInterSearch( TComDataCU* pcCU, TComYuv* pcOrgYuv, TComYuv*& rpcPredYuv, TComYuv*& rpcResiYuv, TComYuv*& rpcRecoYuv, Bool bUseRes )
#endif
{// ---------删除无关代码// 当前CU下的所有PU，请注意PU是由CU划分得到的！for ( Int iPartIdx = 0; iPartIdx < iNumPart; iPartIdx++ ){// ---------删除无关代码// 得到某种模式下CU块的比特数xGetBlkBits( ePartSize, pcCU->getSlice()->isInterP(), iPartIdx, uiLastMode, uiMbBits);// 得到当前PU的索引和大小pcCU->getPartIndexAndSize( iPartIdx, uiPartAddr, iRoiWidth, iRoiHeight );#if AMP_MRGBool bTestNormalMC = true;if ( bUseMRG && pcCU->getWidth( 0 ) > 8 && iNumPart == 2 ){bTestNormalMC = false;}if (bTestNormalMC){
#endif//  Uni-directional prediction// 遍历两个参考图像列表（如果是P帧，只参考一个列表；如果是B帧，会参考两个列表）// 过这里就找到了应该使用哪个参考帧以及以及对应的MVfor ( Int iRefList = 0; iRefList < iNumPredDir; iRefList++ ){// 选出参考列表RefPicList  eRefPicList = ( iRefList ? REF_PIC_LIST_1 : REF_PIC_LIST_0 );// 遍历这个参考列表的所有参考帧for ( Int iRefIdxTemp = 0; iRefIdxTemp < pcCU->getSlice()->getNumRefIdx(eRefPicList); iRefIdxTemp++ ){// ---------删除无关代码// AMVP处理xEstimateMvPredAMVP( pcCU, pcOrgYuv, iPartIdx, eRefPicList, iRefIdxTemp, cMvPred[iRefList][iRefIdxTemp], false, &biPDistTemp);// ---------删除无关代码// 更新最优的参数// ---------删除无关代码#if GPB_SIMPLE_UNI // 广义B帧技术GPB，相关细节可以参考http://blog.csdn.net/yangxiao_xiang/article/details/9045777// list1（只有B帧使用）if ( iRefList == 1 )    // list 1{// 表示广义B帧技术GPBif ( pcCU->getSlice()->getList1IdxToList0Idx( iRefIdxTemp ) >= 0 ){// 对于使用了广义的B帧技术，不再进行运动估计，而是直接计算代价// ---------删除无关代码}// 普通的B帧else{// 运动估计xMotionEstimation ( pcCU, pcOrgYuv, iPartIdx, eRefPicList, &cMvPred[iRefList][iRefIdxTemp], iRefIdxTemp, cMvTemp[iRefList][iRefIdxTemp], uiBitsTemp, uiCostTemp );}}// list0（P帧或者B帧使用）else{// 直接进行运动估计xMotionEstimation ( pcCU, pcOrgYuv, iPartIdx, eRefPicList, &cMvPred[iRefList][iRefIdxTemp], iRefIdxTemp, cMvTemp[iRefList][iRefIdxTemp], uiBitsTemp, uiCostTemp );}
#else // else of GPB_SIMPLE_UNI// 没有使用广义B帧技术xMotionEstimation ( pcCU, pcOrgYuv, iPartIdx, eRefPicList, &cMvPred[iRefList][iRefIdxTemp], iRefIdxTemp, cMvTemp[iRefList][iRefIdxTemp], uiBitsTemp, uiCostTemp );
#endif // end of GPB_SIMPLE_UNIxCopyAMVPInfo(pcCU->getCUMvField(eRefPicList)->getAMVPInfo(), &aacAMVPInfo[iRefList][iRefIdxTemp]); // must always be done ( also when AMVP_MODE = AM_NONE )// 选择最优的MVPxCheckBestMVP(pcCU, eRefPicList, cMvTemp[iRefList][iRefIdxTemp], cMvPred[iRefList][iRefIdxTemp], aaiMvpIdx[iRefList][iRefIdxTemp], uiBitsTemp, uiCostTemp);// ---------删除无关代码}}//  Bi-directional prediction// 如果是B帧，且isBipredRestriction（用来判断当前PU尺寸是否为8，而且划分模式是不是2Nx2N），那么进入if ( (pcCU->getSlice()->isInterB()) && (pcCU->isBipredRestriction(iPartIdx) == false) ){// ---------删除无关代码// MvdL1ZeroFlag这个东西也是和GPB相关的，那么进行运动补偿if(pcCU->getSlice()->getMvdL1ZeroFlag()){// ---------删除无关代码// 运动补偿motionCompensation( pcCU, pcYuvPred, REF_PIC_LIST_1, iPartIdx );// ---------删除无关代码}else{uiMotBits[0] = uiBits[0] - uiMbBits[0];uiMotBits[1] = uiBits[1] - uiMbBits[1];uiBits[2] = uiMbBits[2] + uiMotBits[0] + uiMotBits[1];}// 4-times iteration (default)Int iNumIter = 4;// fast encoder setting: only one iterationif ( m_pcEncCfg->getUseFastEnc() || pcCU->getSlice()->getMvdL1ZeroFlag()){iNumIter = 1;}// 遍历1次或者4次for ( Int iIter = 0; iIter < iNumIter; iIter++ ){Int         iRefList    = iIter % 2;if ( m_pcEncCfg->getUseFastEnc() ){if( uiCost[0] <= uiCost[1] ){iRefList = 1;}else{iRefList = 0;}}else if ( iIter == 0 ){iRefList = 0;}// 如果不使用GPB技术，且是第一次迭代，那么进行运动补偿if ( iIter == 0 && !pcCU->getSlice()->getMvdL1ZeroFlag()){// ---------删除无关代码// 运动补偿motionCompensation ( pcCU, pcYuvPred, RefPicList(1-iRefList), iPartIdx );}// 当前的参考列表RefPicList  eRefPicList = ( iRefList ? REF_PIC_LIST_1 : REF_PIC_LIST_0 );if(pcCU->getSlice()->getMvdL1ZeroFlag()){iRefList = 0;eRefPicList = REF_PIC_LIST_0;}Bool bChanged = false;iRefStart = 0;iRefEnd   = pcCU->getSlice()->getNumRefIdx(eRefPicList)-1;// 遍历参考列表的所有参考帧，进行运动估计for ( Int iRefIdxTemp = iRefStart; iRefIdxTemp <= iRefEnd; iRefIdxTemp++ ){// ---------删除无关代码// call ME// 运动估计xMotionEstimation ( pcCU, pcOrgYuv, iPartIdx, eRefPicList, &cMvPredBi[iRefList][iRefIdxTemp], iRefIdxTemp, cMvTemp[iRefList][iRefIdxTemp], uiBitsTemp, uiCostTemp, true );xCopyAMVPInfo(&aacAMVPInfo[iRefList][iRefIdxTemp], pcCU->getCUMvField(eRefPicList)->getAMVPInfo());// 检查最好的MVPxCheckBestMVP(pcCU, eRefPicList, cMvTemp[iRefList][iRefIdxTemp], cMvPredBi[iRefList][iRefIdxTemp], aaiMvpIdxBi[iRefList][iRefIdxTemp], uiBitsTemp, uiCostTemp);// 如果找到了一个代价更小的方式，那么更新if ( uiCostTemp < uiCostBi ){// ---------删除无关代码}} // for loop-iRefIdxTempif ( !bChanged ){// ---------删除无关代码}} // for loop-iter} // if (B_SLICE)#if AMP_MRG} //end if bTestNormalMC
#endif// ---------删除无关代码#if AMP_MRG// 这个if里面只是保存了一些MV的信息if (bTestNormalMC){
#endif// ---------删除无关代码
#if AMP_MRG} // end if bTestNormalMC
#endif// 如果分割类型不是2Nx2N，即一个CU会被划分成为多个PU// 那么应该计算并合并它们的运动估计代价if ( pcCU->getPartitionSize( uiPartAddr ) != SIZE_2Nx2N ){// ---------删除无关代码
#if AMP_MRG// calculate ME cost// ---------删除无关代码if (bTestNormalMC){xGetInterPredictionError( pcCU, pcOrgYuv, iPartIdx, uiMEError, m_pcEncCfg->getUseHADME() );uiMECost = uiMEError + m_pcRdCost->getCost( uiMEBits );}
#else// calculate ME cost// 计算运动估计的代价UInt uiMEError = MAX_UINT;xGetInterPredictionError( pcCU, pcOrgYuv, iPartIdx, uiMEError, m_pcEncCfg->getUseHADME() );// ---------删除无关代码
#endif // save ME result.// ---------删除无关代码// find Merge resultUInt uiMRGCost = MAX_UINT;// 合并估计信息xMergeEstimation( pcCU, pcOrgYuv, iPartIdx, uiMRGInterDir, cMRGMvField, uiMRGIndex, uiMRGCost, cMvFieldNeighbours, uhInterDirNeighbours, numValidMergeCand);// 设置运动估计的结果if ( uiMRGCost < uiMECost ){// set Merge result// ---------删除无关代码}else{// set ME result// ---------删除无关代码}}//  MC// 运动补偿motionCompensation ( pcCU, rpcPredYuv, REF_PIC_LIST_X, iPartIdx );} //  end of for ( Int iPartIdx = 0; iPartIdx < iNumPart; iPartIdx++ )setWpScalingDistParam( pcCU, -1, REF_PIC_LIST_X );return;
}