图1 AVS-M编码器框架

3．AVS-M关键模块优化
在DM642平台上进行的视频优化，通常有系统级优化、程序级优化、汇编级优化、算法级优化等。下面利用这些优化方法完成AVS-M算法几个主要模块的优化。
3.1．插值优化
P帧运动估计和运动补偿预测的精度是1/4精度，原有方法是在当前帧进行编码之前，对刚编码过的参考帧进行整帧的1/4精度的插值。实验发现这样做访存量太大，因为整帧1/4插值需要DMA调入重构帧和写出16倍数据量的1/4精度插值帧。分像素运动估计也需要调入16倍于重构帧的数据量。而且1/2和1/4插值不容易同时进行，需要先进行1/2插值保留中间结果再进行1/4插值，这样访存量更大。
为了解决这个问题，考虑不进行整帧插值。1/2和1/4精度的参考像素采用现用现插值，由于1/2插值的滤波器抽头较长，相对于整帧的1/2插值需要多计算出一些像素值，增加了计算量。根据AVS-M中插值的特点：1/2插值水平方向采用的是8抽头滤波器，垂直方向采用4抽头滤波器，1/4插值采用的是双线性插值，最后采用了整帧的1/2插值，将插值结果写到外部存储器。分像素运动时将相应位置的1/2参考区调入片内存储器。1/4精度的参考像素是现用现插值，由于1/4插值是简单求两个值的均值，现用现插比较容易，不存在如1/2插值计算量增加的问题，而且1/4插值是与分像素运动估计求预测残差并记录最优的预测值一起来进行的，实验证明采用这种方法减少传输数据量的同时极大地缩短了运算时间。
对于qcif格式的一帧图像，最初的参考代码中没有进行指令优化而且没有使用DMA的情况下，整帧的1/2和1/4插值大概用时50ms，经过优化1/2插值后用时大约0.8ms，1/4插值对分像素运动估计没有带来速度降低。所以插值部分较优化前速度提高了60多倍。
3.2．运动估计优化
AVS-M标准中运动估计和运动补偿可以超出参考图像的边界，当运动向量指向参考图像以外时，超出图像边界的点使用最近的边界点代替。参考代码在取预测值的时候每个像素位置都要用Min和Max宏定义来判断是否超出边界，这样的判断使处理速度很慢。因此考虑在编码一帧图像之前对参考帧的边界进行扩展，扩展出来的像素点取参考图像中最近的边界点，如图2所示。经过扩充后不必再进行边界的判断，对于参考帧的色度也进行了边界扩充，使得色度运动补偿不必进行边界判断。
 
图2 参考图像的边界扩展
计算SAD是整像素运动估计中计算量最大的部分，Ti库函数中提供了一些函数，对于16*16,16*8,8*8块的搜索可以直接利用库函数。对于8*16的块不能直接利用，用线性汇编来实现后，软件流水一次迭代的周期数为3，与三个汇编库函数的迭代周期数相同。求SAD的计算过程如图3所示，其中LDDW是边界对其的8字节存储器读取，LDNDW是边界不对其8字节存储器读取，SUBABS4是并行计算四个字节的差的绝对值，DOTPU4求四个字节的点积。
 
图3 SAD计算过程
分像素运动估计中，在每个搜索位置调用Calcu_Subpixel_Residual（），其作用是计算出1/4预测像素值，求预测残差，将预测残差保存在diff[16*16]中，并将预测值保存。然后调用SATD_block（）对diff[16*16]中的残差进行哈达码变换求SATD，求SATD是对每个4*4块进行，之后求和，4*4块之间的计算可以软件流水提高速度。此外设两个数组来保存最优的预测值，若当前考察的位置代价更小则通过交换指针使pBestPred指向最优的预测值，避免了数据拷贝。
3.3．变换量化扫描优化
由于变换、量化、扫描是对4*4小块进行，处理一个小块的代码不大，可以完全展开，之后对16个亮度4*4块和8个色度4*4块放在一个循环中进行处理，这样省去对每个4*4块的函数调用。重要的是4*4块之间的处理可以利用软件流水，从而充分利用DM642的并行计算单元。表1列出了变换、量化、扫描优化前后周期数的对比，统计的是处理一个宏块中24个4*4块所用的周期。其中每个函数都进行了内联汇编级的指令优化。
表1 变换量化扫描优化前后周期数对比
函数名 优化前（Cycle） 优化后（Cycle）
变换      2040                     438
量化      7560                     715
扫描      3360                     1470
3.4．环滤波优化
环路滤波是以宏块为单位进行的，图4说明了环滤波所用数据结构和函数调用关系。LoopFilterBufferUpdate（）更新LoopFilterBuffer，将处理下一行宏块时所需要的信息从LoopFilterBuffer保存到UpSaveBuffer。CopyReconToLoopFilterBuffer（）将ReconBuffer拷贝到LoopFilterBuffer，将UpSaveBuffer中当前宏块上面的环滤波参考像素也拷贝到LoopFilterBuffer。DeblockMb（）在LoopFilterBuffer中对像素值进行滤波。SaveLoopFilterBuffer（）将LoopFilterBuffer中滤波后的结果利用DMA写到外存上当前重构图像缓冲区中。
 
图4 环滤波数据结构和函数调用关系
为了减少循环内的条件判断，DeblockMb（）针对每个边界滤波强度和色度亮度的四种情况采用了四个核心计算函数：EdgeLoop_Y（），EdgeLoop_Y_Weak（），EdgeLoop_UV（），EdgeLoop_UV_Weak（）来对每个边界进行滤波。
借助编译器的反馈信息，通过调整使得两边的计算单元负载平衡，去除存储器的相关性，这四个函数中循环的软件流水得到了明显的优化。首先利用特殊指令_abs（src），_max2（src1, src2），_min2（src1, src2）去掉循环内的多层条件判断，使循环能够流水。这样处理之后，EdgeLoop_Y中循环的一个迭代周期是32。原来是从指针SrcPtr所指地址中读数据，滤波结果写回其所指地址，编译器认为存在存储器相关性，多个循环迭代周期不能并行执行。可采用下面方法解决，另设一个指针SrcPtrR=SrcPtr，每个迭代周期从SrcPtrR中读数据，向SrcPtr写数据，之后两者都更新，处理下一组数据。这样EdgeLoop_Y中循环的一个迭代周期减为15。察看编译器的汇编反馈信息，发现瓶颈在逻辑运算，由于需要判断两个条件都满足才进行滤波，而此时乘法单元.M没有利用，正好可以利用乘法单元.M来进一步优化。例如程序中有cond1&&loop_enable，其中cond1和loop_enable都是0/1逻辑变量，计算需要逻辑运算单元，但逻辑运算单元已经得到充分的利用，由于cond1&&loop_enable=  cond1*loop_enable，这样可将逻辑与运算转化为乘法，利用乘法单元，减少了逻辑运算单元的负担。EdgeLoop_Y中循环的一个迭代周期减为13，相比优化之前，经过这些优化之后速度也有了很大的提高。
4．结论
结合AVS-M视频压缩处理流程的特点，通过合理的存储分配和指令优化，以及算法优化等，该编码器达到了2路CIF格式视频实时压缩处理，且图像主观效果良好，另从表2实验结果可知，信噪比下降不明显。