在本文中提出和讨论了种基于像约束复原理论的块效应消除可能的方法。

　　2约束复原原理的提出和分析N×N的像可以写成矢量f，而块余弦变换BDCT被视为在N×N空间的线性变换通信学报其中F是f的BDCT后的矩阵，B是BDCT变换矩阵，B是BIDCT的变换矩阵。通常N×N的像分成N8×N8个小方块。设矢量F是矢量f的BDCT变换系数，e为变换基。像矢量f可以写成其中，qm，n为量化矩阵q的元素，F′是F在量化矩阵q下的量化系数矩阵，而F′m，n是F′的元素。量化误差d =F F′q，通常编码时只对F′m，n进行编码，不对dm，n编码。

　　在解码时，我们考虑d为零。于是像重建恢复示为其中，f为重建像矢量。由此可见，像信息的损失就在于d的丢失。解码像的块效应也源于各块的d的丢失。实际上，d往往并不等于零，我们可以根据已知的F′m，n来约束值dm，n，使f f为*小，而并不单纯地认为d为零。这就是本文约束复原的基本思想。

　　此处采用约束复原方法的约束条件为若采用*小乘作为复原准则，则用拉格朗日乘数法取约束条件下的条件极值，即*佳解。根据实际，选择线性算子Q，使得‖Q f‖服从约束条件下取得*小值。选择不同的Q将有不同的解。

　　2.1由像各块之间的相关性复原直流分量幅像被分为8×8的小方块，方块之间其实还是具有定的相关性的，特别是对于各块的直流分量来说，相关性还是较大的。在经过BDCT后，直流分量位于小方块的左上角，即0，0系数。把矢量F的直流分量选取出来，形成N8×N8的矢量F 00，同样可以选取交流分量矢量F等。根据参考文献中的相关系数统计，相邻直流分量之间的较大的相关性，而交流分量的相关性迅速下降。

　　在约束条件下，于是我们可以由相邻小方块的直流分量来估计每个小方块的直流分量。

　　可以用迭代的方法确定每个小方块的直流分量值，先根据周围小方块的直流分量计算本方块直流分量的预测值F 00p，再根据约束条件和已知直流分量值比较确定选用值。具体做法参考文献。因为像频域直流分量物理对应像时域的平均值，直流复原就是在时域对像小方块内像素的平均值进行调整，可对小方块内所有的像素统加或减个值，所以，直流分量约束复原可以在时域内做到，其迭代计算量比较小。

　　2.2由像块边缘之间像素的相关性复原交流分量显然，像各个小方块之间边缘交接处相邻像素之间是具有很大的相关性的。根据先验知识，选用平滑线性算子来复原像，求得合理的*佳解。平滑程度可以用阶导数示，对于维像阶导数示为阶导数越小，像越平滑。于是，问题在于寻找个在满足约束条件下，使上式对于具有很大相关性的块边缘像素取*小值的解f.

　　同样可以采用迭代法，依次选取具有边缘像素*大平滑的频率分量值。我们可以由此复原各个小方块之间边缘交接处相邻像素值，以消除块效应。

　　因为需要在频域内迭代计算各个频域系数，所以AC分量约束复原计算量相当的大。

　　3活动像约束复原的应用低码率编码情况时视频压缩比率很大，此时视频像的块效应现象比较明显。同样这儿可以利用约束复原方法进行块效应消除。但是，它和静止像的块效应现象消除有个*大的不同，就是视频编码情况下需要对像实时进行约束复原，消除块效应，这要求约束复原算法进行简化，大大减少计算量。根据约束复原方法在静止像的块效应现象消除中应用的结论，由像各块之间的相关性复原直流分量计算量较小，可以较大地提高像的PSNR值，对主观效果提高却并不明显而由像块边缘之间像素的相关性复原交流分量计算量相当大，但可以较大提高像的主观效果，而对像的PSNR值没有明显提高。AC分量复原的计算量占像约束复原绝大部分计算量，是活动像实时复原的*大的障碍，但是由于AC分量复原对主观效果提高起主要作用，必须采用。考虑采用种有约束限制的块边缘滤波器替代AC频率分量的复原，可以大大简化运算量。

　　H.263建议的像序列中主要有I帧和P帧可以有PB选项帧，I帧为帧内编码帧，实际上和静止像情况样。P帧为前向预测帧。我们对I帧和P帧分别进行不同的约束复原处理，其中I帧先进行DC分量复原，而AC分量复原则用块边缘滤波器替代对于P帧只考虑进行替代AC频率分量复原的有约束限制的边缘滤波。

　　3.1边缘滤波器它们位置的高度代它们的数值大小。我们对像素BC进行滤波处理，滤波之后数值分别为而AD取值不变。

　　实际采用的滤波器被定义如下通信学报2000年为了保证滤波以后保留像细节，像边缘细节不被破坏，需要对边缘滤波进行约束和限制。把d值约束在小于等于某个值的范围内。

　　我们根据大量的试验取此约束值为QP4QP为H.263中的量化因子。下面说明了如何把d值约束在QP4进率取整数值的范围内。设约束后取值为d考虑以上的约束限制，滤波器改变为维块效应滤波器可以采用分别在垂直和水平方向上作用维块效应滤波器。

　　3.2环路滤波和后续滤波比较采用环路滤波和后续滤波都可以在定程度上使像平滑和消除块效应，但是两者意义不同，并且方法和效果略有不同。它们在编解码过程中的位置不同，环路滤波器在编码端是用于消除存储参考像的块效应，这样滤波后的像可以提高下面帧的运动估计的精确度以及消除运动估计后的像的块效应在解码端，对应的环路滤波器处于对应的位置。而后续滤波器只在解码器输出端口处。采用环路滤波和后续滤波的不同意义在于环路滤波器必须被标准化，编码器和解码器具有完全致对应的滤波器，而后续滤波器则不同，它无须被标准化，只须在解码器端自行灵活设置。般采用环路滤波取得的主观效果比后续滤波好些，而采用的环路滤波器般比后续滤波简单的多。

　　考虑以上分析和实际试验结果，我们在实验中采用了实用而简单的环路边缘滤波。

　　4实验结果和分析采用的计算机仿真模拟算法是基于H.263提供的参考模型TMN8，符合H.263的语法结构。只对其中很小的简化修改，增加了些相关的语法结构。测试像序列为Carphone，格式为QCIF176pel×144line，帧速为10帧s，量化因子采用16量化系数为32，像序列长度为4.1PSNR值的比较首先，对经过边缘滤波和I帧直流复原后的像序列和普通解码后的像序列PSNR值作比较。2是亮度Lum比较平均PSNR值分别为30.83dB和30.73dB，3是色度Cb比较平均PSNR值分别为36.32dB和35.90dB，4是Cr比较平均PSNR值分别为36.80dB和36.39dB.其中，经过边缘滤波和I帧复原后的像序列PSNR值点用`示，普通解码后的像序列PSNR值点用`0示。

　　30帧像序列的编码采用第帧为I帧，其余都为P帧。从上面个PSNR值比较可以看出序列采用了环路滤波器又由于I帧第帧采用了直流复原，像序列第帧PSNR值提高较大。然而随着像和I帧相关性的减弱，后面像PSNR值提高渐渐减小，对于亮度分量到第20帧左右时复原前后PSNR值已经相近，而对于色度分量到第30帧左右时PSNR值相近，但此时实际的主观效果还是都有所提高的。显然，像色度PSNR值提高较亮度PSNR值提高度大。这和PSNR值提高贡献大，而AC分量复原块边缘滤波器可以提高主观效果。

　　采用了直流复原及环路滤波器解码的像序列的亮度PSNR值比较。从上可以比较出，采用了第帧I帧的像直流复原对提高I帧像以及后续的几帧像亮度的PSNR值起了较大的作用，随着相关性的减弱，对后续帧像的PSNR值的提高影响逐渐下降。同样，使用I帧直流复原对色度PSNR值提高更加明显。所以I帧直流复原的作用是重要和有效的，而在H.263中的去块效应模式仅仅采用了个较简单的环路滤波器。

　　4.2主观效果的比较像编码的*终效果是要由人主观来判断的。反复比较经过I帧直流复原和边缘滤波后的像序列和普通解码后的像序列的主观效果，可以得出结论，经过I帧直流复原和边缘滤波后的像序列主观效果得到了明显的提高，块效应现象下降。下面给出的是像序列的第帧亮度分量部分色度分量部分效果更为明显，在此条件所限不能画出，6为普通解码后的第帧像，7为经过I帧直流复原和边缘滤波后的像。复原以后人脸部及其他些部位的方块效应得到了改善。

　　经过以上对像序列PSNR值和主观效果的比较，得到的结论是直流复原和约束边缘滤波后的像序列可以同时提高像序列PSNR值和主观效果。另方面，像序列实际的编码效率也是略有所提高的。