变换编码对图像压缩是一种非常有效且常用的工具。在编码过程中，图像被分为Ｎ×Ｎ的块后，对每一块作变换，然后对变换系数进行量化和熵编码。解码是编码的逆过程，接收端从信道收到压缩图像数据后，经过解码器，恢复并重构出数字图像。
在变换编码中，尤其是在低比特率下，会产生两种典型的人工效应：块效应和振铃效应。块效应是由于连接、重构块时，块边缘处产生的信号不连续现象。振铃效应是由于变换系数中的量化噪声而产生的在整个块中蔓延的信号错误。
离散余弦变换（ＤＣＴ）自被提出后，由于其良好的去除数据相关能力和低计算复杂性的特点，已被用于ＪＰＥＧ、ＭＰＥＧ等图像压缩和视频压缩。但比特率较低时，用ＤＣＴ压缩会出现明显的块效应。为了改善低比特率时压缩图像的质量，Ｈ．Ｓ．Ｍａｖｌａｒ等提出了重叠变换。重叠变换可以有效地降低块效应。其中双重叠正交变换（ＬＢＴ）比重叠正交变换（ＬＯＴ）降低块效应的效果更好，但却会有较明显的振铃效应。所以本文在对这几种变换研究的基础上，提出了一种改进方法。实验表明，它能够有效地降低块效应和振铃效应。
１ 重叠正交变换（ＬＯＴ）
将长度为ＭＮ的１Ｄ离散信号ｘ0划分为Ｍ段，每段信号长度均为Ｎ。设传统的正交变换矩阵为Ｔ，ｙ0为变换后的系数向量，则：
ｙ0＝ＴTｘ0
其中：Ｔ为ＭＮ×ＭＮ阶的分块对角阵；ＴＴ为Ｔ的转置矩阵。与传统的正交变换类似，ＬＯＴ将信号划分为Ｍ段，但每段长度Ｌ满足Ｎ＜Ｌ≤２Ｎ?即每一段与其相邻的左右两段间各有Ｌ－Ｎ长度的信号重叠，ＬＯＴ将每段信号仍旧变换为长度为Ｎ的系数向量，使得变换域上的信号长度不变，设ＬＯＴ的变换矩阵为Ｔ?则：
其中：Ｐ0为Ｌ×Ｎ阶矩阵。由于信号的起始和末尾两段只有一端信号重叠，因此需要分别定义Ｐ1和Ｐ2。由于Ｐ0不是方阵，因此，Ｐ0是不可逆的。但对于整体变换矩阵Ｔ，要求其具有可逆性和正交性。为保证Ｔ正交，要求Ｐ0的每一列必须是正交的，即：
同时，相邻两段的重叠函数必须也满足正交性，即：
Ｐ0TＷＰ0＝Ｐ0ＷＰ0T＝０
其中：转移矩阵Ｗ为：
上式中Ｉ为Ｌ－Ｎ阶单位矩阵。一般选取Ｌ＝２Ｎ， 与传统正交变换完全类似，２Ｄ信号的ＬＯＴ可由１Ｄ信号的ＬＯＴ直接导出。从ＤＣＴ可以得出一个可行的ＬＯＴ变换矩阵：
其中：Ｄe是由Ｎ阶ＤＣＴ矩阵的偶数行（ｉ＝０，２?．．．，Ｎ－２）向量组成的Ｎ／２×Ｎ阶矩阵；Ｄ０是由Ｎ阶ＤＣＴ矩阵的奇数行（ｉ＝１，３?．．．，Ｎ－１）向量组成的Ｎ／２×Ｎ阶矩阵；Ｚ为待定的、可获得较高编码增益的Ｎ／２阶正交矩阵；ＩN/2为Ｎ／２阶的单位矩阵，ＪN/2为Ｎ／２阶的倒序矩阵。
２ 双正交重叠变换（ＬＢＴ）
ＬＯＴ在图像变换编码中能够有效地减少块效应。但在大多数情况下，一些残留人工效应仍然可见，因为其基函数在边缘处没有衰减到０。一种使ＬＯＴ能够在边缘处衰减到０的方法是使用双正交重叠变换（ＬＢＴ）。在双正交重叠变换里，２Ｎ×Ｎ的正反变换矩阵Ｐa和Ｐs不满足正交条件，但它们在一起时仍然满足正交和重叠正交的条件ＰaTＰs＝Ｉ和ＰaTＷＰs＝０。当Ｐa＝Ｐs时，可以说ＬＢＴ就是ＬＯＴ。ＬＢＴ的正变换是将第一个奇对称的ＤＣＴ系数乘以，反变换则是乘以１／，从而得到ＬＢＴ的正变换矩阵：?
反变换矩阵为：
３ 对双正交重叠变换的改进
