DCT变换是一种与FFT变换紧密相连的数学运算，当函数为偶函数是，其傅立叶展开式只有余弦项，因些称为余弦变换，其离散化的过程称为DCT(离散余弦)变换。下面我们就推导下H.264的4x4整数DCT公式。
首先给出DCT变换的定义，其变换公式可以写成：Y = AXAT,这里A为单位正交距阵，满足：I = AAT，距阵A的公式如下：
这里N为距阵的阶数，在这里为N=4，因此，A可以写成如下形势：
对A做三角变换
设
则A距阵可以变为：
又因为A可以分解为
这里我们先算下d的值：
在H.264中，定义d=1/2,则可以根据正交距阵概念算出b=sqrt(2/5)，可得
对上述公式做一此变换
下面估计正变换输出值的范围
矩阵C行元素绝对值之和为6，因为乘了两次值，最大为36，log236=5.1699 = 6位
加上9位视频输入，共15位。因此，用16位的位深足以表示。