文件名称：本章小结-project2010教程(完全版).
文件大小：35.67MB
文件格式：PDF
更新时间：2024-07-29 21:03:15
数字通信原理
2.10 本章小结 离散信源编码的重要性不仅是为了文本、计算机文件这种离散信源的编码， 同时它还是 离散时间模拟序列信源编码以及完全模拟信源编码中的内层。问题的要点不是信源的特定 输出， 而是其可能的输出范围。为了对经常出现的输出进行最好的压缩， 对不经常出现的则 较少关注，需要重视概率模型。虽然 LZ77 等通用压缩算法的工作不需要概率模型， 但概率 模型对理解其原理有重要作用。 为了让经常出现的信源输出压缩得好一些，不常出现的输出压缩得差一些，最简单的方 法是采用变长信源编码。将变长码字级联在一起， 能在非概率性的意义下达到唯一可译性。 无前缀码是唯一可译码中最简单的一种。无论是无前缀码还是一般的唯一可译码，不同码长 的码字个数满足克拉夫特不等式。同时，给定一组满足克拉夫特不等式的码长，存在一种构 造出相应无前缀码的简单方法。 鉴于平均码长及其他重要特性只与码长以及码字的指配有 关，一般没有必要考虑无前缀码之外的其他变长唯一可译码。 给定离散无记忆信源的符号概率，娟是唯一可译码平均码长的下界。通过霍夫曼算法， 容易求解出平均码长最小的最佳变长无前缀码。霍夫曼算法还可用来导出最佳变长码的一 些性质， 见习题 2.12 习题 2.18。 可将变长码的性质直接扩展到等长-变长码。此时我们将信源输出序列按 n 个一组进行 分段，把每一组当作单个符号进行编码。对于离散无记忆信源， 每信源符号的最小平均码长 介于叫X] .和 H[X] + 1/悦之间。因此，等长..变长无前缀码可以任意接近摘界。 等长-变长码的一个缺点是， 编码器的输出比特速率相对于输入符号速率而言是变化的。 如果信源符号以恒定的速率到达，并要求送入信道的比特速率也恒定(可以包含空闲比特)， 则编码比特必须要排队发送。对于有限长的队列，发生溢出的概率不为零。 另一种情形是等长-等长编码。此时，对于离散无记忆信源， 我们把 η 长的信源符号序列 分成典型集和非典型集。饨很大时， 渐近等同性表明典型集基本上有 2nH[X) 个序列，其总概 率随 η 的增加趋向于 1。只对典型序列编码时，每符号需要的比特数约为 H [坷，从而能接近 蛐界， 并且没有上述的排队问题，只是偶尔会出现差错。 根据本章中的具体分析， 渐近等同性可用来考察任意信源编码算法的长期行为:如果这 种编码超过了熔界，其译码失败率必然会趋向 1。 容易将上述针对离散无记忆信源得到的结果扩展到遍历马氏信源。本章不要求读者熟