内容简介
《信息论与编码基础/高等院校通信与信息专业规划教材》以Shannon信息理论为依据,分基础篇、信道编码篇、信源编码篇、网络篇共12章讲述了信息与编码理论的基本概念、基本原理和在通信及信息工程等领域的应用。内容包括:信息的定义及度量、信源及其信息量、信道及其容量、分组码、卷积码、TCM与Turbo码、离散信源无失真编码、限失真信源编码理论、信源编码实践、网络信息论初步和信息安全中的密码技术等。
《信息论与编码基础/高等院校通信与信息专业规划教材》可作为通信、计算机、信息工程等专业的教材或参考书,也可供信息领域科技工作者、工程技术人员参考。
内页插图
目录
出版说明
前言
第1篇 基础篇
第1章 概论
1.1 信息论的形成和发展
1.2 通信系统模型
1.3 Shannon信息论的框架与本书的编排
1.3.1 Shannon信息论的框架结构
1.3.2 本书的编排
第2章 信息的度量
2.1 离散变量的自信息量
2.1.1 消息、信息与概率空间
2.1.2 离散变量的自信息量
2.1.3 信息量单位
2.2 离散变量集的平均信息量
2.2.1 信息熵
2.2.2 熵函数性质
2.3 互信息量
2.3.1 联合自信息量与条件自信息量
2.3.2 互信息量的概念
2.3.3 事件互信息的性质
2.3.4 离散集的平均互信息量
2.4 信息不增性原理
2.4.1 平均条件互信息量
2.4.2 信息处理定理
2.5 连续随机变量的信息度量
2.5.1 连续随机变量的微分熵
2.5.2 微分熵性质
2.5.3 连续随机变量的互信息量
2.5.4 连续随机变量的最大熵
2.6 小结
2.7 习题
第3章 信源及其信息■
3.1 信源分类
3.2 信源概率模型与熵函数
3.3 Markov信源
3.3.1 Markov过程与状态转移图
3.3.2 遍历Markov信源及稳定分布
3.3.3 遍历Markov信源的熵
3.4 扩展信源的概念
3.4.1 无记忆扩展信源
3.4.2 Markov扩展信源
3.5 小结
3.6 习题
第4章 信道及其容量
4.1 信道模型与信道分类
4.1.1 信道模型
4.1.2 信道分类
4.2 离散无记忆信道
4.2.1 转移概率矩阵与信道线图
4.2.2 信道的输出熵与互信息
4.2.3 DMC信道的容量
4.2.4 对称DMC
4.2.5 组合信道
4.3 离散无记忆扩展信道
4.3.1 Ⅳ次扩展信道的转移概率矩阵
4.3.2 Ⅳ次扩展信道的容量
4.4 连续信道的容量
4.4.1 时间离散连续信道
4.4.2 时间连续的连续信道
4.5 小结
4.6 习题
第2篇 信道编码篇
第5章 分组码
5.1 编码定理与纠错码的基本概念
5.1.1 编码定理与差错控制方式
5.1.2 码字的纠错能力
5.1.3 译码准则
5.2 线性分组码
5.2.1 一致监督方程和一致监督矩阵
5.2.2 线性分组码的编码与译码
5.3 循环码
5.3.1 循环过程的数学表达式
5.3.2 循环码的生成多项式
5.3.3 系统码形式的循环码
5.3.4 循环码的译码
5.4 BCH码和RS码
5.4.1 BCH码
5.4.2 RS码
5.5 小结
5.6 习题
第6章 卷积码
6.1 基本概念
6.1.1 引言
6.1.2 约束度与约束长度
6.1.3 系统卷积码与卷积码的多项式描述
6.2 卷积码编码过程的图形描述
6.2.1 树状图
6.2.2 网格图
6.2.3 状态图
6.3 Viterbi译码简介
6.3.1 VB译码的度量
6.3.2 VB译码原理
6.4 卷积码的删余
6.5 小结
6.6 习题
第7章 TCM与Turbo码
7.1 引言
7.2 TCM技术
7.2.1 TCM思想的由来
7.2.2 TCM系统模型
7.2.3 TCM设计中的关键技术
7.3 Turbo码
7.3.1 引言
7.3.2 Turbo码编码器
7.3.3 Turbo码的译码
7.3.4 Turbo码在移动通信系统中的应用
7.4 小结
7.5 习题
第3篇 信源编码篇
第8章 离散信源无失真编码
8.1 数据可压缩编码原理
8.1.1 引言
8.1.2 单义可译码
8.1.3 Shannon-Fano编码与无失真编码定理
8.2 基于信源统计特性的编码方法
8.2.1 Huffman编码
8.2.2 算术码
8.3 基于数据串特性的编码
8.3.1 字典编码与LZ码
8.3.2 LZ编码算法
8.3.3 LZ码的译码过程
8.3.4 LZ码的压缩性能
8.4 小结
8.5 习题
第9章 限失真信源编码理论
9.1 失真的度量
9.1.1 失真函数
9.1.2 多维矢量的失真函数与平均失真
9.1.3 量化失真度量
9.2 信息率,失真函数的定义与性质
9.2.1 基本概念与定义
9.2.2 R(D)函数的性质
9.3 R(D)函数的计算
9.3.1 条件极值的Lagrangian乘子法
9.3.2 二元信源的R(D)函数
9.4 连续信源的R(D)函数及Shannon低界
9.4.1 连续信源的R(D)函数
9.4.2 差值误差测量的R(D)函数与Shannon低界
9.5 小结
9.6 习题
第10章 信源编码实践
10.1 限失真信源编码技术基础
10.1.1 引言
10.1.2 时域波形编码
10.1.3 频域波形编码
10.1.4 基于模型的信源编码
10.1.5 人类感知特性的应用
10.2 视频编码实践
10.2.1 引言
10.2.2 JPEG标准
10.2.3 H.2 61与H.2 63建议
10.2.4 MPEG编码标准
10.3 音频编码实践
10.3.1 引言
10.3.2 语音数字编码标准
10.3.3 高保真立体声音频编码标准
10.4 小结
10.5 习题
第4篇 网络篇
第11章 网络信息论初步
11.1 引言
11.1.1 网络信息论的发展概况
11.1.2 网络信息论研究的问题与信道模型
11.2 相关信源编码
11.2.1 Slepian-Wolf定理
11.2.2 应用校正子的相关信源编码(DTSCUS)
11.3 相关信源协同编码
11.4 多址接入信道(MAC)
11.4.1 离散多址接入信道
11.4.2 多址接入Gaussian噪声信道
11.4.3 相关信源的多址接入信道
11.5 广播信道
11.5.1 离散无记忆广播信道(DMBC)
11.5.2 退化广播信道
11.6 小结
11.7 习题
第12章 信息安全中的密码技术
12.1 信息安全与密码学
12.2 Shannon的保密系统理论
12.2.1 密码学的基本概念
12.2.2 理想保密性(perfectsecrecy)
12.2.3 乘积加密系统
12.3 信息加密技术
12.3.1 对称密码体制
12.3.2 公钥(非对称)密码体制
12.4 信息认证技术
12.4.1 信息认证算法
12.4.2 数字签名
12.5 网络通信的信息安全技术
12.5.1 密码管理和分配
12.5.2 Internet的信息安全
12.6 小结
12.7 习题
参考文献
前言/序言
本书是机械工业出版社组织编写的“高等院校通信与信息专业规划教材”中的《信息论与编码基础》教材。本书内容的组织没有像专著那样分为信息理论与编码理论两个系统。而是综合成一个以形成高效、可靠、安全的信息传输(存储)码为目标,以Shannon关于信息的定义与质量为基础的Shannon信息论(或称狭义信息论)框架结构。该框架结构由1个共同的基础理论即Shannon信息理论,和相对独立的3个编码理论即信源编码理论、信道编码理论和密码理论所组成。这个框架基本上涵盖了以Shannon信息理论为基础的所有信息编码领域。在内容选材上还包括了新近正发展的、虽不成熟但已形成研究热点的课题,如网络信息论、Turbo码等,以及为大众所关心的音视频信源编码的应用标准介绍。
信息理论与编码理论的发展与数学密不可分,而且曾是数学的一个专门化领域,其数学基础并非为一般本科大学生所具有。因此,虽有许多优秀的专著,但并不适合作教材。从已出版的教材中可以看到不同程度的普及化努力,这些给予了作者很好的借鉴。然而作者在教学实践中仍然觉得这是一个很棘手的问题,是本课程的一个特殊性。作为教材,要求必须有一定的数学理论高度,事实上数学是一个具有严谨性和推理功能的理论工具,用它可以准确、简洁、明了地表达出定理与科学结论。但如果使用太深的数学工具,就会使读者觉得抽象、不知所云与不可接受,而起反作用。本书所要求的数学知识基础为:普通高等数学、基础概率论(古典概率论)和一般的线性代数知识。没有引用数论与近世代数等知识,也没有引入典型序列概念。对一些定理与结论的证明会因此而发生困难,只好采取应用例证与物理概念解释相结合的办法。对于像公钥密码体制那样非应用数论知识不可的,则归纳出14条结论予以例证,然后应用这些结论推导公钥密码算法。
与框架结构相对应,本书由基础篇、信道编码篇、信源编码篇和网络篇共12章组成。其中基础篇4章,介绍Shannon信息论的形成、发展和框架结构;信息的度量;信源及其信息量;信道及其容量等关于信息的基本理论。这是Shannon信息理论的基本知识,也是本书其余各章的共同基础。
信道编码篇由分组码(第5章)、卷积码(第6章)和TCM与Turbo码(第7章)组成。分组码和卷积码在理论与技术上都比较成熟,而TCM与Turbo码是正在研究发展中的两种编码技术,理论上并未完善,技术上也未成熟,但却显示出各自的优异性能,被认为是20世纪末在信道编码领域中具有里程碑意义的两大成就。将它们编成一章,除了两者都应用了有反馈的卷积码这个共同点外,并无更多的理论与技术上的原因,两者都是信道编码领域中正在发展的颇受关注的新技术,这是更主要的考虑。
信源编码篇除了第8章离散信源无失真编码,第9章限失真信源编码理论外,还包括第10章信源编码实践。这是因为信源编码的理论与技术在微电子与计算技术的催化下,使音、视频系统数码技术的发展、应用成了20世纪90年代信息领域的一大亮点,引发了人们对信息技术的关注与兴趣。在学习信源编码基本理论的同时,了解一下这些理论的应用与标准对理解抽象的理论是有益的。
将第11章网络信息论初步和第12章信息安全中的密码技术合编成网络篇,唯一的理由由它们都是网络通信中有特殊意义的课题。应该说密码理论与技术并非以网络为依托的,但网络通信离开密码技术就会失去其实用意义。至于网络信息论,显然应该是网络发展的基础,但由于理论上的困难,至今研究成果甚少,与网络的高速发展极不相称。本章对已报导的一些成果作了初步的介绍,其意义不在于应用这些结果,更在于从中可了解、发现网络信息论研究中的困难与问题。
本书每章均附有习题,以加深对基本内容的理解,难度不高,只是书本内容的直接应用。在教学中,针对不同的专业需要,应增加一些结合专业的综合练习题。
作者要感谢在编写过程中参阅过的相关著作的作者,他们的著作给作者以很大的启发与借鉴,恕不能一一举名致谢。特别要感谢王育民教授、王新梅教授、郑志航教授以及美国的R.B.Wells教授。作者在编写本书的过程中曾参阅过他们的著作并应用了其中的某些资料。作者还要感谢徐澄圻教授对编写大纲及书稿所提出的宝贵建议与改进意见。
尽管作者在准确性与合理性方面作了努力,但疏漏之处终难避免,祈盼指正,以便不断改进。
信息论与编码基础/高等院校通信与信息专业规划教材 电子书 下载 mobi epub pdf txt