1．內容與時俱進，既考慮基礎性又考慮先進性和時代性，補充信息領域**研究成果。
2．注重理論與技術的應用，專門有一章介紹信息理論方法與技術的應用。
3．強調教學內容中物理概念和結論的理解與掌握，不陷入煩瑣的數學推導。
4．每章都有適量的思考題和習題作為課後練習，並且有配套習題集。
5．配套的“信息論”課程於2003年被評為北京市精品課程,開設瞭信息論精品課程網站.

內容簡介

本書第二版是作者在原版的基礎上，結閤近幾年的教學和科研實踐，再次對教材內容進行整閤、補充和完善而形成的。第二版沿用原版的基本框架，仍然分為12章，內容主要包括：信息的基本概念、離散信息的度量、離散信源的熵、連續信息與連續信源、無失真信源編碼、離散無記憶信道容量、有噪信道編碼、波形信道容量、信息率失真函數、有約束信道編碼、網絡信息論和信息理論方法與應用等。除充實和增加的內容外，第二版另一項重要工作就是增加瞭大量習題。
本書在內容的選擇上既考慮到基礎性又考慮先進性和時代性，在編寫方式上既注重基本概念的闡述又注重與通信和信息處理的實際相結閤。本書強調定理中物理概念和結論的理解和掌握，簡化煩瑣的數學推導，注重使用明確、直觀的物理概念，增加實例，力求讓講述的內容更適閤工科專業學生的學習。本書配有大量思考題和習題作為學生課後的練習，這對於學生深入理解所學知識，提高基本運算和解決實際問題的能力都有很大幫助。

作者簡介

田寶玉教授北京郵電大學教學名師，有數十年科研與高校教學經驗，主要研究項目及領域：信號與信息處理，數字移動通信等。

第1章緒論
1．1　信息的基本概念
1．1．1　信息論的産生
1．1．2　信息的基本概念
1．2　香農信息論研究的內容
1．2．1　通信係統模型
1．2．2　香農信息論的主要內容
1．3　香農信息論研究的進展與應用
1．3．1 香農信息論創立的背景
1．3．2　香農的主要貢獻
1．3．3　香農信息論研究進展
1．3．4　香農信息論的應用
思考題
第2章　離散信息的度量
2．1　自信息和互信息
2．1．1 自信息
2．1．2 互信息
2．2　信息熵的基本概念
2．2．1 信息熵
2．2．2聯閤熵與條件熵
2．2．3 相對熵
2．2．4 各類熵之間的關係
2．3　信息熵的基本性質
2．3．1 凸函數及其性質
2．3．2熵的基本性質
2．3．3熵函數的唯一性
2．3．4　有根概率樹與熵的計算
2．4　平均互信息
2．4．1 平均互信息的定義
2．4．2 平均互信息的性質
2．4．3 平均條件互信息
本章小結
思考題
習題
第3章　離散信源
3．1　離散信源的分類與數學模型
3．1．1　離散信源的分類
3．1．2離散無記憶信源數學模型
3．1．3離散有記憶信源數學模型
3．1．4離散平穩信源數學模型
3．2　離散無記憶信源的擴展
3．2．1　等長消息擴展
3．2．2　變長消息擴展
3．3　離散平穩信源的熵
3．3．1單符號信源的熵
3．3．2等長無記憶擴展源的熵
3．3．3變長無記憶擴展源的熵
3．3．4平穩有記憶信源的熵
3．4　有限狀態馬爾可夫鏈
3．4．2　馬氏鏈的基本概念
3．4．2　齊次馬氏鏈
3．4．3馬氏鏈狀態分類
3．4．4　馬氏鏈的平穩分布
3．5　馬爾可夫信源
3．5．1 馬氏源的基本概念
3．5．2　馬氏源的産生模型
3．5．3　馬氏鏈N次擴展源熵的計算
3．5．4　馬氏源符號熵的計算
3．6　信源的相關性與剩餘度
3．6．1　信源的相關性
3．6．2信源的剩餘度
3．6．3　文本信源
本章小結
思考題
習題
第4章　連續信息與連續信源
4．1　連續隨機變量的熵
4．1．1連續隨機變量的離散化
4．1．2連續隨機變量的熵
4．1．3連續隨機變量差熵的性質
4．1．4連續隨機變量集的相對熵
4．2　離散時間高斯隨機變量的熵
4．2．1一維高斯隨機變量的熵
4．2．2多維獨立高斯隨機矢量的熵
4．2．3多維相關高斯隨機矢量的熵
4．2．4高斯馬爾可夫過程的熵率
4．3　連續最大熵定理
4．3．1限峰值最大熵定理
4．3．2限平均功率最大熵定理
4．3．3　最大熵率定理
4．3．4熵功率
4．4　連續隨機變量的平均互信息
4．4．1連續隨機變量的平均互信息
4．4．2連續隨機變量平均互信息的性質
4．5　離散與連續隨機變量之間的互信息
4．5．1離散事件與連續事件之間的互信息
4．5．2離散與連續隨機變量之間的平均互信息
本章小結
思考題
習題
第5章　無失真信源編碼
5．1　概述
5．1．1 信源編譯碼器模型
5．1．2 信源編碼的分類
5．1．3分組碼
5．1．3無損信源編碼係統
5．2　定長碼
5．2．1 無失真編碼條件
5．2．2 漸近均分特性
5．2．3 定長碼信源編碼定理
5．3　變長碼
5．3．1 異前置碼的性質
5．3．2變長碼信源編碼定理
5．4　最優編碼
5．4．1 二元哈夫曼編碼
5．4．2 多元哈夫曼編碼
5．4．3 哈夫曼決策樹
5．4．4 規範哈夫曼編碼
5．4．5　馬氏源的哈夫曼編碼
5．4．6　香農碼
*5．5　幾種實用的信源編碼方法
5．5．1　算術編碼
5．5．2 遊程編碼
5．5．3 LZ編碼
本章小結
思考題
習題
第6章離散信道及其容量
6．1　概述
6．1．1信道的分類
6．1．2離散信道的數學模型
6．1．3信道容量的定義
6．2單符號離散信道及其容量
6．2．1離散無噪信道的容量
6．2．2一般離散信道的容量
6．2．3離散對稱信道的容量
6．3級聯信道及其容量
6．4多維矢量信道及其容量
6．4．1多維矢量信道輸入與輸齣的性質
6．4．2離散無記憶擴展信道及其容量
6．4．3並聯信道及其容量
6．4．4和信道及其容量
6．5信道容量的迭代算法
本章小結
思考題
習題
第7章　有噪信道編碼
7．1　概述
7．1．1　信道編碼的基本概念
7．1．2　判決與譯碼規則
7．1．3　譯碼錯誤概率
7．2　最佳判決與譯碼準則
7．2．1　最大後驗概率準則
7．2．2　最大似然準則
7．3　信道編碼與最佳譯碼
7．3．1 綫性分組碼
7．3．2　序列最大似然譯碼
7．3．3　幾種簡單的分組碼
7．4　費諾(Fano)不等式
7．5　有噪信道編碼定理
7．5．1　聯閤典型序列
7．5．2　有噪信道編碼定理
7．5．3　無失真信源信道編碼定理
7．6　糾錯編碼技術簡介
7．6．1　綫性分組碼的編譯碼
7．6．2　幾種重要的分組碼
7．6．3　捲積碼簡介
本章小結
思考題
習題
第8章　波形信道
8．1　離散時間連續信道
8．1．1　離散時間連續信道模型
8．1．2　平穩無記憶連續信道
8．1．3　多維矢量連續信道的性質
8．1．4　離散時間連續信道的容量
8．2　加性噪聲信道與容量
8．2．1 加性噪聲信道的容量
8．2．2　加性高斯噪聲信道的容量
8．2．3　一般加性噪聲信道容量界
8．2．4　並聯加性高斯噪聲信道的容量
8．3　AWGN信道的容量
8．3．1 加性高斯噪聲波形信道
8．3．2　波形信道的互信息與容量
8．3．3　AWGN信道的容量
8．3．4　高斯噪聲信道編碼定理
8．3．5　功率利用率和頻譜利用率的關係
8．4　有色高斯噪聲信道
8．4．1 有色高斯噪聲信道容量
8．4．2　多頻段AWGN信道容量
*8．5　數字調製係統的信道容量
本章小結
思考題
習題
第9章　信息率失真函數
9．1　概述
9．1．1　係統模型
9．1．2　失真測度
9．1．3　率失真(R(D)函數和失真率函數
9．2　限失真信源編碼定理
9．2．1　碼率的壓縮
9．2．2　限失真信源編碼定理
9．2．3　限失真信源信道編碼定理
9．3　離散R(D)函數的性質與計算
9．3．1離散R(D函數的性質
9．3．2 離散R(D函數的計算
9．4　連續R(D)函數的性質與計算
9．4．1　連續R(D函數的性質
9．4．2　連續R(D函數的計算
9．4．3　差值失真測度下的R(D函數
9．5　高斯信源的R(D)函數
9．6．1　無記憶高斯信源的R(D)函數
9．6．2　獨立並聯高斯信源的R(D)函數
9．6　一般連續信源的R(D)函數
*9．7　有損數據壓縮技術簡介
9．7．1　量化
9．7．2　預測編碼
9．7．3　子帶編碼
9．7．4　變換編碼
本章小結
思考題
習題
第10章　有約束信道及其編碼
10．1　標號圖的性質
10．1．1　標號圖的基本概念
10．1．2　標號圖的變換
10．2　有約束信道容量
10．2．1　有約束信道容量的定義
10．2．2　等時長符號有約束信道的容量
10．2．3　不等時長符號無約束信道的容量
10．2．4　不等時長符號有約束信道的容量
10．3　有約束序列的性質
10．3．1　信道對傳輸序列的約束
10．3．2　遊程長度受限序列（RLL）
10．3．3　部分響應最大似然（PRML）序列
10．3．4　直流平衡序列
10．3．5　其它頻域受限序列
10．4　有約束信道編碼定理
10．4．1　編碼器的描述
10．4．2有約束信道編碼定理
10．4．3有限狀態編碼定理
10．4．4　編碼器性能指標
*10．5　有約束序列編碼與應用
10．5．1　塊編碼器
10．5．2　實用直流平衡序列
10．5．3　常用有約束序列編碼及應用
本章小結
思考題
習題
第11章　網絡信息論初步
11．1　概述
11．2　多址接入信道
11．2．1　二址接入信道的容量
11．2．2　多址接入信道的容量
11．2．3　不同多址方式下的接入信道容量
11．3　廣播信道
11．3．1　概述
11．3．2　退化廣播信道的容量區
11．4　中繼信道
11．4．1　概述
11．4．2　退化中繼信道的容量
11．5　分布信源編碼
11．5．1　無損分布信源編碼
11．5．2　具有邊信息的有損分布信源編碼
11．5．3　分布信源編碼的應用
本章小結
思考題
習題
*第12章　信息理論方法及其應用
12．1　信源熵的估計
12．1．1　離散信源序列熵的估計
12．1．2　連續信源熵的估計
12．2　最大熵原理
12．2．1　最大熵原理的描述
12．2．2　熵集中定理
12．2．3　幾種重要的最大熵分布
12．3　最小交叉熵原理
12．3．1　最小交叉熵原理
12．3．2交叉熵的性質
12．3．3最小交叉熵推斷的性質
12．3．4交叉熵法
12．4　信息理論方法的應用
12．4．1　信息論在分子生物學中的應用
12．4．2　最大熵譜估計和最小交叉熵譜估計
12．4．3　最大熵建模及其在自然語言處理中應用
12．4．4最大熵原理在經濟學中的應用
12．4．5　信息理論方法應用展望
本章小結
思考題
習題
參考文獻