資訊理論與編碼

本書是一本21世紀教學的有關資訊理論與編碼的教材。全書共分6章，即緒論、信息的量度及離散信源、信源編碼、離散通道及通道容量、通道編碼以及信息工程中的數據保密。

本書重點介紹了信息處理的理論基礎、實現原理與方法。內容分為兩大部分，即理論基礎和應用。理論基礎部分主要介紹信息的基本理論與基本概念。應用部分主要介紹信息與通信系統中的優化及其實現手段與方法。

本書適合作為高等理工科院校電子信息工程、通信工程、信號與信息處理學科的本科生教材，也可供研究生、夜大、自學考試及成人教育等有關專業選用，還可供有關科技人員學習參考。

第1章 緒論

1.1 信息的概念

1.1.1 信息的定義、特徵與性質

1.1.2 信息的分類

1.1.3 信息、消息和信號的區別與聯繫

1.2 信息傳輸系統的組成及各部分的功能

1.2.1 模擬信息傳輸系統

1.2.2 數字信息傳輸系統

1.3 資訊理論研究的對象和內容

1.4 資訊理論發展的歷史和趨勢

第2章 信息的量度及離散信源

2.1 自信息量和條件自信息量

2.1.1 自信息量

2.1.2 條件自信息量

2.2 互信息量和條件互信息量

2.2.1 互信息量

2.2.2 互信息量的性質

2.2.3 條件互信息量

2.3 離散信源的信息量

2.3.1 信源的數學模型

2.3.2 信源的分類

2.3.3 平均信息量

2.4 熵的基本性質

2.5 消息序列的熵

2.5.1 離散無記憶信源

2.5.2 離散無記憶的擴展信源

2.5.3 離散平穩信源

2.5.4 馬爾可夫信源

2.6 信源的相關性和剩餘度

習題

第3章 信源編碼

3.1 無失真信源編碼

3.1.1 編碼器

3.1.2 分組碼

3.1.3 等長碼和等長編碼定理

3.1.4 變長碼和變長編碼定理

3.1.5 變長碼的編碼方法

3.2 限失真信源編碼

3.2.1 失真測度

3.2.2 信息率失真函數

3.2.3 離散信源的信息率失真函數

3.2.4 限失真信源編碼定理

3.2.5 連續信源的信息率失真函數

3.3 常用信源編碼

3.3.1 矢量量化編碼

3.3.2 預測編碼

3.3.3 變換編碼

3.3.4 傳真編碼

3.3.5 語音壓縮編碼

3.3.6 圖像編碼

習題

第4章 離散通道及通道容量

4.1 通道分類與描述

4.1.1 通道的分類

4.1.2 通道的描述

4.2 離散無記憶通道

4.2.1 離散通道的數學模型

4.2.2 單符號離散通道

4.3 通道傳輸的平均互信息

4.3.1 通道疑義度

4.3.2 平均互信息

4.4 平均互信息的特性

4.5 通道容量的概念及其計算方法

4.5.1 通道容量的定義

4.5.2 幾種典型離散通道的通道容量

4.5.3 對稱離散通道的通道容量

4.5.4 一般離散通道的通道容量

4.5.5 離散無記憶的擴展通道及其通道容量

4.5.6 串聯通道和並聯通道及其通道容量

4.6 信源與通道的匹配

習題

第5章 通道編碼

5.1 通道編碼的基本概念

5.1.1 通道編碼在數字通信系統的地位和作用

5.1.2 通道編碼的基本思想和分類

5.1.3 差錯控制的基本方式

5.1.4 通道編碼基本數學知識

5.2 有噪通道編碼

5.2.1 雜訊通道的編碼問題

5.2.2 錯誤概率與編碼方法

5.2.3 有噪通道編碼定理

5.3 線性分組碼

5.3.1 分組碼的性質

5.3.2 生成矩陣與奇偶校驗矩陣

5.3.3 幾種典型的分組碼

5.4 卷積碼

5.4.1 卷積碼的編碼

5.4.2 卷積碼的解碼

5.5 糾正突發錯誤碼

5.5.1 突發差錯與糾突發差錯的基本概念

5.5.2 法爾碼

5.6 交織碼

習題

第6章 信息工程中的數據保密

6.1 信息保密通信的模型

6.2 傳統密碼體制

6.2.1 單表代換密碼

6.2.2 多表代換密碼

6.2.3 多字母代換

6.2.4 轉置密碼

6.3 分組（塊）密碼

6.3.1 分組加密的基本概念

6.3.2 數據加密標準（DES）

6.4 公鑰密碼體制

6.4.1 公鑰密鑰的一般原理

6.4.2 RSA體制

習題