2011年北京邮电大学博士考试信息论基础大纲

2011年北京邮电大学博士考试信息论基础大纲

一、考试要求

要求考生掌握仙农信息论的基本概念，熟练完成有关运算，并能利用信息论的基本原理分析和解决实际问题。

二、考试内容

1、信息的度量

1)自信息、互信息、平均互信息

2)离散和连续信源的熵

3)离散和连续最大熵定理

4)离散马氏源的熵

2、无失真信源编码

1)分组信源编码

2)渐近均分特性、典型序列

3)异前置码

4)无失真信源编码定理

5)最优码与哈夫曼编码

6)算术编码

3、信道容量与有噪信道编码

1)离散无记忆信道容量

2)矢量信道的性质

3)级联信道、并联信道容量

4)有噪信道编码定理

5)离散时间连续信道容量

6)独立并联信道容量与注水原理

7) AWGN信道容量

8)有色高斯噪声信道容量

4、信息率失真函数

1) R（D）函数的性质

2)离散信源信息率失真函数

3)高斯信源信息率失真函数

4)限失真信源编码定理

5)线性预测编码

6)变换编码