已知某四进制离散等概信源(0,1,2,3),其符号出现概率分别为1/2、1/4、1/8和1/8,且互相独立,信源发送的消息为13201010100201300200100210300101020010030103210,求: (1)消息中实际包含的信息量; (2)用熵的概念计算消息的信息量。

已知某四进制离散等概信源(0,1,2,3),其符号出现概率分别为1/2、1/4、1/8和1/8,且互相独立,信源发送的消息为13201010100201300200100210300101020010030103210,求: (1)消息中实际包含的信息量; (2)用熵的概念计算消息的信息量。


参考答案和解析
(1)平均信息量: (2)码元速率R B 和信息速率R b : (3)最大熵及此时的码元速率R B 和信息速率R b 为:

相关考题:

设一离散无记忆信源的输出由四种不同的符号组成,它们出现的概率分别为1/2、1/4、1/8、1/8。(1)此信源平均每个符号包含的信息熵多大?(2)若信源每隔10毫秒发出一个符号,那么此信源平均每秒输出的信息量为多少?

如果在已知发送独立的符号中,符号“E”出现的概率为0.125,则符号“E”所包含的信息量为()。A.1bitB.2bitC.3bitD.4bit

离散信源输出4个不同符号,若各符号概率分别为1/2,1/4,1/8,1/8,则该信源的熵为()。A.1.5bit/signB.1.875bit/signC.1.75bit/signD.1bit/sign

某二进制信源各符号独立出现,若“1”符号出现的概率为3/4,则“0”符号的信息量为()bit。A.1B.2C.1.5D.2.5

离散信源输出5个不同符号,若各符号概率分别为1/2,1/4,1/8,1/16,1/16,则该信源的熵为()。A.1.5bit/signB.1.875bit/signC.2bit/signD.1bit/sign

已知二进制离散信源(0,1),每一符号波形等概独率立发送,传送二进制波形之一的信息量为()。A.1bit/sB.1bitC.2bit/sD.2bit

当离散信源中每个符号等概出现,而且各符号的出现为统计独立时,该信源的平均信息量最大。()

某信息源信号共有4种状态,每种状态出现的概率分别为1/4,则某信宿收到该信源的平均信息量(信息熵)是()。A、1B、2C、3D、4

如果符号集中任一符号出现的概率为1,则其他符号出现的概率必然为零,信源的平均信息量(熵)则为()

设有四个消息A、B、C、D分别以概率1/4,1/8,1/8,1/2传送,每一消息的出现是独立的。试计算其平均信息量。

设信源X包含4个不同离散消息,当且仅当X中各个消息出现的概率为()时,信源熵达到最大值,为(),此时各个消息的自信息量为()。

对具有8个消息的单符号离散无记忆信源进行4进制哈夫曼编码时,为使平均码长最短,应增加()个概率为0的消息。

一离散信源由A,B,C,D四个符号组成,它们出现的概率分别为1/2,1/4,且每个符号的出现都是独立的,消息{AAAAABBACCDDB}熵为2bit/符号。╳81.信息论的创始人是维纳。

信源发出的信号共有8种状态,8种状态的发生概率分别为1/8,信源传给信宿的信息熵是()。A、1B、2C、3D、4

某信源信号共有4种状态,其出现概率分别为1/2、1/4、1/8、1/8,则其信息熵是()比特。A、1B、1.75C、4D、2

设A、B、C、D四个消息分別以概率1/4、1/8、1/8、1/2传送,信源的平均信息量为()bit。A、1B、1.5C、1.75D、2

判断题一离散信源由A,B,C,D四个符号组成,它们出现的概率分别为1/2,1/4,且每个符号的出现都是独立的,消息{AAAAABBACCDDB}熵为2bit/符号。╳81.信息论的创始人是维纳。A对B错

单选题符号集为A、B、C、D,它们相互独立,相应概率为1/2、1/4、1/8、1/8,其中包含信息量最小的符号是()AABBCCDD

单选题如果在已知发送独立的符号中,符号“E”出现的概率为0.125,则符号“E”所包含的信息量为()A1bitB2bitC3bitD4bit

单选题离散信源输出五个不同符号,若各符号概率分别为1/2,1/4,1/8,1/16,1/16,则该信源的值为()A1.800bit/符号B1.825bit/符号C1.850bit/符号D1.875bit/符号

判断题当离散信源中每个符号等概出现,而且各符号的出现为统计独立时,该信源的平均信息量最大。A对B错

问答题设有四个消息A、B、C、D分别以概率1/4,1/8,1/8,1/2传送,每一消息的出现是独立的。试计算其平均信息量。

填空题如果符号集中任一符号出现的概率为1,则其他符号出现的概率必然为零,信源的平均信息量(熵)则为()

单选题某信源信号共有4种状态,其出现概率分别为1/2、1/4、1/8、1/8,则其信息熵是()比特。A1B1.75C4D2

单选题某信源的符号集由A、B、C、D和E组成,设每一符号独立出现,其出现概率分别为1/4、1/8、1/8、3/16和5/16,平均信息量为()bit/符号。A2.20B2.23C2.44D2.50

填空题设信源X包含4个不同离散消息,当且仅当X中各个消息出现的概率为()时,信源熵达到最大值,为(),此时各个消息的自信息量为()。

单选题设A、B、C、D四个消息分別以概率1/4、1/8、1/8、1/2传送,信源的平均信息量为()bit。A1B1.5C1.75D2

填空题对具有8个消息的单符号离散无记忆信源进行4进制哈夫曼编码时,为使平均码长最短,应增加()个概率为0的消息。