已知某四进制离散等概信源(0,1,2,3),其符号出现概率分别为1/2、1/4、1/8和1/8,且互相独立,信源发送的消息为13201010100201300200100210300101020010030103210,求: (1)消息中实际包含的信息量; (2)用熵的概念计算消息的信息量。
已知某四进制离散等概信源(0,1,2,3),其符号出现概率分别为1/2、1/4、1/8和1/8,且互相独立,信源发送的消息为13201010100201300200100210300101020010030103210,求: (1)消息中实际包含的信息量; (2)用熵的概念计算消息的信息量。
参考答案和解析
(1)平均信息量: (2)码元速率R B 和信息速率R b : (3)最大熵及此时的码元速率R B 和信息速率R b 为:
相关考题:
设一离散无记忆信源的输出由四种不同的符号组成,它们出现的概率分别为1/2、1/4、1/8、1/8。(1)此信源平均每个符号包含的信息熵多大?(2)若信源每隔10毫秒发出一个符号,那么此信源平均每秒输出的信息量为多少?
离散信源输出4个不同符号,若各符号概率分别为1/2,1/4,1/8,1/8,则该信源的熵为()。A.1.5bit/signB.1.875bit/signC.1.75bit/signD.1bit/sign
离散信源输出5个不同符号,若各符号概率分别为1/2,1/4,1/8,1/16,1/16,则该信源的熵为()。A.1.5bit/signB.1.875bit/signC.2bit/signD.1bit/sign
判断题一离散信源由A,B,C,D四个符号组成,它们出现的概率分别为1/2,1/4,且每个符号的出现都是独立的,消息{AAAAABBACCDDB}熵为2bit/符号。╳81.信息论的创始人是维纳。A对B错
单选题离散信源输出五个不同符号,若各符号概率分别为1/2,1/4,1/8,1/16,1/16,则该信源的值为()A1.800bit/符号B1.825bit/符号C1.850bit/符号D1.875bit/符号
单选题某信源的符号集由A、B、C、D和E组成,设每一符号独立出现,其出现概率分别为1/4、1/8、1/8、3/16和5/16,平均信息量为()bit/符号。A2.20B2.23C2.44D2.50
填空题对具有8个消息的单符号离散无记忆信源进行4进制哈夫曼编码时,为使平均码长最短,应增加()个概率为0的消息。