离散序列信源的熵ppt课件

发布时间:2013-11-25

课件大小:0.09 MB

所属栏目:工程类

课件格式:.rar(压缩解压).ppt(使用格式)

课件等级:离散序列信源的熵ppt课件推荐等级为3星

简略标题:离散序列信源的熵

应用环境:应用于多媒体教学

制作使用软件:PowerPoint

应用阶段:电子与通信

离散序列信源的熵ppt课件介绍及下载


离散序列信源的熵ppt课件内容预览:如何描述离散有记忆序列信源(平稳序列和齐次遍历马氏链信源)的序列熵?第四节离散序列信源的熵2.4.1离散无记忆信源的序列熵设信源输出的随机序列为X,X=(X1X2…Xl…XL),序列中的变量即序列长为L。设:随机序列的概率为:p(X=xi)=p(X1=xi1,X2=xi2,……,XL=xiL)=p(xi1)p(xi2xi1)p(xi3xi1xi2)…p(xiLxi1xi2…xiL-1)=p(xi1)p(xi2xi1)p(xi3xi12)…p(xiLxi1L-1)式中xi1L-1=xi1xi2…xiL-1分析:(1)当信源无记忆(序列中的符号之间无相关性)时,p(xi)=p(xi1xi2…xiL)=其中(2)若信源的序列满足平稳特性(与序号l无关)时,有p(xi1)=p(xi2)=…=p(xiL)=p,p(xi)=pL,则信源的序列熵又可表示为H(X)=LH(x).平均每个符号熵为HL(X)=H(X)L=H(x )(单个符号信源的符号熵)ppt第四讲2003年5月6日2.4.2离散有记忆信源的序列熵问题对于由两个符号组成的联合信源,有下列结论:(l)H(X1X2)=H(X1)+H(X2/X1)= H(X2)+H(X1/X2)(2)H(X1)≥H(X1/X2)H(X2)≥H(X2/X1)当前后符号无依存关系时,有下列推论:H(X1X2)=H(X1)+H(X2)H(X1)=H(X1/X2)H(X2)=H(X2/X1)由有限个有记忆序列信源符号组成的序列设:信源输出的随机序列为X,X=(X1X2…XL),则信源的序列熵定义为H(X)=H(X1X2…XL)=H(X1)+H(X2X1)+…+H(XLX1X2….XL-1)记作H(X)=H(XL)=平均每个符号的熵为HL(X)=H(X)L若当信源退化为无记忆时,有H(X)= H(Xl )若进一步又满足平稳性时,则有H(X)=LH(X)例2-4-1已知:离散有记忆信源中各符号的概率空间为:现信源发出二重符号序列消息(ai,aj),这两个符号的概率关联性用条件概率p(ajai)表示,并由下表给出。求离散信源的序列熵和平均每个符号的熵?解:条件熵H(X2/X1)=比特符号单符号信源熵比特符号发二重符号序列的熵H(X1X2)=H(X1)+H(X2X1)=1.543+0.872=2.415比特符号平均符号熵H2(X)=H(X2)2=1.21比特符号说明:比较上述结果可得:H2(X)
课件关键字:离散序列信源的熵,离散,序列。
进入下载页面

上一课件:随机过程的统计特性ppt课件 下一课件:汽车电器设备线路ppt课件

下载说明

1、本站所有ppt课件只支持用快车(flashget)下载,不支持其它方式下载。下载后建议使用WinRAR解压本站课件。
2、本站资源为.ppt的格式,请先确认电脑内安装内了office办公软件,这样才不至于影响您的正常使用。
3、本站仅提供的离散序列信源的熵ppt课件,仅作为交流学习之用,版权归作者所有。
4、有些课件由于太大或网速原因,无法立即观看或下载,需要加载,请稍等一会!
5、点击右边“分享到...”与好友共分享,TA会感谢您的,谢谢您的支持,我们会努力做得更好!
6、如果您发现无法下载或者有什么建议或者意见,观迎来信告诉我们,谢谢!