信息量和熵ppt课件内容预览:2.3 离散集的平均互
信息量
2.4 连续随机变量的互
信息和熵
2.5 凸函数和互
信息的凸性
2.1 离散变量的非平均
信息量
ppt
非平均互
信息量
例2.1.1
非平均互
信息量
非平均互
信息量
例2.1.2
非平均互
信息量
条件互
信息和联合事件互
信息
三个事件集的条件互
信息定义为
可以推广到任意有限多个空间情况
互
信息的可加性
系统
u1
u2
u3
离散变量的非平均自
信息量
非平均自
信息的性质
非负
体现先验不确定性大小
条件自
信息和联合自
信息
自
信息、条件自
信息和互
信息
2.2 离散集的平均自
信息量-熵
熵
集X中事件出现的平均不确定性
例2.2.1H(p)
例2.2.2
条件熵和联合熵
XY独立时有H(X|Y)=H(X)
熵的性质
对称性
非负性
确定性
扩展性
可加性
极值性
信息量和熵是H(P)上凸函数
课件关键字:信息量和熵,信息。
进入下载页面
上一课件:
基本逻辑门电路ppt课件 下一课件:
信号与线性系统ppt课件
2、本站资源为.ppt的格式,请先确认电脑内安装内了office办公软件,这样才不至于影响您的正常使用。
3、本站仅提供的信息量和熵ppt课件,仅作为交流学习之用,版权归作者所有。
4、有些课件由于太大或网速原因,无法立即观看或下载,需要加载,请稍等一会!
5、点击右边“分享到...”与好友共分享,TA会感谢您的,谢谢您的支持,我们会努力做得更好!
6、如果您发现无法下载或者有什么建议或者意见,观迎来信告诉我们,谢谢!