信源与信源熵知识点
树图思维导图提供 信源与信源熵 在线思维导图免费制作,点击“编辑”按钮,可对 信源与信源熵 进行在线思维导图编辑,本思维导图属于思维导图模板主题,文件编号是:94ce3be669636469879d71f4d6efc150
信源与信息熵思维导图模板大纲
字符之间不存在统计关联的信源
字符之间存在统计关联的信源叫做有记忆信源
一个信源(随机事件)发出某一符号,产生某一确定的结果以后所带来的信息量称为自信息量
I(x)=log(1/P(x))
当概率P越小,x消息出现的概率就越小,一旦出现所获得的信息量就越大
互信息
信源各个离散消息的自信息量的数学期望
(信源)熵单位: bit/sig,nat/sig,hart/sig
计算每个符号携带的自信息量 I (ai) = −log2p(ai) 根据公式计算信源的的信息熵 H (x) = −∑i=1q p(ai)log(ai)
连续信源熵
数据处理中信息的变化
相对熵和熵的性质
离散无记忆信源的序列熵
离散有记忆信源的序列熵
信源的冗余度
树图思维导图提供 9.战斗的基督教 在线思维导图免费制作,点击“编辑”按钮,可对 9.战斗的基督教 进行在线思维导图编辑,本思维导图属于思维导图模板主题,文件编号是:33d168acd0cd9f767f809c7a5df86e3a
树图思维导图提供 第六章 群体传播与组织传播_副本 在线思维导图免费制作,点击“编辑”按钮,可对 第六章 群体传播与组织传播_副本 进行在线思维导图编辑,本思维导图属于思维导图模板主题,文件编号是:1672f555831e7d9a3bb2cf2fb792cb49