当前位置:新励学网 > 秒知问答 > 香农辅助定理怎么理解

香农辅助定理怎么理解

发表时间:2024-07-28 14:02:02 来源:网友投稿

通俗的来说任一概率分布对其他概率分布的自信息量取数学期望,必大于等于本身的熵,当且仅当X XX和Y YY的概率分布完全相同时取等号。

不等式的左边是X XX的信源熵,即无损压缩条件下的最短平均编码长度。

不等式的右侧,以信源Y YY的概率分布p ( y ) p(y)p(y)得到的最优编码,来为概率分布为p ( x ) p(x)p(x)的。

免责声明:本站发布的教育资讯(图片、视频和文字)以本站原创、转载和分享为主,文章观点不代表本网站立场。

如果本文侵犯了您的权益,请联系底部站长邮箱进行举报反馈,一经查实,我们将在第一时间处理,感谢您对本站的关注!