首页 > 精选百科 > 正文

信息熵(关于信息熵的简介)

导读 大家好,很多人对信息熵,关于信息熵的简介这个还不是很了解,现在让我们一起来看看吧!1、信息熵(informationentropy)是信息论的基本概念...

大家好,很多人对信息熵,关于信息熵的简介这个还不是很了解,现在让我们一起来看看吧!

1、信息熵(informationentropy)是信息论的基本概念。描述信息源各可能事件发生的不确定性。20世纪40年代,香农(C.E.Shannon)借鉴了热力学的概念,把信息中排除了冗余后的平均信息量称为“信息熵”,并给出了计算信息熵的数学表达式。 信息熵的提出解决了对信息的量化度量问题。

2、信息是个很抽象的概念。人们常常说信息很多,或者信息较少,但却很难说清楚信息到底有多少。比如一本五十万字的中文书到底有多少信息量。

3、信息论之父克劳德·艾尔伍德·香农第一次用数学语言阐明了概率与信息冗余度的关系。

以上就是【信息熵,关于信息熵的简介】相关内容。

免责声明:本文由用户上传,如有侵权请联系删除!

标签:

Copyright @ 2015 -2024 太行之窗 All Rights Reserved. 网站地图 | 百度地图 | 360地图 | 今日更新