信息量查看源代码讨论查看历史

来自 孔夫子旧书网 的图片

信息量是中国生态学的一个名词术语。

汉字是用于记录汉语，进行书面交流，传承民族文化的书写符号系统，也是最富有民族特色的中国书法艺术的载体，是中华民族智慧的结晶，它蕴藏着许许多多的文化内涵。

名词解释

信息量是指信息多少的量度。1928年R.V.L.哈特莱首先提出信息定量化的初步设想，他将消息数的对数定义为信息量。若信源有m种消息，且每个消息是以相等可能产生的，则该信源的信息量可表示为I=logm。但对信息量作深入而系统研究，还是从1948年C.E.香农的奠基性工作开始的。在信息论中，认为信源输出的消息是随机的。即在未收到消息之前，是不能肯定信源到底发送什么样的消息。而通信的目的也就是要使接收者在接收到消息后，尽可能多的解除接收者对信源所存在的疑义（不定度），因此这个被解除的不定度实际上就是在通信中所要传送的信息量。

信息多少的量度。1928年R.V.L.哈特莱首先提出信息定量化的初步设想，他将消息数的对数定义为信息量。若信源有m种消息，且每个消息是以相等可能产生的，则该信源的信息量可表示为I=logm。但对信息量作深入而系统研究，还是从1948年C.E.香农的奠基性工作开始的。

信息的统计特征描述是早在1948年香农把热力学中熵的概念与熵增原理引入信息理论的结果。先行考察熵增原理。热力学中的熵增原理是这样表述的：存在一个态函数－熵，只有不可逆过程才能使孤立系统的熵增加，而可逆过程不会改变孤立系统的熵。从中可以看出：一、熵及熵增是系统行为；二、这个系统是孤立系统；三、熵是统计性状态量，熵增是统计性过程量。讨论信息的熵表述时，应充分注意这些特征的存在。并且知道，给定系统中发生的信息传播，是不可逆过程。