熵率

熵率，熵的概念是由信息论的创始人申农(Shannon)提出的，在统计学中用它作为随机事件不确定程度的一种度量，描述给定长度为n的随机变量序列的熵随n的增长情况。如果给定一个长度为n的随机变量序列，我们自然会问：该序列的熵随n如何增长?下面定义这个增长率，我们称为熵率。