信息统计度量（statistical measure of information），工学-信息与通信工程-【遥感遥测信号与信息处理】-遥测-【信号与信息处理】，对从信息源获得的信息的定量描述。信息蕴含在不定性、随机性中。通过某个过程或手段，了解一定的随机信息源，减少了不确定性，即从这个信息源获得了信息。从信息源获取信息的过程就是其不确定性缩减的过程。信息源包含的信息与其不确定性是紧密相关的。在统计分析中，使用概率作为衡量不确定性的一种指标。可以推论，随机事件包含信息的度量应是其概率的函数。任意随机事件的自信息量定义为此事件发生概率的对数的负值。设事件的概率为，那么，它的自信息定义式为：…（1）自信息量是取其概率的对数的负值，故为非负。自信息量的单位与所取对数的底有关。通常取对数的底为2，信息量的单位为比特。若，则，即此事件具有1比特的自信息量。比特是信息理论中最常用的信息量单位。若取自然对数（对数的底为e），此时，自信息量的单位为奈特。…（2）若以10作为对数的底，此时自信息量的单位为哈特。…（3）由于各种随机事件发生的概率不同，它们所包含的不确定性也有大小的差别。