最大惩罚似然估计

最大惩罚似然估计（maximum penalized likelihood estimation;MPLE），理学-统计学-数理统计-参数空间，增加了惩罚项的最大似然估计。最大似然估计是对未知参数进行估计的一种常用方法，在某些特殊情形下，最大似然估计存在问题，主要表现在以下3点：①最大似然估计可能不存在。例如，在进行逻辑斯蒂回归过程中，当样本量较小，尤其是解释变量较多，数据分布不均衡或出现分离时，最大似然估计容易导致估计偏差过大，极端情况下最大似然估计可能不存在。②过度离势问题。例如，在广义线性模型中，最大似然估计经常会产生过度离势问题，即所观测到的数值的方差远大于预期的数值方差。③过拟合问题。例如，在临床医学统计中，可能由于病例的特殊性及样本量的稀疏性导致最大似然估计产生过拟合情形。对似然函数增加恰当的惩罚项在一定程度上可以解决以上问题，最大惩罚似然估计是最大似然估计的改进。其一般形式：式中为原始的（对数）似然函数；为参数的罚项。增加的惩罚项往往可以限制和缩小求解空间，使最大似然估计存在，同时减少估计偏差，提高预测精度等。另外，在非参数和半参数估计中，最大惩罚似然估计得到广泛使用。