概率密度估计

概率密度估计（probability density estimation），工学-信息与通信工程-模式识别-统计模式识别-概率密度估计，贝叶斯决策理论框架下有关样本概率密度分布的基本任务。概率密度估计是在给定样本的情况下估计概率密度函数的任务，主要分为参数估计和非参数估计两大类方法。参数估计假定已知观测数据服从某种分布（如正态分布），并利用训练样本对分布函数的参数进行估计。参数估计可以分为监督参数估计和非监督参数估计。在监督参数估计方法中，样本所属类别及条件总体概率密度的形式已知，但概率密度的某些参数是未知的。在非监督参数估计中，已知总体概率密度函数的形式，但样本所属类别未知，要求推断出概率密度函数的某些参数。在参数估计中，最常用的两种方法是最大似然估计和贝叶斯估计。最大似然估计假定待估参数是客观存在的，因此可将其视为参数空间中的一个固定的未知常数；同时，假定样本集是随机观测得到的。不同的是，贝叶斯估计假定参数是随机变量，而样本集是固定的。因此，贝叶斯估计重点研究待估参数的分布。非参数估计可分为直方图法和核方法两种。