变分贝叶斯（variational Bayes），理学-统计学-大数据统计分析-贝叶斯统计-变分贝叶斯，利用优化方法对难以计算的贝叶斯后验密度函数进行变分近似的方法。变分贝叶斯的思想源于神经网络的研究，由学者C.彼得森和J.安德森等提出。20世纪90年代学者M.乔丹及其研究团队对变分贝叶斯方法进行了一系列研究。之后，变分贝叶斯方法被推广到了更加一般的情况。2013年学者M.霍夫曼等将变分贝叶斯方法与随机优化方法相结合，提出随机变分贝叶斯方法，这种方法适用于复杂贝叶斯模型与大规模数据分析。2017年学者D.布莱从统计学角度发表了关于变分贝叶斯方法的综述文章。自此，变分贝叶斯方法得到广泛的研究。设表示数据，其中为数据的取值空间。设表示未知参数，其中为参数空间。设为欧几里得空间的子集。设表示参数的后验密度函数。对于很多复杂的模型，具有复杂的形式，难以直接用于统计推断。变分贝叶斯方法利用具有简单形式的分布来近似，设为指定的一族备选分布，变分贝叶斯的优化目标是：式中和为密度函数；为和之间的库尔贝克-莱布勒散度。上述优化目标等价于最大化所谓的证据下界：式中为和的联合密度函数。