深度信念网络(deep belief network; DBN),工学-控制科学与工程-智能系统-智能系统-问题求解-神经网络,一种包含多层隐单元的概率生成模型,可被视为多层简单学习模型组合而成的复合模型。由加拿大计算机科学家G.辛顿(Geoffrey Hinton,1947~ )在2006年提出。它是一种生成模型,通过训练其神经元间的权重,可以让整个神经网络按照最大概率来生成训练数据。人的大脑的认知过程是逐层进行,逐步抽象的。深层结构的神经网络能够有效提高工作效率,降低维数灾难或者降低其危害。根据这种现象,辛顿阐述了重要思想:增加隐含层的层数可以使网络学习能力增强,学习到的特征更贴近事物本身,提出了深度信念网络的概念,实现了人工神经网络在多隐含层建立工作中的突破。深度信念网络可以作为深度神经网络的预训练部分,并为网络提供初始权重,再使用反向传播或者其他判定算法作为调优的手段。这在训练数据较为缺乏时很有价值,因为不恰当的初始化权重会显著影响最终模型的性能,而预训练获得的权重在权值空间中比随机权重更接近最优的权重。这不仅提升了模型的性能,也加快了调优阶段的收敛速度。