梯度提升算法（gradient boosting），理学-统计学-大数据统计分析-深度神经网络，通过迭代将多个与损失函数梯度相关的学习器集成在一起对变量进行预测的方法。简史梯度提升算法起源于美国统计学家L.布雷曼（Leo Breiman，1928～2005）在1997年的研究。L.布雷曼将Boosting算法解释为基于损失函数的优化算法。随后，J.H.弗里德曼（Jerome H. Friedman，1939～）在1999年明确地提出了梯度提升算法概念并应用于回归问题与多分类问题。L.梅森（Llew Mason）等提出了更为一般的泛函梯度提升算法。这些从梯度角度考虑提升模型的观点促进了提升模型在机器学习领域和统计领域的蓬勃发展。