K最近邻算法

K最近邻算法（K-nearest neighbor algorithm; K-NN algorithm），管理学-情报学-信息检索-信息检索技术-分类检索-K最近邻算法，用于分类或者回归的非参数方法。又称最近邻居法、邻近算法、K-NN算法。K最近邻算法的输入包含特征空间中k（k为正整数，通常取值较小）个最近的训练样本，输出取决于近邻是用于分类或回归。在K近邻分类中，如果一个样本在特征空间中的k个最相邻的样本中的大多数属于某一个类别，则该样本也属于这个类别，并具有这个类别上样本的特性。K近邻分类的输出是一个分类簇群，即对象的分类是由其邻居的“多数表决”确定，k个最近邻居中最常见的分类决定了该对象所属的类别。若k=1，则该对象的类别直接由最近的一个节点赋予。在近邻回归中，输出该对象的属性值，该值是其K近邻的值的平均值。K最近邻算法是机器学习算法中比较简洁的算法之一，其本质是一种基于实例的学习，或者是局部近似和将所有计算推迟到分类之后的惰性学习。