定义

国外星期算法(Day85:大间隔最近邻居Large)(1)

作用

大间隔最近邻居(Large margin nearest neighbor (LMNN))分类算法是统计学的一种机器学习算法。该算法是在 K近邻分类的过程中,学习一种欧式距离度量函数。该度量函数优化的目标是:对于一个输入x_i的k个近邻都属于同一类别,而不同类别的样本与x_i保持一定大的距离。 k近邻规则是模式识别领域广泛使用的一种简单有效的方法。它的效果的好坏只依赖于确定最近邻的距离度量。基于欧式距离度量学习函数的大间隔最近邻居分类算法能够很好的改善k近邻算法分类效果

目标

该算法的目标是:对于每一个输入样本,其k 个目标邻居应尽可能的接近,而那些入侵样本应尽可能的远离该输入样本(即与其保持一定大的距离间隔)。通过学习使得输入向量x_i 被其目标近邻包围。

LMNN样本训练前后的示意图如下所示:

国外星期算法(Day85:大间隔最近邻居Large)(2)

,