2.2 最小距离准则

最小距离准则

最小距离准则是一种直观的分类方法，通过计算样本到各个类别代表点（如类均值）的距离，将样本归入距离最近的类别。

基本思想

对于每个类别 $i$，选择一个代表向量 ${\mathbf{m}}_i$（通常为该类样本的均值向量）。对于待分类样本 $\mathbf{x}$，计算其与每个 ${\mathbf{m}}_i$ 的距离，将其归入距离最小的类别：

$$\text{类别}=\arg \underset{i}{\min }\Vert \mathbf{x}-{\mathbf{m}}_i\Vert$$

决策边界

最小距离分类器的决策边界是两类代表点连线的中垂面（使用欧氏距离时），决策边界退化为线性超平面。因此最小距离分类器本质上是一种线性分类器。

链接到

• 上一个知识点：2.1 线性判别函数
• 下一个知识点：2.3 最小平方误差准则