二分类解决多分类

多分类问题可以通过组合多个二分类器来解决。常用的策略包括一对多（One-vs-All）和一对一（One-vs-One）两种方法。

一对多（One-vs-All, OvA）

对于 $K$ 个类别，训练 $K$ 个二分类器。每个分类器 $C_{k}$ 以第 $k$ 类作为正类，其余所有类作为负类进行分类训练。

分类时，将样本输入所有 $K$ 个分类器，选择输出置信度最高的那个分类器对应的类别：

\overset{y}{^} = ar g k max f_{k} (x)

其中 $f_{k} (x)$ 为第 $k$ 个分类器的决策函数输出值。

优点：只需要训练 $K$ 个分类器，效率较高。
缺点：当类别数较多时，每个分类器面临严重的类别不平衡问题（正类样本远少于负类样本）。

对于 $K$ 个类别，每两个类别之间训练一个二分类器，共需训练 $\frac{K ( K - 1 )}{2}$ 个分类器。

分类时，让所有分类器进行投票，得票最多的类别作为最终预测结果。

优点：每个分类器只处理两个类别之间的区分问题，训练相对简单。
缺点：训练的分类器数量随类别数呈平方增长，计算和存储开销大。

策略	分类器数量	类别不平衡	适用范围
一对多（OvA）	$K$	较严重	类别较少时适用
一对一（OvO）	$\frac{K ( K - 1 )}{2}$	较轻	类别较多时适用

两种策略各有优劣，实际应用中需根据问题规模和数据分布选择合适的策略。OvA 因其实现简单、效率较高而被更广泛地采用。