机器学习训练指标：Precision、Recall、F1 score

在机器学习中的最常用的指标 Precision、Recall、F1 score。

Precision：精度，精确度 Recall： 召回率，查全率 F1 score：由 Precision 和 Recall 加权后的指标

概念理解

为了解释这几个指标，引入以下概念：

	实际情况
预测结果		Positive	Negative
	Positive	True Positive (TP)	False Positive (FP)
	Negative	False Negative (FN)	True Negative (TN)

这么理解： 实际情况：有100个苹果，其中90个是好的(P)，10个是坏的(N)； 预测结果：预测出88个好的，其中85个真的是好的（TP），3个坏的（FP）；预测出12个坏的，其中5个好的（FN），7个坏的（TN）。

Precision 计算

Precision精度表示在预测为Positive的样本里面，有多少确实是Positive的（TP）： $Precision = \frac {TP}{TP + FP}$ 针对上面的示例，可以计算得到： $Precision = \frac {85}{85 + 3}\approx 0.965909$

Recall 计算

Recall 查全率表示Positive的样本有多少被预测出来了： $Recall = \frac {TP}{P}$ 针对上面的示例，可以计算得到： $Recall = \frac {85}{90}\approx 0.944444$

F1 score 计算

鉴于Precision和Recall指标都有可能会出现极端情况： 比如在上面的示例中，预测出10个最有可能是好的苹果是好的，那么这次预测的 Precision 值将会是100%。 还是上面的例子，把所有的苹果都预测为好的，那么这次预测的 Recall 值将会是100%。 由此可见，这两个指标都不是很全面，这时候就需要用到 F-Measure 这个指标，这个指标的计算公式： $F = \frac {(α^2 + 1) * Precision * Recall}{α^2 * Precision + Recall} $ 可以看到 F-Measure 经过加权调和两个指标之后得到的，其中参数 α 越大则 Recall 的权重越高，当 α = 1 时，得到的也就是我们常用的 F1 score 指标了。 针对上面的示例，可以计算出： $F1 = \frac {2 * 0.965909 * 0.944444}{0.965909 + 0.944444} \approx 0.955056$