分类器评价指标

       在分类器设计过程中，如何评价分类器至关重要，一个好的评价指标更有利于我们对分类模型进行优化；同时，好的分类器评价指标要求其充分反应出分类器对问题的解决能力，也更容易向使用者、客户展示交互。

      在分类问题中，一个实例可能被判定为一下四种类型之一：

    TP(True Positive)：被模型预测为正的正样本；

     FP(False Positive)：被模型预测为正的负样本；

     FN(False Negative)：被模型预测为负的正样本；

     TN(True Negative)：被模型预测为负的负样本；

     由这四种类型可以得到一个混淆矩阵(Confusion Matrix)：

Confusion Matrix		Predicted
		Negative	Positive
Actual	Negative	TN	FP
	Positive	FN	TP

        基于以上混淆矩阵，可以引申出一下指标进一步评价分类器性能：

        准确率(Aaccuracy)：对整个样本集的判定能力，即将正的判定为正、负的判定为负，A=(TP+TN)/(TP+FN+FP+TN)；

       灵敏度(Sensitivity)：将正样本预测为正样本的能力，Sensitivity=TP/(TP+FN)；

       特异度(Specificity)：将负样本预测为负样本的能力，Specificity=TN/(TN+FP)；

       ROC(Receiver Operating Charateristic)：ROC的主要分析工具为画在ROC空间的曲线（如下图），横轴为1- Specificity，纵轴为Sensitivity。在分类问题中，一个阀值对应于一个特异性及灵敏度，并在ROC空间描出一个点P，当阀值连续移动时，P点也随即移动最终绘成ROC曲线。ROC良好的刻画了不同阀值对样本的分辨能力，也同时反应出对正例和对反例的分辨能力，方便使用者根据实际需求选用合适的阀值。一个好的分类模型要求ROC曲线尽可能靠近图形的左上角；

ROC曲线（图片引子维基百科）

        AUC(Area Under roc Curve)值指处于ROC曲线下方的那部分面积大小；一个理想的分类模型其AUC值为1，通常其值在0.5至1.0之间，较大的AUC代表了分类模型具备较好的性能。