我有一个数据集，如下所示，其中A，B，C，D，E是特征，"T"是目标变量。
A B C D E T
32 22 55 76 98 3
12 41 90 56 33 2
31 78 99 67 89 1
51 85 71 21 37 1
......
......
现在，我已经使用Scikit Learn应用了多类逻辑回归分类器，并获得预测值和概率矩阵：-
A B C D E T Predicted Probablity
32 22 55 76 98 3 3 0.35
12 41 90 56 33 2 1 0.68
31 78 99 67 89 1 3 0.31
51 85 71 21 37 1 1 0.25
现在只想问我如何解释结果概率， 1)据我研究，python默认给出事件的概率为1。那么如果是这种情况，0.35 是否被认为是事件 1 的概率？ 或 2) 值 0.35 是第一种情况属于类"3"的可能性吗？ 我如何计算剩余两个类的概率。像这样：-
A B C D E T Predicted P_1 P_2 P_3
32 22 55 76 98 3 3 0.35 0.20 0.45
12 41 90 56 33 2 1 0.68 0.10 0.22
31 78 99 67 89 1 3 0.31 0.40 0.29
51 85 71 21 37 1 1 0.25 0.36 0.39
from sklearn.linear_classifier import LogisticRegression
lr = LogisticRegression(random_state = 1)
lr.fit(x_train,y_train)
我们拟合我们的训练数据。
lr.predict_proba(x_test)
假设数据集包含三个类。输出将如下所示：
array([[ 2.69011925e-02, 5.40807755e-01, 4.32291053e-01],
[ 9.32525056e-01, 6.73606657e-02, 1.14278375e-04],
[ 5.24023874e-04, 3.24718067e-01, 6.74757909e-01],
[ 4.75066650e-02, 5.86482429e-01, 3.66010906e-01],
[ 1.83396339e-02, 4.77753541e-01, 5.03906825e-01],
[ 8.82971089e-01, 1.16720108e-01, 3.08803089e-04],
[ 4.64149328e-02, 7.17011933e-01, 2.36573134e-01],
[ 1.65574625e-02, 3.29502329e-01, 6.53940209e-01],
[ 8.70375470e-01, 1.29512862e-01, 1.11667567e-04],
[ 8.51328361e-01, 1.48584654e-01, 8.69851797e-05]])
在给定的输出数组中，每行有 3 列，显示每个类的相应概率。每行代表一个样本。
lr.predict_proba(x_test[0,:]) **OR** lr.predict_proba(x_test)[0,:]
输出：
array([ 0.02690119, 0.54080775, 0.43229105])
即该样本的概率。
不确定您的结果表来自哪里(哪个 API 调用)，但您的第二个假设是正确的。在下表中
A B C D E T Predicted Probablity
32 22 55 76 98 3 3 0.35
12 41 90 56 33 2 1 0.68
31 78 99 67 89 1 3 0.31
51 85 71 21 37 1 1 0.25
我假设的结果是 4 个不同的样本(实例)，包括目标变量(正确类)、预测类和预测类的概率。
我认为您在代码中的索引例程方面存在问题。让我们专注于最后一行
A B C D E T Predicted Probablity
51 85 71 21 37 1 1 0.25
预测类的概率为0.25或25%，并且您有一个三类问题。这意味着其他两个类的总概率质量是1 - 0.25 = 0.75，如果你在剩下的两个类(据说不是分类器的预测)之间平均划分75%，你会得到0.75 / 2 = 0.375- 或者37.5%类2和3的概率(你预测了1)。当然，分类器对2和3的概率不会相等，所以一个会更低，而另一个会更高。问题是37.5%已经高于你预测的类1的概率，这在逻辑上是不可能的。如果分类器给出概率37.5%类2，25%类1那么预测肯定应该是类2，而不是像你上面那样的类1。
逻辑回归的输出是一个概率表，每个实例都有一行，每个类都有一列，例如
probs = array([[ 2.69011925e-02, 5.40807755e-01, 4.32291053e-01],
[ 9.32525056e-01, 6.73606657e-02, 1.14278375e-04],
[ 5.24023874e-04, 3.24718067e-01, 6.74757909e-01],
[ 8.70375470e-01, 1.29512862e-01, 1.11667567e-04],
[ 8.51328361e-01, 1.48584654e-01, 8.69851797e-05]])
第一个实例的第三类的概率在第probs[0, 2]行的第三列中。如果你想要数组中的预测类，你可以做predicted_idx = np.argmax(probs, axis=1)，这给了你对上述数据array([1, 0, 2, 0, 0])，这是最高预测概率的列索引。然后，您可以通过以下方式仅提取预测类的概率
probs[range(probs.shape[0]), predicted_idx]
>> array([ 0.54080776, 0.93252506, 0.67475791, 0.87037547, 0.85132836])
最后，您必须记住，结果表中的列索引不一定与数据集的索引方式相对应。如果您使用类似sklearn.preprocessing.LabelEncoder的东西，则可能是您认为位于索引 0 处的类实际上不在索引 0 处。您可以从label_binarizer.classes_中检查这一点 - 该数组的顺序对应于您从逻辑回归中获得的概率数组中的列索引。