数字或分类

Question

我正在构建一个决策树分类器，我找到了用于计算信息增益的方法。 这可能是一个愚蠢的问题，但我想知道该方法中的分裂是用于数字还是 分类属性？我很困惑，因为我认为阈值（中位数）用于数字 拆分，但是此方法使用字符串值。

任何帮助都将不胜感激。

这是代码：

    public static double getInfoGain(int f, ArrayList<String[]> dataSubset) {
            double entropyBefore = getEntropy(dataSubset); //Entropy before split
            if(entropyBefore != 0){ // Calculate information gain if entropy is not 0
                String threshold = thresholdMap.get(f); // Get threshold value of the feature
                ArrayList<String[]> leftData = new ArrayList<String[]>();
                ArrayList<String[]> rightData = new ArrayList<String[]>();
                for(String[] d : dataSubset) {
                    if(d[f].equals(threshold)) {
                        leftData.add(d); // If feature value of data == threshold, add it to leftData
                    } else {
                        rightData.add(d); // If feature value of data != threshold, add it to leftData
                    }
                }
                if(leftData.size() > 0 && rightData.size() > 0) {
                    double leftProb = (double)leftData.size()/dataSubset.size(); 
                    double rightProb = (double)rightData.size()/dataSubset.size();
                    double entropyLeft = getEntropy(leftData); //Entropy after split - left
                    double entropyRight = getEntropy(rightData); //Entropy after split - right
                    double gain = entropyBefore - (leftProb * entropyLeft) - (rightProb * entropyRight);
                    return gain;
                } else { // If entropy = 0 on either subsets of data, return 0
                    return 0;
                }
            } else { // If entropy = 0 before split, return 1
                return -1;
            }
        }

Answer 1

，尽管您指向的代码使用阈值的术语，但如果您查看评论，它是以分类或二进制方式使用的。

if(d[f].equals(threshold)) {
   leftData.add(d); // If feature value of data == threshold, add it to leftData
} else {
   rightData.add(d); // If feature value of data != threshold, add it to leftData
}

我强烈建议您从教科书或Wikipedia中查看算法作为参考，而不是直接使用代码。或者，如果您发现自己需要代码示例，我会在GitHub上寻找更高质量（三个维度）的存储库。

1. 您想用明确的许可学习代码。在许多地方，尽管Github隐含了开源性质，但没有许可证等同于专有，这在法律上并不准确。
2. 您想研究人们使用的代码。GitHub上还有更多的决策树算法实现，其恒星和问题都超过零。
3. 失败的是，您想研究具有测试的代码（指示和测试它是否实际上对自己有效的机会）。

理想情况下，您想要许多信任的迹象。如果我去Github，搜索决策树，检查Java，由大多数星星进行排序，我会看一个Sanity/QuickMl或Saebyn/java-decision-tree。