r-从决策树中提取已使用的列名/特征

Question

有人能不能好心一点，用这样的代码指出一种提取拟合树中使用的列/特征的方法：

library(dplyr)
library(caret)
library(rpart)
df <- data.frame(
x1 = rnorm(100, 3, 1)
, x2 = rnorm(100, 5, 2)
, y = rnorm(100, 3, 1)
)
ivs <- df %>%
dplyr::select(
x1
, x2
)
fitted <- caret::train(
x = ivs
, y = df$y        
)
model <-fitted$finalModel
model

此：

model$terms

给了你所有的术语(在x中(-所以不一定是曾经使用过的。

PS:

沿着这些路线的某些东西可能是前进的道路：

model$frame %>%
select(
var
) %>%
filter(
var != "<leaf>"
)

Answer 1

随机森林模型是决策树的集合，您可以使用函数varUsed来获取树使用的变量。如果使用插入符号，则需要设置keep.forest=TRUE:

library(caret)
set.seed(111)
X = matrix(runif(2000),ncol=20)
colnames(X) = paste0("col",1:20)
y = rnorm(100)
fitted <- train(x = X,y = y,trControl = trainControl(method="cv"),
keep.forest=TRUE,tuneGrid = data.frame(mtry=3:5))  

我们查看所使用的变量，下表告诉每个变量(行(，它在每个树(列(中使用了多少次：

model <-fitted$finalModel
varUsed(model,by.tree=TRUE)
dim(varUsed(model,by.tree=TRUE))
[1]  20 500
head(varUsed(model,by.tree=TRUE))
[,1] [,2] [,3] [,4] [,5] [,6] [,7] [,8] [,9] [,10] [,11] [,12] [,13] [,14]
[1,]    1    3    1    4    1    2    2    2    2     2     1     0     3     2
[2,]    2    4    2    2    3    3    1    4    1     3     1     4     0     4
[3,]    3    1    5    1    1    0    2    2    0     1     2     1     2     1
[4,]    4    0    2    3    1    0    2    1    4     2     1     2     1     1
[5,]    0    0    1    0    1    4    3    2    2     2     3     4     0     0
[6,]    1    2    1    3    2    2    2    1    1     1     1     1     2     3

您可以使用对此进行详细检查

head(getTree(model,1,labelVar=TRUE))
left daughter right daughter split var split point status  prediction
1             2              3     col13   0.9651637     -3  0.04972823
2             4              5     col13   0.5825061     -3 -0.05466984
3             0              0      <NA>   0.0000000     -1  2.55528193
4             6              7      col6   0.8524606     -3 -0.30132135
5             8              9     col16   0.8011010     -3  0.51518018
6            10             11      col3   0.3629737     -3 -0.45289996

如果我们将split var列制成表格，我们会得到与上一个表格相同的结果。