我使用lars
模型,并将其应用于包含数值数据和因子的大型数据集(75个特征)。
我通过训练模型
mm <- model.matrix(target~0+.,data=data)
larsMod <- lars(mm,data$target,intercept=FALSE)
这提供了很好的样本拟合。如果我通过将其应用于测试数据
mm.test <- model.matrix(target~0+.,,data=test.data)
predict(larsMod,mm.test,type="fit",s=length(larsMod$arc.length))
然后我得到错误信息
Error in scale.default(newx, object$meanx, FALSE) :
length of 'center' must equal the number of columns of 'x'
我认为这与数据集中的因素水平不同这一事实有关。然而
which(! colnames(mm.test) %in% colnames(mm) )
给出一个空结果而
which(! colnames(mm) %in% colnames(mm.test) )
给出3个独立作品。因此,3个因素水平确实出现在训练集中,但没有出现在测试集中。为什么会出现问题?我该如何解决这个问题?
代码破解通过一个玩具示例说明了这一点。在测试数据集中,该因子没有级别"l3"。
require(lars)
data.train = data.frame( target = c(0,1,0,1,1,1,1,0,0,0), f1 = rep(c("l1","l2","l1","l2","l3"),2), n1 = rep(c(1,2,3,4,5),2))
test.data = data.frame(f1 = rep(c("l1","l2","l1","l2","l2"),2),n1 = rep(c(7,4,3,4,5),2) )
mm <- model.matrix(target~0+f1+n1,data = data.train)
colnames(mm)
length(colnames(mm))
larsMod <- lars(mm,data.train$target,intercept=FALSE)
mm.test <- model.matrix(~0+f1+n1,data=test.data)
colnames(mm.test)
length( colnames(mm.test) )
which(! colnames(mm.test) %in% colnames(mm) )
which(! colnames(mm) %in% colnames(mm.test) )
predict(larsMod,mm.test,type="fit",s=length(larsMod$arc.length))
我可能非常偏离这里,但在我的领域中,如果预测找不到它期望的变量,它就不起作用。因此,我尝试了如果我将测试数据中没有的因子(f1l3)的模型矩阵强制为0会发生什么。
注1:我在测试数据中创建了一个目标变量,因为我无法让你的代码运行
set.seed(123)
test.data$target <- rbinom(nrow(test.data),1,0.2)
#proof of concept:
mm.test <- model.matrix(target~0+f1+n1,data=test.data)
mm.test1 <- cbind(f1l3=0,mm.test)
predict(larsMod,mm.test1[,colnames(mm)],type="fit",s=length(larsMod$arc.length)) #runs
#runs!
现在进行泛化以允许创建"完整"模型矩阵当测试数据中缺少因素时。
#missing columns
mis_col <- setdiff(colnames(mm), colnames(mm.test))
#matrix of missing levels
mis_mat <- matrix(0,ncol=length(mis_col),nrow=nrow(mm.test))
colnames(mis_mat) <- mis_col
#bind together
mm.test2 <- cbind(mm.test,mis_mat)[,colnames(mm)] #to ensure ordering, yielded different results in my testing
predict(larsMod,mm.test2,type="fit",s=length(larsMod$arc.length)) #runs
注2:如果问题相反(测试数据中存在的因素不在列车数据中),我不知道会发生什么。