我有兴趣从我的数据集中从累积的PCA图中获取前10个PCA组件。我设法获得了诸如Scree情节,Pairs Plot等的PCA情节,但对我来说并没有多大意义。因此,我想从其累加的PCA图中选择前10个PCA图,但我需要使用此前10个PCA组件来子集原始数据集。谁能指出我如何使尝试更准确和理想?
可重复的数据:
persons_df <- data.frame(person1=sample(1:200,20, replace = FALSE),
person2=as.factor(sample(20)),
person3=sample(1:250,20, replace = FALSE),
person4=sample(1:300,20, replace = FALSE),
person5=as.factor(sample(20)),
person6=as.factor(sample(20)))
row.names(persons_df) <-letters[1:20]
我的尝试:
my_pca <- prcomp(t(persons_df), center=TRUE, scale=FALSE)
summary(my_pca)
my_pca_proportionvariances <- cumsum(((my_pca$sdev^2) / (sum(my_pca$sdev^2)))*100)
公共数据集:
由于我创建上述可再现数据时遇到了一些问题,因此我在这里链接了公共示例dataset
在这里,我需要选择persons_df
的前10个PCA组件,然后子集原始数据,然后对其运行简单的线性回归。如何在这里完成我的方法以实现我的目标?谁能在这里迅速指出我吗?有什么想法吗?
用PCA缩小维度,简而言之:
- 省略您的输出变量(这是作弊(,并在必要时与
model.matrix
创建对比变量。(不要直接一个速率编码因子,具有诸如邮政编码之类的层次,或者数据的大小会爆炸。想想更聪明。(删除任何零变量变量。处理NA
s。 - 比例。相比
- 使用
princomp
或prcomp
运行PCA。
pca <- princomp(scale(cbind(mtcars[-1])))
- 要获取差异的百分比,请将
stdev
向量从PCA对象中拉出,以保持差异并按比例进行扩展,因此总和为1。
pct_var_explained <- pca$sdev^2 / sum(pca$sdev^2)
pct_var_explained
#> Comp.1 Comp.2 Comp.3 Comp.4 Comp.5 Comp.6
#> 0.576021744 0.264964319 0.059721486 0.026950667 0.022225006 0.021011744
#> Comp.7 Comp.8 Comp.9 Comp.10
#> 0.013292009 0.008068158 0.005365235 0.002379633
- 查看所解释的累积差异总和,以查看您要保留多少个主要组件。例如,组件9和10解释了这里的0.25%的差异。您也可以使用
summary
为您进行这些计算。
cumsum(pct_var_explained)
#> Comp.1 Comp.2 Comp.3 Comp.4 Comp.5 Comp.6 Comp.7
#> 0.5760217 0.8409861 0.9007075 0.9276582 0.9498832 0.9708950 0.9841870
#> Comp.8 Comp.9 Comp.10
#> 0.9922551 0.9976204 1.0000000
summary(pca)
#> Importance of components:
#> Comp.1 Comp.2 Comp.3 Comp.4
#> Standard deviation 2.3622469 1.6021366 0.76062599 0.51096437
#> Proportion of Variance 0.5760217 0.2649643 0.05972149 0.02695067
#> Cumulative Proportion 0.5760217 0.8409861 0.90070755 0.92765822
#> Comp.5 Comp.6 Comp.7 Comp.8
#> Standard deviation 0.46400943 0.45116656 0.35884027 0.279571602
#> Proportion of Variance 0.02222501 0.02101174 0.01329201 0.008068158
#> Cumulative Proportion 0.94988322 0.97089497 0.98418697 0.992255132
#> Comp.9 Comp.10
#> Standard deviation 0.227981824 0.151831138
#> Proportion of Variance 0.005365235 0.002379633
#> Cumulative Proportion 0.997620367 1.000000000
- 子集,要保留并恢复输出变量的主要组件。
train <- data.frame(
mpg = mtcars$mpg,
predict(pca)[, cumsum(pct_var_explained) < 0.95]
)
- 训练您的模型。
model <- lm(mpg ~ ., train)
summary(model)
#>
#> Call:
#> lm(formula = mpg ~ ., data = train)
#>
#> Residuals:
#> Min 1Q Median 3Q Max
#> -4.2581 -1.2933 -0.4999 1.3939 5.2861
#>
#> Coefficients:
#> Estimate Std. Error t value Pr(>|t|)
#> (Intercept) 20.09062 0.44345 45.305 < 2e-16 ***
#> Comp.1 -2.28131 0.18772 -12.153 3.17e-12 ***
#> Comp.2 0.11632 0.27679 0.420 0.6778
#> Comp.3 1.29925 0.58301 2.229 0.0347 *
#> Comp.4 -0.09002 0.86787 -0.104 0.9182
#> Comp.5 0.31279 0.95569 0.327 0.7461
#> ---
#> Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
#>
#> Residual standard error: 2.509 on 26 degrees of freedom
#> Multiple R-squared: 0.8547, Adjusted R-squared: 0.8268
#> F-statistic: 30.59 on 5 and 26 DF, p-value: 4.186e-10
这个特殊的模型几乎只需要1个主要组件 - 该模型在其中无能为力。(也许是无关紧要的,多余的或非线性的。(迭代。