有没有一种方法可以提取或计算scikit learn中设计矩阵的特性名称和级别名称?这里有一个例子:
import pandas as pd
import numpy as np
from sklearn.preprocessing import OneHotEncoder, StandardScaler
from sklearn.impute import SimpleImputer
from sklearn.compose import make_column_transformer
from sklearn.pipeline import make_pipeline
df = pd.DataFrame(
{
'a': [np.nan, 2, 3, 4],
'b': [5, 6, 7, np.nan],
'c': ['u', 'v', 'u', 'v'],
'd': [False, True, False, False],
'e': ['r', 'r', 's', 's']
}
)
scale_impute = make_pipeline(
StandardScaler(),
SimpleImputer(strategy='median', add_indicator=True)
)
transformer = make_column_transformer(
(scale_impute, ['a', 'b']),
(OneHotEncoder(), ['c', 'e']),
remainder='passthrough'
)
X = transformer.fit_transform(df)
在控制台上,我们看到:
In [7]: df
Out[7]:
a b c d e
0 NaN 5.0 u False r
1 2.0 6.0 v True r
2 3.0 7.0 u False s
3 4.0 NaN v False s
In [8]: pd.DataFrame(X)
Out[8]:
0 1 2 3 4 5 6 7 8
0 0.000000 -1.224745 1.0 0.0 1.0 0.0 1.0 0.0 0.0
1 -1.224745 0.000000 0.0 0.0 0.0 1.0 1.0 0.0 1.0
2 0.000000 1.224745 0.0 0.0 1.0 0.0 0.0 1.0 0.0
3 1.224745 0.000000 0.0 1.0 0.0 1.0 0.0 1.0 0.0
其中我将CCD_ 1转换为数据帧只是为了更好地打印。在这个简单的例子中,我可以弄清楚每一列是什么,但对于更复杂的场景,如果有一些方法来确定每一列对应的是什么,那就太好了。换句话说,对于设计矩阵中的给定列,它对应的是哪个功能?这是一个缺失的指标列吗?如果它对应于一个分类变量,那么该列代表哪个级别?
ColumnTransformer
类确实有一个get_feature_names()
方法,看起来它可以做我想做的事情,但它不适用于这个例子:
In [10]: transformer.get_feature_names()
---------------------------------------------------------------------------
AttributeError Traceback (most recent call last)
<ipython-input-10-20eb841d2d36> in <module>
----> 1 transformer.get_feature_names()
/opt/anaconda3/lib/python3.7/site-packages/sklearn/compose/_column_transformer.py in get_feature_names(self)
352 raise AttributeError("Transformer %s (type %s) does not "
353 "provide get_feature_names."
--> 354 % (str(name), type(trans).__name__))
355 feature_names.extend([name + "__" + f for f in
356 trans.get_feature_names()])
AttributeError: Transformer pipeline (type Pipeline) does not provide get_feature_names.
我正在运行scikit learn的0.23.1版本。
我见过patsy learn软件包,它可能会起作用,但我需要在大学超级计算机上运行我的代码,如果我坚持使用与Anaconda捆绑的软件包,会更容易。
跟踪特性的一种方法是为管道的每一步保留DataFrames。
- 参见pd管道,它还实现了sklearn_stages
创建新功能时,例如使用One-Hot编码器时,可以很容易地跟踪每个功能的来源。即my_feature_x1
、my_feature_x2
。。。