sklearn面具对onehotencoder无效

Question

考虑以下数据：

from sklearn.preprocessing import OneHotEncoder
import numpy as np
dt = 'object, i4, i4'
d = np.array([('aaa', 1, 1), ('bbb', 2, 2)], dtype=dt)  

我想使用OHE功能排除文本列。

为什么以下不起作用？

ohe = OneHotEncoder(categorical_features=np.array([False,True,True], dtype=bool))       
ohe.fit(d)
ValueError: could not convert string to float: 'bbb'

文件中写道：

categorical_features: “all” or array of indices or mask :
  Specify what features are treated as categorical.
   ‘all’ (default): All features are treated as categorical.
   array of indices: Array of categorical feature indices.
   mask: Array of length n_features and with dtype=bool.

我使用了一个掩码，但它仍然试图转换为float。

即使使用

ohe = OneHotEncoder(categorical_features=np.array([False,True,True], dtype=bool), 
                    dtype=dt)        
ohe.fit(d)

同样的错误。

同样在"索引数组"的情况下：

ohe = OneHotEncoder(categorical_features=np.array([1, 2]), dtype=dt)        
ohe.fit(d)

Answer 1

您应该明白Scikit-Learn中的所有估计器都是为数字输入而设计的。因此，从这个角度来看，将文本列保留为这种形式是没有意义的。你必须将该文本列转换为数字形式，或者去掉它。

如果你从Pandas DataFrame获得了你的数据集，你可以看看这个小包装：https://github.com/paulgb/sklearn-pandas.它将帮助您同时转换所有需要的列（或以数字形式保留一些行）

import pandas as pd
import numpy as np
from sklearn_pandas import DataFrameMapper
from sklearn.preprocessing import OneHotEncoder
data = pd.DataFrame({'text':['aaa', 'bbb'], 'number_1':[1, 1], 'number_2':[2, 2]})
#    number_1  number_2 text
# 0         1         2  aaa
# 1         1         2  bbb
# SomeEncoder here must be any encoder which will help you to get
# numerical representation from text column
mapper = DataFrameMapper([
    ('text', SomeEncoder),
    (['number_1', 'number_2'], OneHotEncoder())
])
mapper.fit_transform(data)

Answer 2

我认为这里有些混乱。您仍然需要输入数值，但在编码器中，您可以指定哪些值是分类值，哪些不是。

这个转换器的输入应该是一个整数矩阵，表示分类（离散）特征所取的值。

因此，在下面的示例中，我将aaa更改为5，将bbb更改为6。这样，它将区别于1和2的数值：

d = np.array([[5, 1, 1], [6, 2, 2]])
ohe = OneHotEncoder(categorical_features=np.array([True,False,False], dtype=bool))
ohe.fit(d)

现在您可以检查您的功能类别：

ohe.active_features_
Out[22]: array([5, 6], dtype=int64)

Answer 3

我遇到了同样的行为，感到很沮丧。正如其他人所指出的，Scikit Learn甚至在考虑选择categorical_features参数中提供的列之前，就要求所有数据都是数字的。

具体来说，列选择由/sklearn/preprocessing/data.py中的_transform_selected()方法处理，该方法的第一行是

CCD_ 10。

如果所提供的数据帧X中的任何数据不能成功转换为浮点值，则此检查失败。

我同意sklearn.preprocessing.OneHotEncoder的文件在这方面具有误导性。