使用分类变量的sklearn线性回归

Question

我正试图使用sk learn在Python中运行一个常见的线性回归，但我有一些分类数据，我不知道如何处理，尤其是因为我使用pandas read.csv()导入了数据，我从以前的经验和阅读中了解到，pandas和sk learn（还）相处得不太好。

我的数据如下：

Salary  AtBat   Hits    League  EastDivision
475     315     81      1       0
480     479     130     0       0
500     496     141     1       1

我想用AtBat、Hits、League和EastDivision来预测薪水，其中League和东区是绝对的。

如果我通过numpy的loadtext()导入数据，我会得到一个numpy数组，理论上我可以与sklearn一起使用，但当我使用DictVectorizer时，我会出现错误。我的代码是：

import numpy as np
from sklearn.feature_extraction import DictVectorizer as DV
nphitters=np.loadtxt('Hitters.csv',delimiter=',', skiprows=1)
vec = DV( sparse = False )
catL=vec.fit_transform(nphitters[:,3:4])

当我运行最后一行catL=vec.fit_transform(nphitters[:,3:4])时，我得到了错误，错误是

Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
  File "/usr/lib/python2.7/dist-packages/sklearn/feature_extraction/dict_vectorizer.py", line 142, in fit_transform
    self.fit(X)
  File "/usr/lib/python2.7/dist-packages/sklearn/feature_extraction/dict_vectorizer.py", line 107, in fit
    for f, v in six.iteritems(x):
  File "/usr/lib/python2.7/dist-packages/sklearn/externals/six.py", line 268, in iteritems
    return iter(getattr(d, _iteritems)())
AttributeError: 'numpy.ndarray' object has no attribute 'iteritems'

我不知道如何修复它，另一件事是，一旦我得到分类数据，我该如何运行回归？就好像分类变量是另一个数字变量一样？

我发现了几个与我相似的问题，但没有一个真正对我有效。

Answer 1

基本上，发生的事情是将1和0的向量传递给一个函数，该函数将获取键和值（如字典），并为创建一个表

D = [{'foo': 1, 'bar': 2}, {'foo': 3, 'baz': 1}]

将成为

array([[ 2.,  0.,  1.],
       [ 0.,  1.,  3.]])

或

|bar|baz|foo  |<br>
|---|---|-----|<br>
| 2 | 0 | 1   |<br>
| 0 | 0 | 3   |<br>

阅读：http://scikit-learn.org/stable/modules/generated/sklearn.feature_extraction.DictVectorizer.html

在你的情况下，数据已经准备好进行线性回归，因为特征联盟和东区已经是假人了。

Answer 2

看起来.fit_transform()需要一个dict，但.loadtxt()创建了一个numpy数组。

您可以在使用pandas读取数据后使用.to_dict()。

Answer 3

scikit learn有两个新功能，可以为您完成

sklearn.preprocessing.LabelBinarizer
sklearn.preprocessing.LabelEncoder

如果您想在一行中处理多个值，

sklearn.preprocessing.MultiLabelBinarizer

例如：

array = [(dog, cat),(dog),(dog,fish)]
mb = MultiLabelBinarizer()
mb.fit_transform(array)
>> array([1, 0, 1, 0, 0, 0],
       [0, 1, 0, 0, 1, 1],
       [0, 0, 1, 1, 0, 0]])