IndexError:数组的索引太多.具有42个功能的Numpy阵列不是同质的

Question

我正在尝试实例化我的测试集进行分类，加载一个具有41个特性和1个标签的数据集：

import numpy as np
f = open("mydataset")
dataset = np.genfromtxt(f, delimiter=',', dtype=None)
X = dataset[:, 0:40]  # select columns 1 through 41
y = dataset[:, 41]  # select column 42 (the labels)

由于mydataset不是同构的（并非所有元素都具有相同的类型），因此函数genfromtxt创建了一个1D数组（元组列表）。所以我得到了这个错误：

X = dataset[:, 0:40]  # select columns 1 through 41
IndexError: too many indices for array

我该如何解决这个问题？我必须在2D中转换numpy数组吗（如果是，用哪种方式）？或者我必须使用另一种方法来选择正确的列吗？

感谢

Answer 1

您可以定义一个复合数据类型：

dt = np.dtype([('values',float,(41,)),('labels','S10')])
data=np.genfromtxt(f, delimiters=',',dtype=dt)
X = data['values']
Y = data['labels']

（没有测试，因为我没有这样大小的样本数组）。

正如我在最近的回答中所描述的，https://stackoverflow.com/a/37126091/901925，

您可以使用将dtype=None数据转换为此复合数据类型

data.view(dt)

尽管这需要将所有数字加载为float（或全部加载为int）。CSV通常混合了浮点列和整数列，因此None genfromtxt调用的数字字段将是多种类型的混合。

借用另一个答案，一个通用的结构化数组可能看起来像：

In [421]: data=np.array([('label1', 12, 23.2, 232.0), ('label2', 23, 2324.0, 324.0),
       ('label3', 34, 123.0, 2141.0), ('label4', 0, 2.0, 3.0)], 
      dtype=[('f0', '<U10'), ('f1', '<i4'), ('f2', '<f8'), ('f3', '<f8')])

具有不同数据类型的4个字段。

可以通过名称data['f0']或名称列表data[['f0','f3']]访问各个字段。但是你能用名字列表做的事情是有限的。

In [426]: data[['f2','f3']]=10
...
ValueError: multi-field assignment is not supported

如果你制作一个副本，你可以做更多的事情，如果你把它看作同质阵列，你也可以做更多：

In [427]: d23=data[['f2','f3']].copy()
In [428]: d23
Out[428]: 
array([(23.2, 232.0), (2324.0, 324.0), (123.0, 2141.0), (2.0, 3.0)], 
      dtype=[('f2', '<f8'), ('f3', '<f8')])
In [429]: d23=d23.view((float,(2,)))
In [430]: d23
Out[430]: 
array([[  2.32000000e+01,   2.32000000e+02],
       [  2.32400000e+03,   3.24000000e+02],
       [  1.23000000e+02,   2.14100000e+03],
       [  2.00000000e+00,   3.00000000e+00]])
In [431]: d23+=34
In [432]: d23
Out[432]: 
array([[   57.2,   266. ],
       [ 2358. ,   358. ],
       [  157. ,  2175. ],
       [   36. ,    37. ]])

（对d23的更改不会影响原始data）。