培训数据准备

Question

我正试图通过创建一个字符文本的热编码来准备数据文件，稍后我可以使用它来训练我的模型进行分类。我有一个训练数据文件，它由几行字符组成，我首先对它们进行整数编码，然后进行热编码。

例如，数据文件的外观如下：

2. fgtfafadargggagagagagavcacacacare wrtgwgjfjqiufqfjfqnmfhbqvcqvfqfqafaf

这就是我处理它的方式：

import pandas as pd
from sklearn import preprocessing
categorical_data = pd.read_csv('abc.txt', sep="n", header=None)
labelEncoder = preprocessing.LabelEncoder()
X = categorical_data.apply(labelEncoder.fit_transform)
print("Afer label encoder")
print(X.head())
oneHotEncoder = preprocessing.OneHotEncoder()
oneHotEncoder.fit(X)
onehotlabels = oneHotEncoder.transform(X).toarray()
print("Shape after one hot encoding:", onehotlabels.shape)
print(onehotlabels)

我得到了每一行的整数编码(在我的情况下是0,1,2)，然后是随后的一个热编码矢量。

我的问题是，我如何对单行中的每个字符进行预测，因为对于预测，模型应该从一行中的字符(对应于某个标签)中学习。有人能给我一些关于如何从那里开始的见解吗？

Answer 1

在您的例子中，我最终得到了一个类似这样的DataFrame：

0
0   0
1   1
2   2

根据你的描述，听起来你希望每一行都有自己独立的热编码。让我们先来看第1行。

afafalkjfalkfalfjalfjalfjafajfaflajflajflajfajflajflajfjaljfafj

获得上面包含的数据帧I的原因是，这一行被读取到dataframe中，然后作为单个值而不是63个值(字符串长度)的数组传递给labelEncoder和oneHotEncoder。

您真正想要做的是向labelEncoder传递一个大小为63的数组。

data = np.array([let for let in categorical_data[0][0]])
X = labelEncoder.fit_transform(data)
oneHotEncoder.fit(X.reshape(-1,1))
row_1_labels = oneHotEncoder.transform(X.reshape(-1,1)).toarray()
row_1_labels
array([[ 1.,  0.,  0.,  0.,  0.],
[ 0.,  1.,  0.,  0.,  0.],
[ 1.,  0.,  0.,  0.,  0.],
[ 0.,  1.,  0.,  0.,  0.],
[ 1.,  0.,  0.,  0.,  0.],
[ 0.,  0.,  0.,  0.,  1.],
[ 0.,  0.,  0.,  1.,  0.],
[ 0.,  0.,  1.,  0.,  0.],
[ 0.,  1.,  0.,  0.,  0.],
[ 1.,  0.,  0.,  0.,  0.],
[ 0.,  0.,  0.,  0.,  1.],
[ 0.,  0.,  0.,  1.,  0.],
[ 0.,  1.,  0.,  0.,  0.],
[ 1.,  0.,  0.,  0.,  0.],
[ 0.,  0.,  0.,  0.,  1.],
[ 0.,  1.,  0.,  0.,  0.],
[ 0.,  0.,  1.,  0.,  0.],
[ 1.,  0.,  0.,  0.,  0.],
[ 0.,  0.,  0.,  0.,  1.],
[ 0.,  1.,  0.,  0.,  0.],
[ 0.,  0.,  1.,  0.,  0.],
[ 1.,  0.,  0.,  0.,  0.],
[ 0.,  0.,  0.,  0.,  1.],
[ 0.,  1.,  0.,  0.,  0.],
[ 0.,  0.,  1.,  0.,  0.],
[ 1.,  0.,  0.,  0.,  0.],
[ 0.,  1.,  0.,  0.,  0.],
[ 1.,  0.,  0.,  0.,  0.],
[ 0.,  0.,  1.,  0.,  0.],
[ 0.,  1.,  0.,  0.,  0.],
[ 1.,  0.,  0.,  0.,  0.],
[ 0.,  1.,  0.,  0.,  0.],
[ 0.,  0.,  0.,  0.,  1.],
[ 1.,  0.,  0.,  0.,  0.],
[ 0.,  0.,  1.,  0.,  0.],
[ 0.,  1.,  0.,  0.,  0.],
[ 0.,  0.,  0.,  0.,  1.],
[ 1.,  0.,  0.,  0.,  0.],
[ 0.,  0.,  1.,  0.,  0.],
[ 0.,  1.,  0.,  0.,  0.],
[ 0.,  0.,  0.,  0.,  1.],
[ 1.,  0.,  0.,  0.,  0.],
[ 0.,  0.,  1.,  0.,  0.],
[ 0.,  1.,  0.,  0.,  0.],
[ 1.,  0.,  0.,  0.,  0.],
[ 0.,  0.,  1.,  0.,  0.],
[ 0.,  1.,  0.,  0.,  0.],
[ 0.,  0.,  0.,  0.,  1.],
[ 1.,  0.,  0.,  0.,  0.],
[ 0.,  0.,  1.,  0.,  0.],
[ 0.,  1.,  0.,  0.,  0.],
[ 0.,  0.,  0.,  0.,  1.],
[ 1.,  0.,  0.,  0.,  0.],
[ 0.,  0.,  1.,  0.,  0.],
[ 0.,  1.,  0.,  0.,  0.],
[ 0.,  0.,  1.,  0.,  0.],
[ 1.,  0.,  0.,  0.,  0.],
[ 0.,  0.,  0.,  0.,  1.],
[ 0.,  0.,  1.,  0.,  0.],
[ 0.,  1.,  0.,  0.,  0.],
[ 1.,  0.,  0.,  0.,  0.],
[ 0.,  1.,  0.,  0.,  0.],
[ 0.,  0.,  1.,  0.,  0.]])

您可以对每一行重复此操作，以获得独立的one-hot编码。像这样：

one_hot_encodings = categorical_data.apply(lambda x: [oneHotEncoder.fit_transform(labelEncoder.fit_transform(np.array([let for let in x[0]])).reshape(-1,1)).toarray()], axis=1)
one_hot_encodings
0
0   [[1.0, 0.0, 0.0, 0.0, 0.0], [0.0, 1.0, 0.0, 0....
1   [[0.0, 0.0, 0.0, 0.0, 0.0, 1.0, 0.0, 0.0, 0.0,...
2   [[0.0, 0.0, 0.0, 0.0, 0.0, 1.0, 0.0, 0.0, 0.0,...

如果希望根据所有行中的值对行进行热编码，则只需首先将labelEncoder与所有唯一字母相匹配，然后对每一行进行转换。像这样：

unique_letters = np.unique(np.array([let for row in categorical_data.values for let in row[0]]))
labelEncoder.fit(unique_letters)
unique_nums = labelEncoder.transform(unique_letters)
oneHotEncoder.fit(unique_nums.reshape(-1,1))
cat_dat = categorical_data.apply(lambda x: [np.array([let for let in x[0]])], axis=1)
one_hot_encoded = cat_dat.apply(lambda x: [oneHotEncoder.transform(labelEncoder.transform(x[0]).reshape(-1,1)).toarray()], axis=1)
one_hot_encoded
0
0   [[1.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0,...
1   [[0.0, 0.0, 0.0, 0.0, 0.0, 1.0, 0.0, 0.0, 0.0,...
2   [[0.0, 0.0, 0.0, 0.0, 0.0, 1.0, 0.0, 0.0, 0.0,...

这将返回一个DataFrame，每行包含一个基于所有行中字母的热编码字母数组。