我用Scikit-Learn训练了一个分类器。我正在加载输入以从 CSV 训练我的分类器。我的一些列(例如"城镇")的值是规范的(例如,可以是"纽约"、"巴黎"、"斯德哥尔摩"等)。为了使用这些规范列,我正在使用Scikit-Learn的LabelBinarizer进行单热编码。
这是我在训练前转换数据的方式:
import pandas as pd
from sklearn.preprocessing import LabelBinarizer
headers = [
'Ref.', 'Town' #,...
]
df = pd.read_csv("/path/to/some.csv", header=None, names=headers, na_values="?")
lb = LabelBinarizer()
lb_results = lb.fit_transform(df['Town'])
但是,我不清楚如何使用 LabelBinarizer 使用我想进行预测的新输入数据创建特征向量。特别是,如果新数据包含已见城镇(例如纽约),则需要在与训练数据中的同一城镇相同的位置对其进行编码。
标签二值化应该如何重新应用于新的输入数据?
(我对Scikit-Learn没有强烈的感觉,如果有人知道如何用熊猫的get_dummies方法做到这一点,那也很好。
只需将lb.transform()
用于已训练lb
模型即可。
演示:
假设我们有以下火车DF:
In [250]: df
Out[250]:
Town
0 New York
1 Munich
2 Kiev
3 Paris
4 Berlin
5 New York
6 Zaporizhzhia
一步到位地拟合(训练)和变换(binarize):
In [251]: r1 = pd.DataFrame(lb.fit_transform(df['Town']), columns=lb.classes_)
收益 率:
In [252]: r1
Out[252]:
Berlin Kiev Munich New York Paris Zaporizhzhia
0 0 0 0 1 0 0
1 0 0 1 0 0 0
2 0 1 0 0 0 0
3 0 0 0 0 1 0
4 1 0 0 0 0 0
5 0 0 0 1 0 0
6 0 0 0 0 0 1
lb
现在正在为这些城镇接受培训,这是我们在df
现在我们可以使用经过训练的lb
模型(使用 lb.transform())对新数据集进行二值化:
In [253]: new
Out[253]:
Town
0 Munich
1 New York
2 Dubai # <--- new (not trained) town
In [254]: r2 = pd.DataFrame(lb.transform(new['Town']), columns=lb.classes_)
In [255]: r2
Out[255]:
Berlin Kiev Munich New York Paris Zaporizhzhia
0 0 0 1 0 0 0
1 0 0 0 1 0 0
2 0 0 0 0 0 0