Python Sklearn MultinomialnB:使用DICTVECTORIZER的维度不匹配

Question

我正在尝试做MultinomialNB。我得到了Value Error: dimension mismatch。

我正在使用DictVectorizer进行培训数据，而LabelEncoder用于类。

这是我的代码：

def create_token(inpt):
    return inpt.split(' ')
def tok_freq(inpt):
    tok = {}
    for i in create_token(inpt):
        if i not in tok:
            tok[i] = 1
        else:
            tok[i] += 1
    return tok
training_data = []
for i in range(len(raw_data)):
    training_data.append((get_freq_of_tokens(raw_data.iloc[i].text), raw_data.iloc[i].category))
#vectorization
X, y = list(zip(*training_data))
label = LabelEncoder()
vector = DictVectorizer(dtype=float, sparse=True)
X = vector.fit_transform(X)
y = label.fit_transform(y)
multinb = mnb()
multinb.fit(X,y)
#vectorization for testing set
Xz = tok_freq(sms)
testX = vector.fit_transform(Xz)
multinb.predict(testX)

我的代码的哪一部分是错误的？谢谢。

Answer 1

更改

testX = vector.fit_transform(Xz)

to：

testX = vector.transform(Xz)

进行fit()或fit_transform()时，您本质上是在新数据上训练矢量机，这不是您想要的。您只想以与火车集相同的方式转换测试集，因此仅致电transform()