Python: Sklearn.linear_model.线性回归工作奇怪

Question

我试图做多变量线性回归。但是我发现sklearn。线性模型工作非常奇怪。下面是我的代码:

import numpy as np
from sklearn import linear_model
b = np.array([3,5,7]).transpose() ## the right answer I am expecting
x = np.array([[1,6,9],   ## 1*3 + 6*5 + 7*9 = 96
              [2,7,7],   ## 2*3 + 7*5 + 7*7 = 90
              [3,4,5]])  ## 3*3 + 4*5 + 5*7 = 64
y = np.array([96,90,64]).transpose()
clf = linear_model.LinearRegression()
clf.fit([[1,6,9],
         [2,7,7],
         [3,4,5]], [96,90,64])
print clf.coef_ ## <== it gives me [-2.2  5  4.4] NOT [3, 5, 7]
print np.dot(x, clf.coef_) ## <== it gives me [ 67.4  61.4  35.4]

Answer 1

为了找到你的初始系数，你需要在构建线性回归时使用关键字fit_intercept=False。

import numpy as np
from sklearn import linear_model
b = np.array([3,5,7])
x = np.array([[1,6,9],  
              [2,7,7],   
              [3,4,5]])  
y = np.array([96,90,64])
clf = linear_model.LinearRegression(fit_intercept=False)
clf.fit(x, y)
print clf.coef_
print np.dot(x, clf.coef_)

使用fit_intercept=False可以防止LinearRegression对象与x - x.mean(axis=0)一起工作，否则它会这样做(并使用恒定偏移量y = xb + c捕获平均值)-或者等同地通过向x添加1列。

作为旁注，在1D数组上调用transpose没有任何效果(它颠倒了您的轴的顺序，并且您只有一个)。