人工神经网络中的权重初始化

Question

在线性回归的情况下，无论行数如何，每个特征列都有一个系数值。

在神经网络中呢？

在单层感知器的情况下，它的工作原理与线性回归相同，还是特征列中每一行的权重都不同？

Answer 1

让我们看看我有没有帮你。

在MLP中，一层中的每个神经元的输出都是其之前层中所有神经元的线性回归，然后在进行线性回归后，选择性地将激活应用于该层。

ANN中的每个参数至少在值方面与其他参数无关。

数据中的行数是示例或批次的数量，而列数是特征或输入的数量。

至于权重初始化，有很多技术。其中最常见的是Xavier初始化。

如果你指的是包含层权重的矩阵的形状，它应该是(n_features，layer_out_size(的形状。