我正在创建自己的神经网络，并想知道权重与激活功能的关系。我已经编码了逻辑和tanh激活功能，并想知道附加到单个神经元的权重是否必须在每个功能上有所不同。现在，我拥有逻辑激活函数的权重范围从0到1，而tanh为-1至1。
为什么要限制权重？我认为您的某个地方混乱了。这就是确定神经元的输出的方式：
var output = ActivationFunction(every(connection.weight * connection.from.output) + bias)
因此，将所有传入权重及其源值的总和添加偏差，然后通过激活函数传递。
是，Sigmoid在0和1之间受到限制。但是，为什么因此会限制自己的体重呢？权重的值无链接到激活函数。
将您的权重限制为如此小的范围(0至1是一个微小范围(将使您的网络无法求解某些模式。