clipnorm和clipval之间有什么区别。
例如:opt = SGD(lr=0.01, momentum=0.9, clipnorm=1.0)
在clipnorm
的情况下,梯度的l2范数上限为指定值。
而clipvalue
限制梯度值,使其不超过指定值