如何以可微分的方式计算几何平均值?

Question

如何使用 Pytorch 计算沿维度的测距平均值？有些数字可能是负数。该函数必须是可微分的。

Answer 1

几何平均值的已知(合理(数值稳定版本为：

import torch
def gmean(input_x, dim):
log_x = torch.log(input_x)
return torch.exp(torch.mean(log_x, dim=dim))
x = torch.Tensor([2.0] * 1000).requires_grad_(True)
print(gmean(x, dim=0))
# tensor(2.0000, grad_fn=<ExpBackward>)

例如，这种实现可以在 SciPy 中找到(见这里(，这是一个非常稳定的库。

---

上面的实现不处理零和负数。有些人会争辩说，负数的几何平均值没有很好的定义，至少当不是所有的负数都是负数时。

Answer 2

torch.prod(( 帮助：

import torch
x = torch.FloatTensor(3).uniform_().requires_grad_(True)
print(x)
y = x.prod() ** (1.0/x.shape[0])
print(y)
y.backward()
print(x.grad)
# tensor([0.5692, 0.7495, 0.1702], requires_grad=True)
# tensor(0.4172, grad_fn=<PowBackward0>)
# tensor([0.2443, 0.1856, 0.8169])

编辑：呢

y = (x.abs() ** (1.0/x.shape[0]) * x.sign() ).prod()