变分自动编码器是否只基于潜在表示进行分配

Question

如果我的变分自动编码器(VAE(的潜在表示是r，而我的数据集是x，那么VAE的潜在表示是否遵循基于r或x的归一化？

1. 如果r=10，这意味着它有10个均值和方差(多gussain(，并且分布来自数据整个数据x
2. 或者r=10基于r构建一个分布，每个样本都试图遵循这个分布

我不知道哪一个是正确的

Answer 1

VAE构造映射e(x(->Z(编码器(和d(Z(->X(解码器(。这意味着输入空间x的每个元素都将通过编码器e(x(映射到单个r维高斯中。它不是一个"；混合物"；，它只是一个具有对角协方差矩阵的单一高斯。

Answer 2

我将把我的2美分加到@lejlot答案中。

VAE中的编码器会将您的样本映射到一个分布，在您的情况下，该分布有10个维度。。。该分布被用来表示"；好的，我对这个样本的这个性质的最佳估计是μ，但我不太确定，所以考虑它可能有方差西格玛；

因此，每个样本都有一个分布。

然而，为了使VAE中的采样更容易，我们要求VAE保持分布尽可能接近已知分布，即标准正态分布(我们知道"分布位于何处"，如果你检查正态AE中的潜在空间，你会发现你会有彼此相距甚远的组(。