机器学习-马尔可夫链蒙特卡罗，多元伯努利分布的建议分布

Question

多元伯努利模型是否存在合适的建议分布?

例如

我想从概率分布

中抽样

    p(x) = p*(x) / Z;

其中x = {0,1}^M, Z为归一化常数，难以直接绘制独立样本，所以我采用MCMC。

对于多元连续数据，使用高斯作为建议分布是很简单的。对于这种二进制类型的数据是否有合适的提案分布?

注。我不想使用吉布斯抽样，因为它对我来说太慢了。

谢谢

Answer 1

您必须更好地解释您的模型。对于多变量伯努利模型的标准变体，Z是x的维数，因为每个边缘的可能结果的概率之和为1，并且x_is之间没有依赖关系。

Answer 2

我想我找到了我想要的东西，它出现在去年的NIPS会议上:

"二元分布的辅助变量精确哈密顿蒙特卡罗采样器"

Ari Pakman等。

http://www.stat.columbia.edu/liam/研究/酒吧/pakman-exact-binary-hmc.pdf