MCMC

MCMC(Monte Carlo Markov Chain)是统计学中用于采样的一类方法.它通过构造一个Markov Chain(马尔科夫链),而这个Markov Chain的平稳分布是我们希望采样的概率分布,模拟到达平稳分布后的状态来获得该分布的采样.

命名来源

• Monte Carlo是因为使用了Monte Carlo Simulation的模拟方法
• Markov Chain是因为利用了Markov Chain的stationary distribution

具体方法

• Metropolis方法
• Metropolis-Hastings方法
• Gibbs Sampler

Gibbs Sampler

Gibbs Sampler(吉布斯采样)是一种MCMC方法,用于不方便直接采样多变量分布时.它是按轮逐个得基于条件概率来采样每个变量(子变量集合).比如我们的变量为 $$ X=(x_1, x_2, x_3) $$
t轮采样的顺序为

1. $ x_1^t \sim p(X_1=x_1^t |X_2=x_2^{t-1}, X_3=x_3^{t-1} ) $, 采样得到的点为$(x_1^t, x_2^{t-1}, x_3^{t-1})$
2. $ x_2^t \sim p(X_2=x_2^t |X_1=x_1^t, X_3=x_3^{t-1} ) $, 采样得到的点为$(x_1^t, x_2^t, x_3^{t-1})$
3. $ x_3^t \sim p(X_3=x_3^t |X_1=x_1^t, X_2=x_2^t ) $, 采样得到的点为$(x_1^t, x_2^t, x_3^t)$