Adım Adım Bayesci Çıkarım 2 - Sonsal Dağılımın Hesaplanması
Bir çok modelde birden fazla parametre olacaktır. Dolayısıyla parametreler, 
şeklinde bir vektör olacaktır. Bu durumda sonsal
dağılım, 
çok değişkenli bir olasılık dağılımı
olacaktır. Bu durumda, örneğin, 
parametresini tahmin
etmek istediğimizde
integralini hesaplamalıyız. Çoğu durumda bu integralin analitik olarak bir çözümü bulunamadığından nümerik yöntemlere başvurmalıyız.
Monte Carlo İntegrasyonu
integralini hesaplamak istediğimizi düşünelim. Eğer 
,
polinom fonksiyon ya da trigonometrik fonksiyon gibi kolay bir fonksiyon ise, integralin kapalı form çözümünü
bulmak kolaydır. Ancak daha komplike bir fonksiyon
ise integralin kapalı form çözümü olmayabilir. Bu durumda integrali nümerik olarak hesaplayabilmek için çeşitli
yöntemler bulunmaktadır. Monte Carlo integrasyonu bunlardan biridir.
İlk olarak
yazalım. Burada 
ve 
‘dır. Burada 
, 
aralığında düzgün dağılan bir
olasılık yoğunluk fonksiyonudur. Bundan dolayı 
olmak
üzere
olur. Eğer 
sayılarını üretirsek, Büyük Sayılar
Kanunu nedeniyle
olur. Ayrıca 
ve 
olmak üzere standart hatayı
ile hesaplayabiliriz. Integralin 
güven aralığı ise
ile hesaplanabilir.
Böylece en basit Monte Carlo integrasyonunu gördük. Importance sampling, Gibbs sampling, Hamiltonian Monte Carlo (HMC) gibi daha komplike ve modern yöntemler de mevcuttur.
Markov Chain Monte Carlo (MCMC)
MCMC algoritmaları hakkında kısaca bilgi verelim. MCMC algoritmasının temel amacı, durağan dağılımı (stationary distribution) hedef dağılım olan bir Markov zinciri tasarlamaya dayanır.
Bir Markov zinciri, stokastik süreçlerin özel bir tipidir. Bir stokastik
süreç, 
çoğunlukla zamanı göstermek üzere,
şeklinde tanımlanan, rassal değişkenlerin sıralı bir koleksiyonudur. 
değerini, 
durumunun anındaki değeri olarak
düşünürsek ve her bir durum için
koşulunu koyarsak, stokastik süreç Markov zinciri olarak adlandırılır. Yani, gelecekteki durum, sadece şu anki durumdan etkilenir, geçmiş durumlardan etkilenmez.