Importance Sampling

Monte Carlo Integration

1. 기대값을 샘플의 평균으로 근사

Importance Sampling

1. 효율적인 접근 방법
2. sample의 w(s)로 한다.
3. 평균은 weighted sample의 평균이다. 
4. 관심있는 영역이나, 중요한 영역에서 샘플하길 원한다.
1. 중요한 영역에 over-weight을 주는 분산으로 부터 샘플 추출
2. 왜 이 것을 쓰는가?
1. A영역 밖에 랜덤 변수들은 거의 0에 가깝다면, 샘플링 실패 확률이 높아진다.

Gibbs sampling

Gibbs sampling

1. 확률적 알고리즘: 결합 확률 분포 => 일련의 표본 생성
2. 2개 이상 확률 변수
3. MCMC의 대중적인 sampler
4. 다 변수
5. Bayesian 방법으로 인기가 있다.
1. 자주 conditional expression 사용되기 때문
6. 느리다.
7. 높은 확률을 가지는 쪽에 빠질 수 있다.
8. heavy tails나 multiple mode일 경우에 약하다.

Random Generation Number

1. randn() 
1. 표준정규분포(standard normal distribution)
2. 평균이 0
3. 표준 편차 1
2. normrnd(mu,sigma)=> r = randn() * sigma + mu
3. http://theclevermachine.wordpress.com/tag/gibbs-sampler/ 참조