1. 좋은 추정량을 구하는 법
※ 미지의 모수에 대해 좋은 추정량/추정값을 구하는 일반적인 방법으로써,
- 대부분, 실제 모수와 추정량과의 차이를 작게 가져가기 위해,
- `평균제곱오차`, `추정량의 분산` 등을 `최소화`시키는 등 여러 방법이 가능함
2. 추정법 구분 및 특징
ㅇ 최소자승법 (Method of Least Squares)
- 확률분포를 고려치 않고도 추정량을 구하는 법
- 평균제곱오차가 최소가 되도록 (최소 평균제곱오차) 추정량을 만드는 것
ㅇ 적률법 (Method of Moment Estimate, MME)
- 점추정량을 구하는 가장 오래된 방법
- 모집단 확률분포를 알지 못해도, 모집단 적률에 대한 추정량을 구할 수 있는 방법
. k차 모 적률 ({#m_k=E[X^k]#})을 k차 표본 적률 ({#\hat{m}_k=1/n\;\sum^m_{i=1}X_i^k#})과 일치시켜, 모수를 추정
- 사용하기 매우 간단하고, 거의 항상 추정값을 제공
- 다만, 비현실적인 추정량을 제시하는 경우도 있음
ㅇ 최대가능도법 또는 최대우도법 (Method of Maximum Likelihood Estimate, MLE)
- 특정 확률분포를 가정하여, 그때 최대우도를 보이는 추정량을 구하는 법
. 관측결과를 바탕으로 관측되었을 가능성이 가장 큰 모수값을 모수로 추정
- 이론적으로 좋은 성질을 많이 갖고 있어 자주 사용됨
ㅇ 최대 사후확률 판정법 (Maximum A Posteriori, MAP)
- 사후확률을 최대화시키는 부류로 추정 분류하는 결정규칙
ㅇ 베이즈 추정법
- 데이터 수가 적어도 추측가능하고, 데이터 수가 많아질수록 정확해짐
- 데이터에 실시간적으로 반응하여 추정의 자동화가 가능함