[Data Science / Statistics] Statistical Estimation & Sampling Distributions - Point Estimation

[Definition] 파라미터(Parameters)

통계적 추론에 있어, 파라미터란 어떠한 측정량, \(\theta\)를 지칭하는데 사용된다. \(\theta\)는 알려지지 않은 확률 분포의 속성이다. 예를 들어, \(\theta\)는 확률 분포의 평균, 분산, 또는 Quantile 등이 될 수 있다. 파라미터는 미지의 값이며, 통계적 추론의 한 가지 목표는 이러한 파라미터를 추정하는 것이다.

[Definition] 통계량(Statistics)

통계적 추론에 있어, 통계량이란 표본의 속성인 측정량을 지칭하는데 사용된다. 예를 들어, 표본 평균, 표본 분산 또는 표본 퀀타일 등을 일컫는다. 통계량은 관찰된 값이 관찰된 데이터 값의 집합으로부터 계산되는 랜덤 변수이다. 통계량은 미지의 파라미터를 추정하는데 사용된다.

[Definition] 추정(Estimation)과 점 추정(Point Estimation)

추정이란 표본 내에 포함된 정보를 이용하여 표본이 추출된 모집단의 특성을 조사하는 절차이다. 특히 미지의 파라미터 \(\theta\)의 점 추정이란 \(\theta\)값의 최선의 추정값인 통계량 \(\hat{\theta}\)이다.

점 추정(Point Estimation)이란, 샘플 데이터를 사용하여 알려지지 않은 (정해진 또는 랜덤의) 모집단 파라미터를 "가장 잘 추측(Best Guess)"할 수 있도록 하나의 값(Statistic이라고 함)을 계산하는 것을 의미한다.

           [점 추정 \(\theta\)과 미지의 파라미터 \(\hat{\theta}\) 사이의 관계]