Mean, Expectation, Average의 세 단어 모두 '평균' 혹은 '평균값'이라는 뜻인데, 다 같은 평균이 아니다.
특히 Expectation은 '기대값'이라고도 하는데, 차이점은 다음과 같다.
1. Mean VS Expectation
Mean은 산술 평균, 기하 평균, 조화 평균 등 모든 평균을 아우르는 말이다.
반면 Expectation은 보통 '기대값'이라고 한다.
Mean은 주어진 sample data에 종속적이다. 즉 '현재까지 관측된 데이터의 평균'을 의미한다.
따라서 샘플이 어떻게 주어지냐에 따라 값이 달라진다.
Expectation은 Mean과 달리 주어진 sample data에 대해 독립적이다. 즉 '랜덤변수에 대해 가장 관측될 확률이 높은 값'을 의미한다. '관측될 것으로 기대되는 값'이라서 '기대값'인 것이다.
따라서 sample 수가 무한하다면 (mean) = (expectation)이 될 것이다.
2. Average
일반적으로 산술 평균만을 말하며, dataset을 '대표하는 값' 정도로 해석될 수 있다.
다만 문맥에 따라 기하평균, 조화평균이나 중간값 (Median) 또는 최빈값 (Mode)을 의미할 수도 있다.