분산 공식 | 제곱의 평균과 평균의 제곱 관계
목차 (7)
분산은 실제로 '제곱의 평균에서 평균의 제곱을 뺀 값'과 수학적으로 정확히 일치합니다. 이 공식은 통계학에서 자료의 흩어진 정도를 계산할 때 편차의 제곱을 구하는 번거로움을 줄여주는 매우 유용한 계산법입니다. 확률변수의 성질을 이용해 유도되며 고등학교 확률과 통계 및 대학 기초 통계학에서 기본으로 다룹니다. 직접 숫자를 대입하여 계산해 보면 두 계산 방식의 결과가 항상 같음을 확인할 수 있습니다.
분산 계산 공식의 실제 성립 여부
통계에서 분산을 구할 때 원래 정의인 '편차 제곱의 평균'을 계산하는 대신 '제곱의 평균'에서 '평균의 제곱'을 빼는 방식을 씁니다. 수학적 기호로 표현하면 확률변수 X의 분산 V(X)는 E(X^2)
- {E(X)}^2 공식으로 성립합니다. 이 공식은 모든 확률분포와 이산확률변수 및 연속확률변수에서 보편적으로 성립하는 수학적 정리입니다. 수많은 통계 문제에서 계산 과정을 획기적으로 줄여주는 핵심 도구로 쓰입니다.
공식이 유도되는 수학적 배경과 근거
분산의 원래 정의는 변수 값에서 평균을 뺀 편차를 제곱한 값들의 평균인 E({X
- m}^2)입니다. 이 식을 전개하면 E(X^2
- 2mX + m^2)이 되며 기댓값의 선형 성질에 따라 분리할 수 있습니다. 계산을 풀어나가면 E(X^2)
- 2mE(X) + m^2이 되는데 평균 m은 상수이므로 E(X) 역시 m이 됩니다. 결과적으로 E(X^2)
- 2m^2 + m^2이 되어 최종적으로 E(X^2)
- m^2 즉 '제곱의 평균 빼기 평균의 제곱'이 완성됩니다.
데이터의 성격에 따른 계산 결과 차이
주어진 데이터의 형태가 어떻게 주어지느냐에 따라 두 공식의 활용도가 달라집니다.
- 데이터가 단순한 수열로 주어졌을 때는 정의대로 편차를 구하는 것보다 제곱의 평균을 구하는 것이 계산이 훨씬 빠릅니다.
- 확률질량함수나 확률밀도함수가 주어진 경우 적분이나 시그마 계산을 단순화하는 데 이 공식이 필수적입니다.
- 표본 분산과 모분산의 정의에 따라 간혹 분모의 차이가 있을 수 있으나 기대값의 기본 성질은 동일하게 유지됩니다.
공식을 잘못 적용할 때 생기는 오류
이 공식을 사용할 때 '제곱의 평균'과 '평균의 제곱' 순서를 혼동하면 계산 결과가 음수가 나오는 치명적인 오류를 범하게 됩니다. 분산은 데이터의 흩어짐을 나타내므로 절대로 음수가 될 수 없습니다. 또한 개별 데이터를 먼저 제곱한 뒤 전체 평균을 내는 것과 전체 평균을 먼저 구한 뒤 그것을 제곱하는 것을 헷갈리면 안 됩니다. 기호의 의미를 정확히 이해하지 못하고 암기만 하면 복잡한 통계 문제에서 실수하기 쉽습니다.
공식의 참거짓을 검증하는 가장 빠른 경로
이 공식이 정말 맞는지 직접 확인하려면 간단한 숫자로 구성된 데이터셋을 만들어 양쪽 방식으로 계산해 보면 됩니다. 예를 들어 데이터가 1, 2, 3일 때 평균은 2이고 제곱의 평균은 (1+4+9)/3 = 14/3이며 평균의 제곱은 4입니다. 14/3
- 4를 계산하면 2/3가 나오고 원래 정의인 편차 제곱의 평균을 구해도 똑같이 2/3가 나옵니다. 중고등학교 수학 교과서나 통계학 개론 전공 서적의 분산 단원을 펼쳐보면 이 유도 과정이 상세히 증명되어 있습니다.
계산 복잡도를 줄이기 위한 다른 대안
데이터의 숫자가 너무 크거나 복잡할 때 이 공식 외에 보조적으로 쓸 수 있는 방법들이 있습니다.
- 모든 데이터에서 일정한 기준값을 빼서 숫자를 작게 만든 뒤 분산을 구하는 가평균법을 활용할 수 있습니다.
- 데이터에 적당한 상수를 곱하거나 나누어 계산을 단순화한 뒤 나중에 원래 단위로 돌려주는 성질을 이용합니다.
- 공학용 계산기나 스프레드시트 프로그램의 통계 함수를 이용하면 오류 없이 즉시 분산을 산출할 수 있습니다.
분산을 다룰 때 놓치기 쉬운 조건
분산을 계산할 때 이 공식이 편리하지만 데이터가 매우 클 경우 컴퓨터 연산에서 자릿수 유실 문제가 발생할 수 있습니다. 따라서 실제 대규모 데이터 분석에서는 단순 제곱의 평균 대신 편차를 이용한 누적 알고리즘을 사용하기도 합니다. 수학 시험 문제에서는 계산 실수 유도를 위해 분산 공식의 변형 형태를 자주 출제하므로 각 항의 의미를 정확히 파악하고 있어야 합니다.
분산은 제곱의 평균에서 평균의 제곱을 뺀 값과 수학적으로 정확히 일치합니다. 통계 계산을 할 때 이 공식을 적용하면 복잡한 과정을 효율적으로 줄일 수 있습니다.
분산은 편차의 제곱을 더해 평균을 낸 값이므로 정의상 절대로 음수가 나올 수 없으며 항상 0 이상입니다.
표준편차는 분산에 양의 제곱근을 씌운 값으로 원래 데이터와 동일한 단위를 가지도록 만든 통계량입니다.